JP6201798B2 - System, information processing apparatus, information processing method, and information processing program - Google Patents

System, information processing apparatus, information processing method, and information processing program Download PDF

Info

Publication number
JP6201798B2
JP6201798B2 JP2014024911A JP2014024911A JP6201798B2 JP 6201798 B2 JP6201798 B2 JP 6201798B2 JP 2014024911 A JP2014024911 A JP 2014024911A JP 2014024911 A JP2014024911 A JP 2014024911A JP 6201798 B2 JP6201798 B2 JP 6201798B2
Authority
JP
Japan
Prior art keywords
image data
focus
camera device
degree
character recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014024911A
Other languages
Japanese (ja)
Other versions
JP2015153040A (en
Inventor
末延 望
望 末延
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014024911A priority Critical patent/JP6201798B2/en
Publication of JP2015153040A publication Critical patent/JP2015153040A/en
Application granted granted Critical
Publication of JP6201798B2 publication Critical patent/JP6201798B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Description

本発明は、システム、情報処理装置、情報処理方法、および情報処理プログラムに関する。   The present invention relates to a system, an information processing apparatus, an information processing method, and an information processing program.

従来、屋外に設置されたカメラ装置によって走行中の車両のナンバープレートを撮像し、ナンバープレートが写った画像データの文字認識処理によって、車両のナンバーを読み取るシステムがある。関連する先行技術として、例えば、対象物を撮像した画像に映る像のエッジ強度をエッジの方向に基づいて補正し、補正後の強度を画像のぼけの程度を表すぼけ評価値として検出し、被写体を撮像する際の焦点位置の設定を、ぼけ評価値に基づき調整するものがある。また、複数のエリアの1エリア分の輪郭信号および画像信号から、該当のエリアの合焦状態を表すフォーカス評価値と履歴との比較結果から該当のエリアが合焦しているか否かを判断し、合焦を検出したエリアと合焦していないエリアを区別して表示する技術がある。(例えば、下記特許文献1、2を参照。)   2. Description of the Related Art Conventionally, there is a system in which a license plate of a running vehicle is imaged by a camera device installed outdoors and a vehicle number is read by character recognition processing of image data in which the license plate is reflected. As a related prior art, for example, the edge intensity of an image reflected in an image obtained by capturing an object is corrected based on the direction of the edge, and the corrected intensity is detected as a blur evaluation value that represents the degree of blur of the image. There are some which adjust the setting of the focal position when imaging the image based on the blur evaluation value. Further, from the contour signal and the image signal for one area of the plurality of areas, it is determined whether or not the corresponding area is in focus from the comparison result between the focus evaluation value indicating the focused state of the corresponding area and the history. There is a technique for distinguishing and displaying an area where focus is detected and an area where focus is not achieved. (For example, see Patent Documents 1 and 2 below.)

特開2012−073679号公報JP 2012-073679 A 特開2004−309915号公報JP 2004-309915 A

しかしながら、従来技術では、カメラ装置の部品が周辺温度変化に応じて膨張、収縮して焦点距離が変動し、車両等の移動対象物に焦点が合っていない状態で撮像された画像データに対して文字認識が行われて、移動対象物の誤認識が発生してしまう場合がある。   However, in the prior art, the parts of the camera device expand and contract in response to changes in the ambient temperature, the focal length fluctuates, and image data captured in a state where the moving object such as a vehicle is not in focus Character recognition is performed, and erroneous recognition of a moving object may occur.

1つの側面では、本発明は、移動対象物の誤認識の発生を抑制できるシステム、情報処理装置、情報処理方法、および情報処理プログラムを提供することを目的とする。   In one aspect, an object of the present invention is to provide a system, an information processing apparatus, an information processing method, and an information processing program that can prevent occurrence of erroneous recognition of a moving object.

1つの態様では、カメラ装置と、カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能な情報処理装置と、を有するシステムであって、情報処理装置は、画角が同一であり、焦点距離が同一である状態で、同一の移動対象物をカメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、各々の画像データの文字認識処理により得られた移動対象物の認識結果とに基づいて、カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した閾値との比較結果に基づいて、前述の画像データを文字認識処理の対象とするか否かを判断するシステム、情報処理装置、情報処理方法、および情報処理プログラムが提案される。   In one aspect, a system having a camera device and an information processing device capable of acquiring a recognition result of character recognition processing of image data captured by the camera device, the information processing devices having the same angle of view. In the state where the focal distance is the same, the value indicating the degree of focus of each image data of the plurality of image data obtained by imaging the same moving object by the camera device and the character recognition processing of each image data are obtained. Based on the recognition result of the moving object, a threshold value regarding the degree of focus of the image data captured by the camera device is determined, and a value indicating the degree of focus of the image data captured by the camera device and the determined threshold value A system, an information processing apparatus, an information processing method, and an information processing program for determining whether or not the above-described image data is to be subjected to character recognition processing based on the comparison result are proposed.

1つの側面では、移動対象物の誤認識の発生を抑制できるという効果を奏する。   In one aspect, there is an effect that occurrence of erroneous recognition of a moving object can be suppressed.

図1は、本実施の形態にかかるシステムの動作例を示す説明図である。FIG. 1 is an explanatory diagram illustrating an operation example of the system according to the present embodiment. 図2は、車番認識システムの接続例を示す説明図である。FIG. 2 is an explanatory diagram showing a connection example of the vehicle number recognition system. 図3は、車番認識装置のハードウェア構成例を示すブロック図である。FIG. 3 is a block diagram illustrating a hardware configuration example of the vehicle number recognition device. 図4は、焦点距離に応じた合焦範囲の変化の一例を示す説明図である。FIG. 4 is an explanatory diagram illustrating an example of a change in the focusing range according to the focal length. 図5は、車番認識装置の機能構成例を示すブロック図である。FIG. 5 is a block diagram illustrating a functional configuration example of the vehicle number recognition device. 図6は、個別フォーカス限界値の決定例を示す説明図である。FIG. 6 is an explanatory diagram showing an example of determining the individual focus limit value. 図7は、全体フォーカス限界値の決定例を示す説明図(その1)である。FIG. 7 is an explanatory diagram (part 1) illustrating an example of determining the overall focus limit value. 図8は、全体フォーカス限界値の決定例を示す説明図(その2)である。FIG. 8 is an explanatory diagram (part 2) of an example of determining the overall focus limit value. 図9は、初期状態とフォーカスシフトが起きた状態とにおけるフォーカス評価値の一例を示す説明図である。FIG. 9 is an explanatory diagram showing an example of the focus evaluation value in the initial state and the state where the focus shift has occurred. 図10は、全体フォーカス限界値決定処理手順の一例を示すフローチャートである。FIG. 10 is a flowchart illustrating an example of the overall focus limit value determination processing procedure. 図11は、個別フォーカス限界値決定処理手順の一例を示すフローチャートである。FIG. 11 is a flowchart illustrating an example of an individual focus limit value determination processing procedure. 図12は、ナンバープレート認識処理手順の一例を示すフローチャートである。FIG. 12 is a flowchart illustrating an example of the license plate recognition processing procedure.

以下に図面を参照して、開示のシステム、情報処理装置、情報処理方法、および情報処理プログラムの実施の形態を詳細に説明する。   Hereinafter, embodiments of a disclosed system, an information processing apparatus, an information processing method, and an information processing program will be described in detail with reference to the drawings.

図1は、本実施の形態にかかるシステムの動作例を示す説明図である。本実施の形態にかかるシステム100は、カメラ装置102が撮像した画像データの文字認識処理の認識結果を取得可能な情報処理装置101と、カメラ装置102とを有する。システム100は、カメラ装置102が撮像した移動対象物に描かれた文字を認識し、システム100の利用者に提供する。   FIG. 1 is an explanatory diagram illustrating an operation example of the system according to the present embodiment. A system 100 according to the present embodiment includes an information processing apparatus 101 that can acquire a recognition result of character recognition processing of image data captured by the camera apparatus 102 and a camera apparatus 102. The system 100 recognizes characters drawn on the moving object imaged by the camera device 102 and provides them to the user of the system 100.

移動対象物は、移動する物体であればどのようなものでもよい。例えば、移動対象物は、走行中の車両のナンバープレートであり、移動対象物に描かれた文字は、ナンバープレート内の文字である。以下、移動対象物を、ナンバープレートとして説明する。   The moving object may be any object that moves. For example, the moving object is a license plate of a traveling vehicle, and characters drawn on the moving object are characters in the license plate. Hereinafter, the moving object will be described as a license plate.

情報処理装置101は、カメラ装置102が撮像した画像データの文字認識処理の認識結果を取得可能なコンピュータである。文字認識処理について、情報処理装置101が文字認識処理を実行してもよいし、情報処理装置101以外の装置が文字認識処理を実行してもよい。以下の例では、情報処理装置101が文字認識処理を実行するものとする。   The information processing apparatus 101 is a computer that can acquire a recognition result of character recognition processing of image data captured by the camera apparatus 102. Regarding the character recognition process, the information processing apparatus 101 may execute the character recognition process, or an apparatus other than the information processing apparatus 101 may execute the character recognition process. In the following example, it is assumed that the information processing apparatus 101 performs character recognition processing.

カメラ装置102は、ナンバープレートを撮像する装置である。カメラ装置102は、撮像結果を、画像データとして情報処理装置101に送信する。撮像結果は、一連の動画像データでもよいし、複数の静止画像データでもよい。また、カメラ装置102は、屋外に設置されると、設置された周辺の温度変化によってカメラ装置102の構成部品の熱膨張や収縮が起こり、カメラ装置102のレンズ駆動系を動作させていないにも関わらず、焦点距離が移動する場合がある。このような、レンズ駆動系を動作させていないにも関わらず焦点距離が移動することを、「フォーカスシフト」と称する。   The camera device 102 is a device that images a license plate. The camera apparatus 102 transmits the imaging result to the information processing apparatus 101 as image data. The imaging result may be a series of moving image data or a plurality of still image data. In addition, when the camera device 102 is installed outdoors, the thermal expansion and contraction of the components of the camera device 102 occur due to a change in temperature around the camera device 102, and the lens driving system of the camera device 102 is not operated. Regardless, the focal length may move. Such a movement of the focal length despite not operating the lens driving system is referred to as “focus shift”.

フォーカスシフトが発生した場合、カメラ装置102は、レンズ駆動系を動作させないままナンバープレートを撮影すると、ナンバープレートに合焦していない状態で撮像してしまう場合がある。ナンバープレートに合焦していない状態で撮像した画像データには、ナンバープレートがピンボケした状態で写ることになる。ナンバープレートがピンボケした状態で写った画像データに対して文字認識処理を行うと、類似した文字と間違うといった誤読が発生して、文字認識処理の精度が劣化する場合がある。例えば、ピンボケした「め」の画像データに対して文字認識処理を行うとする。この時、文字認識処理を行う装置は、文字認識処理で用いる辞書画像の「め」の形状および「ぬ」の形状を、ピンボケした「め」の形状と比較した結果、「ぬ」と比較した方が形状がより近いという評価値を求めてしまう場合がある。   When a focus shift occurs, if the camera device 102 captures the license plate without operating the lens driving system, the camera device 102 may capture the image without focusing on the license plate. In the image data picked up in a state where the license plate is not in focus, the license plate is taken out of focus. When character recognition processing is performed on image data captured with a license plate out of focus, erroneous reading such as a mistake with a similar character may occur, and the accuracy of the character recognition processing may deteriorate. For example, it is assumed that character recognition processing is performed on the image data of “Me” that is out of focus. At this time, the device that performs the character recognition processing compared the shape of the dictionary image “Me” and the shape of “Nu” used in the character recognition processing with the shape of the “Me” that was out of focus. There is a case where an evaluation value that the shape is closer is obtained.

さらに、より正確な認識結果を得るために、カメラ装置102による監視範囲を1つのナンバープレートが通過する間に撮像して得られた複数の画像データを用いて認識処理を行い、文字照合時における評価値が最良となる認識結果を通知する技術がある。しかしながら、フォーカスシフトが発生し、合焦していないナンバープレートを認識し、認識結果が誤りであっても、文字照合時における評価値が、合焦したナンバープレートを認識した場合と比べて、大きい値となることがある。この時、文字認識処理を行う装置は、正しい認識結果が選択できず、誤読通知となってしまう。   Furthermore, in order to obtain a more accurate recognition result, recognition processing is performed using a plurality of image data obtained by imaging while one license plate passes through the monitoring range of the camera device 102, and at the time of character collation There is a technique for notifying a recognition result with the best evaluation value. However, even if the focus shift occurs and the license plate that is not in focus is recognized and the recognition result is incorrect, the evaluation value at the time of character collation is larger than when the focused license plate is recognized. May be a value. At this time, the device that performs the character recognition process cannot select a correct recognition result, resulting in a misread notification.

また、フォーカスシフトが発生した場合に、自動で焦点距離を調整する、いわゆるオートフォーカスにより焦点距離を調整することも考えられる。しかしながら、オートフォーカスを行うと、フォーカスシフトが発生する度にレンズ駆動系を動作させることになるため、カメラ装置102の故障までの期間が短くなってしまう。また、移動するナンバープレートに対してオートフォーカスの設定が間に合わないと、ナンバープレートに焦点が合っていない画像データに対して文字認識を行ってしまうことになる。   It is also conceivable to adjust the focal length by so-called autofocus, which automatically adjusts the focal length when a focus shift occurs. However, when autofocusing is performed, the lens drive system is operated every time a focus shift occurs, so the period until the camera device 102 fails is shortened. If the autofocus setting is not in time for the moving license plate, character recognition is performed on image data that is not focused on the license plate.

そこで、本実施の形態にかかる情報処理装置101は、走行中の車両のナンバープレートが写る複数の画像のフォーカス評価値と文字認識結果から決めた閾値を用いて、以降撮像される画像を認識するか判断する。これにより、情報処理装置101は、フォーカスシフトによるぼけ画像を認識対象から除きナンバーの誤認識の発生を防ぐことができる。   Therefore, the information processing apparatus 101 according to the present embodiment recognizes an image to be captured thereafter using a focus evaluation value of a plurality of images in which a license plate of a traveling vehicle is captured and a threshold value determined from a character recognition result. Judge. As a result, the information processing apparatus 101 can remove the blurred image due to the focus shift from the recognition target and prevent the erroneous recognition of the number.

具体的には、まず、カメラ装置102は、画角が同一であり、焦点距離が同一である状態で、同一のナンバープレートを複数回撮像する。次に、情報処理装置101は、複数の画像データの各々の画像データの合焦度合いを示す値と各々の画像データの文字認識処理により得られたナンバープレートの認識結果とに基づいて、カメラ装置102が撮像した画像データの合焦度合いに関する閾値を決定する。そして、情報処理装置101は、カメラ装置102が撮像した画像データの合焦度合いを示す値と、決定した閾値との比較結果に基づいて、前述の画像データを文字認識処理の対象とするか否かを判断する。   Specifically, first, the camera apparatus 102 images the same license plate a plurality of times in a state where the angle of view is the same and the focal length is the same. Next, the information processing apparatus 101 uses the camera device based on the value indicating the degree of focus of each of the plurality of image data and the license plate recognition result obtained by the character recognition processing of each image data. A threshold value regarding the degree of focus of image data captured by the camera 102 is determined. Then, the information processing apparatus 101 determines whether or not the above-described image data is to be subjected to character recognition processing based on the comparison result between the value indicating the degree of focus of the image data captured by the camera apparatus 102 and the determined threshold value. Determine whether.

以下、合焦度合いを示す値を、「フォーカス評価値」と呼称する。フォーカス評価値は、合焦度合いが高い程大きな値でもよいし、合焦度合いが低い程大きな値でもよい。以下に示すフォーカス評価値は、合焦度合いが高い程大きな値であるとする。フォーカス評価値は、エッジの強度に基づいて算出される。例えば、情報処理装置101は、画像データの輝度の傾き具合の平均値、最大値、累計等を、ソーベルフィルタによりフィルタリングして得た値をフォーカス評価値とする。   Hereinafter, the value indicating the degree of focus is referred to as “focus evaluation value”. The focus evaluation value may be a larger value as the degree of focusing is higher, or may be a larger value as the degree of focusing is lower. The focus evaluation values shown below are assumed to be larger as the degree of focus is higher. The focus evaluation value is calculated based on the edge strength. For example, the information processing apparatus 101 uses, as a focus evaluation value, a value obtained by filtering an average value, a maximum value, a cumulative value, and the like of the luminance gradient of image data using a Sobel filter.

また、カメラ装置102が撮像した画像データの合焦度合いに関する閾値を、「フォーカス限界値」と呼称する。フォーカス限界値は、画像データが合焦したか否かを判断する際に基準となる閾値となる。   In addition, a threshold relating to the degree of focus of image data captured by the camera apparatus 102 is referred to as a “focus limit value”. The focus limit value is a threshold value used as a reference when determining whether or not the image data is in focus.

図1の(A)では、フォーカス限界値を決定する処理の一例を示す。図1の(A)では、フォーカスシフトが発生していないものとする。フォーカスシフトが発生していない状態におけるカメラ装置102が撮影する撮影範囲に対して、合焦する合焦範囲は、撮影範囲のほぼ中央に位置するものとする。   FIG. 1A shows an example of processing for determining a focus limit value. In FIG. 1A, it is assumed that no focus shift has occurred. It is assumed that the in-focus range to be in focus is located approximately at the center of the imaging range with respect to the imaging range in which the camera apparatus 102 captures an image when no focus shift occurs.

図1の(A)において、カメラ装置102は、走行中の車両c1のナンバープレートn1を、時刻t1、t2、t3という3つの時刻で撮像する。ここで、時刻t1では、ナンバープレートn1が合焦範囲に入っておらず、時刻t2、t3では、ナンバープレートn1が合焦範囲に入っているものとする。撮像して得られた画像データを、それぞれ、画像データn1−p1〜n1−p3とする。画像データn1−p1は、ナンバープレートn1が合焦範囲に入っていない時点で撮像されたため、ぼけた画像となる。画像データn1−p2、n1−p3は、ナンバープレートn1が合焦範囲に入っている時点で撮像されたため、鮮明な画像となる。カメラ装置102は、画像データn1−p1〜n1−p3を情報処理装置101に送信する。   In FIG. 1A, the camera device 102 images the license plate n1 of the traveling vehicle c1 at three times, times t1, t2, and t3. Here, it is assumed that the license plate n1 is not in the focus range at time t1, and the license plate n1 is in the focus range at times t2 and t3. The image data obtained by imaging is referred to as image data n1-p1 to n1-p3, respectively. The image data n1-p1 is a blurred image because it was captured when the license plate n1 was not in the in-focus range. Since the image data n1-p2 and n1-p3 are captured when the license plate n1 is in the in-focus range, the image data is clear. The camera apparatus 102 transmits the image data n1-p1 to n1-p3 to the information processing apparatus 101.

画像データn1−p1〜n1−p3を受け付けた情報処理装置101は、画像データn1−p1〜n1−p3のフォーカス評価値と、画像データn1−p1〜n1−p3の文字認識処理により得られたナンバープレートの認識結果とを求める。図1の(A)では、情報処理装置101は、画像データn1−p1〜n1−p3のフォーカス評価値を、それぞれ、700、800、780と算出する。また、情報処理装置101は、画像データn1−p1〜n1−p3に対して文字認識処理を実行し、それぞれ、“1382”、“1362”、“1362”という認識結果を得る。   The information processing apparatus 101 that has received the image data n1-p1 to n1-p3 is obtained by the focus evaluation values of the image data n1-p1 to n1-p3 and the character recognition processing of the image data n1-p1 to n1-p3. Obtain the license plate recognition result. In FIG. 1A, the information processing apparatus 101 calculates the focus evaluation values of the image data n1-p1 to n1-p3 as 700, 800, and 780, respectively. The information processing apparatus 101 performs character recognition processing on the image data n1-p1 to n1-p3, and obtains recognition results of “1382”, “1362”, and “1362”, respectively.

続けて、情報処理装置101は、画像データn1−p1〜n1−p3のフォーカス評価値と、画像データn1−p1〜n1−p3の文字認識処理により得られた移動対象物の認識結果とに基づいて、フォーカス限界値を決定する。具体的なフォーカス限界値の決定例は、図5、図6で後述する。図1の(A)の例では、情報処理装置101は、画像データn1−p1〜n1−p3のうちの、フォーカス評価値が最大となる画像データn1−p2が正しく認識できたであろうと見做す。そして、情報処理装置101は、画像データn1−p2の認識結果“1362”と異なる文字認識結果である認識結果“1382”を得た画像データn1−p1のフォーカス評価値である700を、フォーカス限界値として決定する。   Subsequently, the information processing apparatus 101 is based on the focus evaluation values of the image data n1-p1 to n1-p3 and the recognition result of the moving object obtained by the character recognition processing of the image data n1-p1 to n1-p3. To determine the focus limit value. A specific example of determining the focus limit value will be described later with reference to FIGS. In the example of FIG. 1A, the information processing apparatus 101 assumes that the image data n1-p2 having the maximum focus evaluation value among the image data n1-p1 to n1-p3 would have been correctly recognized. Hesitate. Then, the information processing apparatus 101 sets the focus evaluation value 700 of the image data n1-p1 obtained the recognition result “1382”, which is a character recognition result different from the recognition result “1362” of the image data n1-p2, to the focus limit. Determine as value.

次に、図1の(B)では、検出したナンバープレートを認識するか否か判断する処理の一例を示す。図1の(B)では、日差しが強くなった結果、カメラ装置102が熱膨張を起こし、フォーカスシフトが発生したものとする。フォーカスシフトが発生した状態におけるカメラ装置102が撮影する撮影範囲に対して、合焦する合焦範囲は、カメラ装置102側に寄った位置にあるものとする。   Next, FIG. 1B shows an example of processing for determining whether or not to recognize a detected license plate. In FIG. 1B, it is assumed that, as a result of the strong sunlight, the camera apparatus 102 undergoes thermal expansion and a focus shift occurs. It is assumed that the in-focus range to be focused is at a position close to the camera device 102 side with respect to the imaging range in which the camera device 102 captures the image in the state where the focus shift has occurred.

図1の(B)において、カメラ装置102は、走行中の車両c2のナンバープレートn2を検出して、時刻t4、t5、t6という3つの時刻でナンバープレートn2を撮像する。ここで、時刻t4、t5では、ナンバープレートn2が合焦範囲に入っておらず、時刻t6では、ナンバープレートn2が合焦範囲に入っているものとする。   In FIG. 1B, the camera device 102 detects the number plate n2 of the traveling vehicle c2, and images the number plate n2 at three times, times t4, t5, and t6. Here, it is assumed that the license plate n2 is not in the focus range at times t4 and t5, and the license plate n2 is in the focus range at time t6.

撮像して得られた画像データを、それぞれ、画像データn2−p4〜n2−p6とする。画像データn2−p4、n2−p5は、ナンバープレートn2が合焦範囲に入っていない時点で撮像されたため、ぼけた画像となる。画像データn2−p6は、ナンバープレートn2が合焦範囲に入っている時点で撮像されたため、鮮明な画像となる。カメラ装置102は、画像データn2−p4〜n2−p6を情報処理装置101に送信する。   The image data obtained by imaging is set as image data n2-p4 to n2-p6, respectively. Since the image data n2-p4 and n2-p5 are captured when the license plate n2 is not in the in-focus range, they are blurred images. Since the image data n2-p6 is captured when the license plate n2 is in the in-focus range, the image data n2-p6 is a clear image. The camera apparatus 102 transmits the image data n2-p4 to n2-p6 to the information processing apparatus 101.

画像データn2−p4〜n2−p6を受け付けた情報処理装置101は、画像データn2−p4〜n2−p6のフォーカス評価値を求める。図1の(B)では、情報処理装置101は、画像データn2−p4〜n2−p6のフォーカス評価値を、それぞれ、550、690、810と算出する。   The information processing apparatus 101 that has received the image data n2-p4 to n2-p6 obtains focus evaluation values for the image data n2-p4 to n2-p6. In FIG. 1B, the information processing apparatus 101 calculates the focus evaluation values of the image data n2-p4 to n2-p6 as 550, 690, and 810, respectively.

そして、情報処理装置101は、画像データn2−p4〜n2−p6のフォーカス評価値と、フォーカス限界値700との比較結果とに基づいて、画像データn2−p4〜n2−p6を文字認識の対象とするか判断する。具体的な判断例は、図5で後述する。図1の(B)の例では、情報処理装置101は、フォーカス限界値700より大きいフォーカス評価値となる画像データn2−p6を文字認識の対象とする。一方で、情報処理装置101は、フォーカス限界値700以下のフォーカス評価値となる画像データn2−p4、n2−p5を文字認識の対象としない。このように、情報処理装置101は、ぼけた画像である画像データn2−p4、n2−p5を文字認識の対象としないため、フォーカスシフトが発生しても誤認識を防ぐことができる。次に、システム100を車番認識システムに適用した例を、図2に示す。   The information processing apparatus 101 performs character recognition on the image data n2-p4 to n2-p6 based on the focus evaluation value of the image data n2-p4 to n2-p6 and the comparison result between the focus limit value 700. Judge whether or not. A specific determination example will be described later with reference to FIG. In the example of FIG. 1B, the information processing apparatus 101 sets image data n <b> 2-p <b> 6 having a focus evaluation value larger than the focus limit value 700 as a character recognition target. On the other hand, the information processing apparatus 101 does not set the image data n2-p4 and n2-p5, which are focus evaluation values equal to or less than the focus limit value 700, as character recognition targets. As described above, the information processing apparatus 101 does not use the image data n2-p4 and n2-p5, which are blurred images, for character recognition, and therefore can prevent erroneous recognition even if a focus shift occurs. Next, an example in which the system 100 is applied to a vehicle number recognition system is shown in FIG.

図2は、車番認識システムの接続例を示す説明図である。車番認識システム200は、車両のナンバープレートを認識するシステムである。車番認識システム200は、車番認識装置201と、カメラ装置202と、サーバ203と、を有する。車番認識装置201とサーバ203とは、ネットワーク204を介して接続する。車番認識装置201は、図1における情報処理装置101に相当する。また、カメラ装置202は、図1におけるカメラ装置102に相当する。   FIG. 2 is an explanatory diagram showing a connection example of the vehicle number recognition system. The vehicle number recognition system 200 is a system that recognizes a license plate of a vehicle. The vehicle number recognition system 200 includes a vehicle number recognition device 201, a camera device 202, and a server 203. The car number recognition device 201 and the server 203 are connected via a network 204. The vehicle number recognition device 201 corresponds to the information processing device 101 in FIG. The camera device 202 corresponds to the camera device 102 in FIG.

車番認識装置201は、カメラ装置202が撮像した画像データに対してナンバープレートが写る領域を検出し、検出した領域に対して文字認識処理を行うことにより、ナンバープレートの文字列を得る装置である。車番認識装置201のハードウェア構成は、図3で後述する。   The vehicle number recognition device 201 is a device that obtains a character string of a license plate by detecting a region where a license plate appears in image data captured by the camera device 202 and performing character recognition processing on the detected region. is there. The hardware configuration of the vehicle number recognition device 201 will be described later with reference to FIG.

カメラ装置202は、道路rの上空に設置されており、道路rを通過する車両のナンバープレートを撮影する装置である。図2の例では、カメラ装置202は、道路rを通過する車両c1のナンバープレートを撮影する。図2で示すように、カメラ装置202は、道路rを見下ろして撮影するため、撮像された画像データの縦方向の位置が、カメラ装置202からの距離に相当する。   The camera device 202 is installed in the sky of the road r and is a device for photographing a license plate of a vehicle passing through the road r. In the example of FIG. 2, the camera device 202 captures a license plate of the vehicle c1 passing through the road r. As shown in FIG. 2, since the camera device 202 shoots while looking down on the road r, the vertical position of the captured image data corresponds to the distance from the camera device 202.

また、カメラ装置202は、予め、道路rを通過する車両のナンバープレートで合焦するように焦点距離を固定しておく。焦点距離が固定される理由として、車両が高速で移動すると、フォーカス調整を行っても合焦する前に車両が通過してしまう場合があるためである。また、フォーカス調整を行うと、カメラ装置202のレンズ駆動系を機械的に動作させることになり、故障の原因となり、カメラ装置202の安定稼働を保証できる期間が短くなる。   In addition, the camera device 202 fixes the focal length in advance so as to focus on the license plate of the vehicle passing through the road r. The reason why the focal length is fixed is that if the vehicle moves at high speed, the vehicle may pass before focusing even if focus adjustment is performed. Further, when the focus adjustment is performed, the lens driving system of the camera device 202 is mechanically operated, causing a failure and shortening a period during which the stable operation of the camera device 202 can be guaranteed.

カメラ装置202のハードウェア構成については特に図示しないが、カメラ装置202は、対象物の像を結像させるレンズと、レンズを駆動させるレンズ駆動系と、レンズが結像した像を撮像する撮像素子とを有する。また、フォーカスシフトを、カメラ装置202のハードウェア構成を用いて説明する。周辺の温度変化によりレンズと撮像素子とを支える筐体が熱膨張や収縮を起こし、結果、レンズと撮像素子との距離が変化するため、フォーカスシフトが発生する。   Although the hardware configuration of the camera device 202 is not particularly illustrated, the camera device 202 includes a lens that forms an image of an object, a lens driving system that drives the lens, and an imaging element that captures an image formed by the lens. And have. The focus shift will be described using the hardware configuration of the camera device 202. A housing that supports the lens and the image sensor due to a change in ambient temperature causes thermal expansion and contraction. As a result, the distance between the lens and the image sensor changes, and a focus shift occurs.

サーバ203は、車番認識装置201が認識したナンバープレートの文字列を受け付ける装置である。例えば、サーバ203は、認識したナンバープレートの文字列を蓄積して、車番認識装置201の利用者に、認識したナンバープレートの文字列を提供する。また、車番認識装置201が、カメラ装置202が画像データを撮像した時刻とナンバープレートの文字列とをサーバ203に送信し、サーバ203は、利用者に、ナンバープレートの文字列と、車両が通過した時刻として撮像した時刻とを提供してもよい。   The server 203 is a device that receives the character string of the license plate recognized by the vehicle number recognition device 201. For example, the server 203 accumulates the character string of the recognized license plate and provides the recognized character string of the license plate to the user of the vehicle number recognition device 201. Further, the vehicle number recognition device 201 transmits the time when the camera device 202 captured the image data and the character string of the license plate to the server 203. The server 203 notifies the user of the character plate of the license plate and the vehicle. You may provide the time which imaged as the time which passed.

図3は、車番認識装置のハードウェア構成例を示すブロック図である。図3において、車番認識装置201は、CPU(Central Processing Unit)301と、ROM(Read Only Memory)302と、RAM(Random Access Memory)303と、を含む。また、車番認識装置201は、ディスクドライブ304およびディスク305と、通信インターフェース306と、を含む。また、CPU301〜通信インターフェース306はバス307によってそれぞれ接続される。   FIG. 3 is a block diagram illustrating a hardware configuration example of the vehicle number recognition device. In FIG. 3, the vehicle number recognition device 201 includes a CPU (Central Processing Unit) 301, a ROM (Read Only Memory) 302, and a RAM (Random Access Memory) 303. The vehicle number recognition device 201 includes a disk drive 304 and a disk 305, and a communication interface 306. Further, the CPU 301 to the communication interface 306 are connected by a bus 307, respectively.

CPU301は、車番認識装置201の全体の制御を司る演算処理装置である。ROM302は、ブートプログラムなどのプログラムを記憶する不揮発性メモリである。RAM303は、CPU301のワークエリアとして使用される揮発性メモリである。   The CPU 301 is an arithmetic processing device that controls the entire vehicle number recognition device 201. The ROM 302 is a nonvolatile memory that stores programs such as a boot program. A RAM 303 is a volatile memory used as a work area for the CPU 301.

ディスクドライブ304は、CPU301の制御に従ってディスク305に対するデータのリードおよびライトを制御する制御装置である。ディスクドライブ304には、例えば、磁気ディスクドライブ、ソリッドステートドライブなどを採用することができる。ディスク305は、ディスクドライブ304の制御で書き込まれたデータを記憶する不揮発性メモリである。例えばディスクドライブ304が磁気ディスクドライブである場合、ディスク305には、磁気ディスクを採用することができる。また、ディスクドライブ304がソリッドステートドライブである場合、ディスク305には、半導体素子によって形成された半導体メモリ、いわゆる半導体ディスクを採用することができる。   The disk drive 304 is a control device that controls reading and writing of data with respect to the disk 305 according to the control of the CPU 301. As the disk drive 304, for example, a magnetic disk drive, a solid state drive, or the like can be adopted. The disk 305 is a nonvolatile memory that stores data written under the control of the disk drive 304. For example, when the disk drive 304 is a magnetic disk drive, a magnetic disk can be adopted as the disk 305. When the disk drive 304 is a solid state drive, a semiconductor memory formed by a semiconductor element, that is, a so-called semiconductor disk can be used as the disk 305.

通信インターフェース306は、ネットワークと内部のインターフェースを司り、他の装置からのデータの入出力を制御する制御装置である。具体的に、通信インターフェース306は、通信回線を通じてネットワークを介して他の装置に接続される。通信インターフェース306には、例えば、モデムやLAN(Local Area Network)アダプタなどを採用することができる。   A communication interface 306 controls a network and an internal interface, and is a control device that controls input / output of data from other devices. Specifically, the communication interface 306 is connected to another device via a network through a communication line. For example, a modem or a LAN (Local Area Network) adapter may be employed as the communication interface 306.

また、車番認識システム200の管理者が、車番認識装置201を直接操作する場合、車番認識装置201は、ディスプレイ、キーボード、マウスといったハードウェアを有してもよい。   When the administrator of the vehicle number recognition system 200 directly operates the vehicle number recognition device 201, the vehicle number recognition device 201 may include hardware such as a display, a keyboard, and a mouse.

また、図示しないが、サーバ203も、車番認識装置201と同様のハードウェア構成を有する。   Although not shown, the server 203 also has the same hardware configuration as the vehicle number recognition device 201.

図4は、焦点距離に応じた合焦範囲の変化の一例を示す説明図である。図4では、カメラ装置202が撮像する範囲である撮影範囲R0のうち、ピントが合う合焦範囲と、ピントが合わない合焦しない範囲とが、フォーカスシフトによって変化する様子を示す。図4では、合焦範囲を白抜きの線で示す。また、合焦しない範囲を、ハッチを付与した線で示す。   FIG. 4 is an explanatory diagram illustrating an example of a change in the focusing range according to the focal length. FIG. 4 shows a state in which an in-focus range that is in focus and an out-of-focus range that is out of focus change due to the focus shift in the imaging range R0 that is the range that the camera device 202 captures. In FIG. 4, the focus range is indicated by a white line. In addition, a range not in focus is indicated by a hatched line.

理想状態では、カメラ装置202は、撮影範囲R0全体が合焦範囲となる。理想状態とは、カメラ装置202を設置した後、ナンバープレートが写る位置にピントを合わせた状態である。   In the ideal state, in the camera device 202, the entire shooting range R0 is the focusing range. The ideal state is a state in which after the camera device 202 is installed, the camera is focused on the position where the license plate appears.

次に、フォーカスシフトが発生し、焦点距離が短くなったとする。この場合、撮影範囲R0のうちのカメラ装置202に近い領域が合焦範囲となり、カメラ装置202から遠い領域が合焦しない範囲となる。また、フォーカスシフトが発生し、焦点距離が長くなったとする。この場合、撮影範囲R0のうちのカメラ装置202に遠い領域が合焦範囲となり、カメラ装置202から近い領域が合焦しない範囲となる。また、レンズの絞り等により、被写界深度不足が発生したとする。この場合、撮影範囲R0のうちの中央の領域が合焦範囲となり、カメラ装置202に近い領域および遠い領域が合焦しない範囲となる。   Next, it is assumed that a focus shift occurs and the focal length is shortened. In this case, an area close to the camera device 202 in the shooting range R0 is the in-focus range, and an area far from the camera device 202 is the in-focus range. Further, it is assumed that a focus shift occurs and the focal length becomes longer. In this case, an area farther from the camera device 202 in the shooting range R0 is the in-focus range, and an area near the camera device 202 is not in focus. Further, it is assumed that the depth of field is insufficient due to a lens diaphragm or the like. In this case, the center area in the shooting range R0 is the in-focus area, and the area close to and far from the camera device 202 is the in-focus area.

合焦しない領域では、ナンバープレートの文字がぼけることになる。ぼけた文字を認識する際、誤った認識を行う可能性が高くなる。例えば、「め」という文字がぼけた結果、認識時には、「ぬ」としてしまう可能性が高くなる。本実施の形態では、合焦しない領域での認識結果を用いないことにより、誤読を抑制することができる。   In the out-of-focus area, the letters on the license plate will be blurred. When recognizing a blurred character, the possibility of incorrect recognition increases. For example, as a result of the blurring of the word “me”, there is a high possibility that it will be “nu” at the time of recognition. In this embodiment, misreading can be suppressed by not using a recognition result in an out-of-focus area.

(車番認識装置201の機能)
次に、車番認識装置201の機能について説明する。図5は、車番認識装置の機能構成例を示すブロック図である。車番認識装置201は、制御部500を有する。制御部500は、決定部501と、検出部502と、判断部503と、文字認識部504とを含む。制御部500は、記憶装置に記憶されたプログラムをCPU301が実行することにより、制御部500の機能を実現する。記憶装置とは、具体的には、例えば、図3に示したROM302、RAM303、ディスク305などである。また、制御部500内の各部の処理結果は、CPU301が有するレジスタや、RAM303等に記憶される。
(Function of the car number recognition device 201)
Next, the function of the vehicle number recognition device 201 will be described. FIG. 5 is a block diagram illustrating a functional configuration example of the vehicle number recognition device. The vehicle number recognition device 201 includes a control unit 500. Control unit 500 includes a determination unit 501, a detection unit 502, a determination unit 503, and a character recognition unit 504. The control unit 500 implements the functions of the control unit 500 by causing the CPU 301 to execute a program stored in the storage device. Specifically, the storage device is, for example, the ROM 302, the RAM 303, the disk 305, etc. shown in FIG. In addition, the processing result of each unit in the control unit 500 is stored in a register included in the CPU 301, the RAM 303, or the like.

画角が同一であり、焦点距離が同一である状態で、同一のナンバープレートをカメラ装置202が、複数の画像データを撮像したとする。このとき、決定部501は、各々の画像データのフォーカス評価値と、各々の画像データの文字認識処理により得られたナンバープレートの認識結果とに基づいて、カメラ装置202が撮像した画像データの合焦度合いに関するフォーカス限界値を決定する。   Assume that the camera device 202 captures a plurality of image data with the same license plate in the same angle of view and the same focal length. At this time, the determination unit 501 combines the image data captured by the camera device 202 based on the focus evaluation value of each image data and the license plate recognition result obtained by the character recognition processing of each image data. Determine a focus limit value for the degree of focus.

例えば、決定部501は、複数の画像データのうちのフォーカス評価値が最大となる画像データを特定する。そして、決定部501は、特定したフォーカス評価値が最大値の画像データの文字認識処理により得られたナンバープレートの認識結果とは異なる認識結果が得られた画像データのうちのフォーカス評価値が最大となる値を、フォーカス限界値として決定してもよい。また、決定部501は、特定したフォーカス評価値が最大となる画像データの文字認識処理により得られたナンバープレートの認識結果と同一の認識結果が得られた画像データのうちのフォーカス評価値が最小となる値を、フォーカス限界値として決定してもよい。また、決定部501は、フォーカス評価値が最大の画像データの認識結果とは異なる認識結果の画像データのうちのフォーカス評価値の最大値と、同一の認識結果の画像データのうちのフォーカス評価値の最小値との平均を、フォーカス限界値として決定してもよい。   For example, the determination unit 501 specifies image data having a maximum focus evaluation value among a plurality of image data. Then, the determination unit 501 has the largest focus evaluation value among the image data obtained with a recognition result different from the recognition result of the license plate obtained by the character recognition processing of the image data with the maximum specified focus evaluation value. May be determined as the focus limit value. In addition, the determination unit 501 has the smallest focus evaluation value among the image data obtained with the same recognition result as the license plate recognition result obtained by the character recognition processing of the image data having the maximum specified focus evaluation value. May be determined as the focus limit value. The determination unit 501 also determines the maximum focus evaluation value of the image data having a recognition result different from the recognition result of the image data having the maximum focus evaluation value, and the focus evaluation value of the image data having the same recognition result. You may determine the average with the minimum value of as a focus limit value.

検出部502は、カメラ装置202が撮像した画像データから、ナンバープレートの領域を検出する。具体的には、検出部502は、画像データ内に、ナンバープレートの形状と相似する矩形がある場合、該当の矩形をナンバープレートの領域として検出する。   The detection unit 502 detects a license plate area from image data captured by the camera device 202. Specifically, when there is a rectangle similar to the shape of the license plate in the image data, the detection unit 502 detects the corresponding rectangle as a license plate region.

判断部503は、カメラ装置202が撮像した画像データのフォーカス評価値と、決定部501が決定したフォーカス限界値との比較結果に基づいて、前述の画像データを文字認識処理の対象とするか否かを判断する。例えば、決定部501が、フォーカス評価値が最大となる画像データの文字認識処理により得られたナンバープレートの認識結果とは異なる認識結果が得られた画像データのうちのフォーカス評価値が最大となる値をフォーカス限界値としたとする。このとき、判断部503は、カメラ装置202が撮像した画像データのフォーカス評価値が、決定部501が決定したフォーカス限界値以下である場合、前述の画像データを文字認識処理の対象としないと判断する。   Based on the comparison result between the focus evaluation value of the image data captured by the camera device 202 and the focus limit value determined by the determination unit 501, the determination unit 503 determines whether or not the above-described image data is to be subjected to character recognition processing. Determine whether. For example, the determination unit 501 maximizes the focus evaluation value of the image data obtained with a recognition result different from the license plate recognition result obtained by the character recognition processing of the image data having the maximum focus evaluation value. Let the value be the focus limit value. At this time, when the focus evaluation value of the image data captured by the camera device 202 is equal to or less than the focus limit value determined by the determination unit 501, the determination unit 503 determines that the above-described image data is not targeted for character recognition processing. To do.

また、決定部501が、フォーカス評価値が最大となる画像データの文字認識処理により得られた移動対象物の認識結果と同一の認識結果が得られた画像データのうちのフォーカス評価値が最小となる値を、フォーカス限界値として決定したとする。このとき、判断部503は、カメラ装置202が撮像した画像データのフォーカス評価値が、決定部501が決定したフォーカス限界値より小さい場合、前述の画像データを文字認識処理の対象としないと判断する。   In addition, the determination unit 501 has the smallest focus evaluation value among the image data obtained with the same recognition result as the recognition result of the moving object obtained by the character recognition processing of the image data having the maximum focus evaluation value. Is determined as the focus limit value. At this time, when the focus evaluation value of the image data captured by the camera device 202 is smaller than the focus limit value determined by the determination unit 501, the determination unit 503 determines that the above-described image data is not a target for character recognition processing. .

また、判断部503は、検出部502が検出した領域のフォーカス評価値と、決定部501が決定したフォーカス限界値との比較結果に基づいて、領域を文字認識処理の対象とするか否かを判断してもよい。   Also, the determination unit 503 determines whether or not the region is to be subjected to character recognition processing based on the comparison result between the focus evaluation value of the region detected by the detection unit 502 and the focus limit value determined by the determination unit 501. You may judge.

文字認識部504は、判断部503が画像データを文字認識処理の対象とすると判断した場合、画像データを文字認識する。また、文字認識部504は、決定部501がフォーカス限界値を決定する処理を実行する際に、画像データの文字認識を実行する。   When the determination unit 503 determines that the image data is to be subjected to character recognition processing, the character recognition unit 504 performs character recognition on the image data. Further, the character recognition unit 504 performs character recognition of image data when the determination unit 501 executes processing for determining a focus limit value.

図6は、個別フォーカス限界値の決定例を示す説明図である。車番認識装置201は、撮影範囲を通過中のナンバープレートを写した複数の画像について、フォーカス評価値とナンバープレートの認識結果を求める。次に、車番認識装置201は、フォーカス評価値が最大となる認識結果とは異なる認識結果となる画像データのうち、最大のフォーカス評価値を個別フォーカス限界値とする。個別フォーカス限界値は、ある一つのナンバープレートに対して、フォーカス評価値がこの値以下となった場合に認識対象としない値である。   FIG. 6 is an explanatory diagram showing an example of determining the individual focus limit value. The vehicle number recognition device 201 obtains a focus evaluation value and a license plate recognition result for a plurality of images obtained by copying a license plate that is passing through the photographing range. Next, the vehicle number recognizing device 201 sets the maximum focus evaluation value as the individual focus limit value among the image data having a recognition result different from the recognition result having the maximum focus evaluation value. The individual focus limit value is a value that is not a recognition target when a focus evaluation value is less than or equal to this value for a certain license plate.

続けて、車番認識装置201は、複数のナンバープレートについて、個別フォーカス限界値を求め、個別フォーカス限界値の累積分布に基づいて、全体フォーカス限界値を決定する。全体フォーカス限界値は、運用中に撮像したナンバープレートのフォーカス評価値がこの値以下となった場合に認識対象としない値である。   Subsequently, the vehicle number recognition apparatus 201 obtains individual focus limit values for a plurality of license plates, and determines the overall focus limit value based on the cumulative distribution of the individual focus limit values. The overall focus limit value is a value that is not a recognition target when the focus evaluation value of a license plate imaged during operation is equal to or less than this value.

個別フォーカス限界値を求める際には、フォーカスシフトが発生しないことを前提として行う。具体的には、例えば、車番認識システム200の管理者は、気温が変化していないことを確認しながら、撮影範囲R0を通過するように車両を移動させる。   When obtaining the individual focus limit value, it is assumed that no focus shift occurs. Specifically, for example, an administrator of the car number recognition system 200 moves the vehicle so as to pass the imaging range R0 while confirming that the temperature has not changed.

図6の例では、車両c1が撮影範囲R0を通過する間、カメラ装置202が撮影範囲R0を5回撮像し、車番認識装置201が、カメラ装置202が撮像した5つの画像データを取得したとする。そして、車両c1のナンバープレートが写った5つの画像データをそれぞれ、画像データIDとしてp1〜p5とする。車番認識装置201は、画像データp1〜p5に対して、画像データのフォーカス評価値と、画像データの認識結果とを求める。画像データp1〜p5に対する画像データのフォーカス評価値と、画像データの認識結果との結果を一覧としたものが、表601である。図6に示す表601は、レコード601−1〜5を有する。   In the example of FIG. 6, while the vehicle c1 passes through the shooting range R0, the camera device 202 images the shooting range R0 five times, and the vehicle number recognition device 201 acquires five image data captured by the camera device 202. And The five pieces of image data showing the license plate of the vehicle c1 are designated as p1 to p5 as image data IDs, respectively. The vehicle number recognition device 201 obtains a focus evaluation value of image data and a recognition result of image data for the image data p1 to p5. Table 601 lists the focus evaluation values of the image data and the recognition results of the image data for the image data p1 to p5. A table 601 illustrated in FIG. 6 includes records 601-1 to 601-5.

表601は、画像データIDフィールドと、フォーカス評価値フィールドと、認識結果フィールドと、認識成否フィールドとを有する。画像データIDフィールドには、ナンバープレートが映った画像データのIDが格納される。フォーカス評価値フィールドには、該当の画像データのナンバープレートの部分に対するフォーカス評価値が格納される。認識結果フィールドには、ナンバープレートの文字列を認識した結果が格納される。認識成否フィールドには、フォーカス評価値が最大となる認識結果と同一の認識結果となった場合に、認識成功を示す“○”識別子が格納され、フォーカス評価値が最大となる認識結果と異なる認識結果となった場合に、認識失敗を示す“×”識別子が格納される。   The table 601 includes an image data ID field, a focus evaluation value field, a recognition result field, and a recognition success / failure field. In the image data ID field, the ID of image data showing the license plate is stored. The focus evaluation value field stores the focus evaluation value for the license plate portion of the corresponding image data. In the recognition result field, the result of recognizing the character string of the license plate is stored. In the recognition success / failure field, when the recognition result is the same as the recognition result having the maximum focus evaluation value, a “◯” identifier indicating successful recognition is stored, and the recognition result is different from the recognition result having the maximum focus evaluation value. When the result is obtained, an “x” identifier indicating a recognition failure is stored.

図6の例では、画像データp3でフォーカス評価値が950となり、最大となる。従って、認識結果が“品川300ほ1234”となるレコード601−2〜5の認識成否フィールドには、“○”識別子が格納される。また、画像データp3の認識結果と異なる認識結果“品川300は1234”となったレコード601−1の認識成否フィールドには、“×”識別子が格納される。   In the example of FIG. 6, the focus evaluation value is 950 for image data p3, which is the maximum. Therefore, the “◯” identifier is stored in the recognition success / failure field of the records 601-2 to 5, in which the recognition result is “Shinagawa 300 1234”. Further, the “x” identifier is stored in the recognition success / failure field of the record 601-1 in which the recognition result “Shinagawa 300 is 1234” which is different from the recognition result of the image data p3.

そして、車番認識装置201は、個別フォーカス限界値を、レコード601−1のフォーカス評価値である850として決定する。次に、図7と図8とを用いて、全体フォーカス限界値の決定例について説明する。   Then, the vehicle number recognition device 201 determines the individual focus limit value as 850 which is the focus evaluation value of the record 601-1. Next, an example of determining the overall focus limit value will be described with reference to FIGS.

図7は、全体フォーカス限界値の決定例を示す説明図(その1)である。車番認識装置201は、車両ごとに個別フォーカス限界値を算出する。算出した一覧が表701である。図7に示す表701は、レコード701−1〜4を有する。表701は、車両IDと、個別フォーカス限界値と、というフィールドを含む。車両IDフィールドには、車両を識別する情報が格納される。個別フォーカス限界値フィールドには、該当の車両のナンバープレートの個別フォーカス限界値が格納される。   FIG. 7 is an explanatory diagram (part 1) illustrating an example of determining the overall focus limit value. The vehicle number recognition device 201 calculates an individual focus limit value for each vehicle. The calculated list is a table 701. A table 701 illustrated in FIG. 7 includes records 701-1 to 701-4. Table 701 includes fields of vehicle ID and individual focus limit value. Information for identifying the vehicle is stored in the vehicle ID field. In the individual focus limit value field, the individual focus limit value of the license plate of the corresponding vehicle is stored.

例えば、レコード701−1は、車両c1の個別フォーカス限界値が850であることを示す。   For example, the record 701-1 indicates that the individual focus limit value of the vehicle c1 is 850.

グラフ702は、個別フォーカス限界値を超えるフォーカス評価値の累積分布を示すグラフである。具体的には、図7に示すグラフ702は、レコード701−1〜4で示す個別フォーカス限界値を超えるフォーカス評価値の累積分布を示すグラフである。グラフ702の横軸は、フォーカス評価値を示す。グラフ702の縦軸は、4つの個別フォーカス限界値のうち、個別フォーカス限界値を超える個数を示す。また、グラフ702内の黒丸は、黒丸がプロットされた位置の横成分が示すフォーカス評価値を超える個数が、黒丸がプロットされた位置の縦成分が示す個数であることを示す。また、グラフ702内の白丸は、白丸がプロットされた位置の横成分が示すフォーカス評価値を超える個数が、白丸がプロットされた位置の縦成分が示す個数ではないことを示す。   A graph 702 is a graph showing a cumulative distribution of focus evaluation values exceeding the individual focus limit value. Specifically, a graph 702 shown in FIG. 7 is a graph showing a cumulative distribution of focus evaluation values exceeding the individual focus limit values shown by records 701-1 to 701-4. The horizontal axis of the graph 702 indicates the focus evaluation value. The vertical axis of the graph 702 indicates the number of individual focus limit values that exceed the individual focus limit value. A black circle in the graph 702 indicates that the number exceeding the focus evaluation value indicated by the horizontal component at the position where the black circle is plotted is the number indicated by the vertical component at the position where the black circle is plotted. A white circle in the graph 702 indicates that the number exceeding the focus evaluation value indicated by the horizontal component at the position where the white circle is plotted is not the number indicated by the vertical component at the position where the white circle is plotted.

例えば、840より大きく850までのフォーカス評価値は、個別フォーカス限界値840より大きいため、個数は1となる。850より大きく860までのフォーカス評価値は、個別フォーカス限界値840と850とより大きいため、個数は2となる。以下、全ての個別フォーカス限界値に対して、個別フォーカス限界値を超える個数を求めたグラフを図8に示す。   For example, since the focus evaluation value from 840 to 850 is larger than the individual focus limit value 840, the number is 1. Since the focus evaluation values larger than 850 and up to 860 are larger than the individual focus limit values 840 and 850, the number is 2. FIG. 8 shows a graph in which the number exceeding the individual focus limit value is obtained for all the individual focus limit values.

図8は、全体フォーカス限界値の決定例を示す説明図(その2)である。図8に示すグラフ801は、全ての車両に対する個別フォーカス限界値を超えるフォーカス評価値の累積分布を示すグラフである。   FIG. 8 is an explanatory diagram (part 2) of an example of determining the overall focus limit value. A graph 801 shown in FIG. 8 is a graph showing a cumulative distribution of focus evaluation values exceeding the individual focus limit values for all vehicles.

グラフ801の横軸は、フォーカス評価値を示す。グラフ801の縦軸は、全ての個別フォーカス限界値の個数であるNmax個のうち、個別フォーカス限界値を超える割合を示す。車番認識装置201は、割合が所定の閾値以上となるフォーカス評価値を、全体フォーカス限界値Fallとして決定する。所定の閾値は、車番認識システム200の管理者が設定する値である。   The horizontal axis of the graph 801 indicates the focus evaluation value. The vertical axis of the graph 801 indicates the ratio exceeding the individual focus limit value among Nmax, which is the number of all the individual focus limit values. The vehicle number recognition device 201 determines a focus evaluation value whose ratio is equal to or greater than a predetermined threshold as the overall focus limit value Fall. The predetermined threshold is a value set by the administrator of the vehicle number recognition system 200.

図8の例では、所定の閾値が、99.8[%]であるとする。このとき、車番認識装置201は、99.8[%]以上となるフォーカス評価値を、全体フォーカス限界値Fallとして決定する。車番認識装置201は、フォーカス評価値が画像データ全体フォーカス限界値Fallより大きい画像データを文字認識処理の対象とする。   In the example of FIG. 8, it is assumed that the predetermined threshold is 99.8 [%]. At this time, the vehicle number recognition apparatus 201 determines the focus evaluation value that is 99.8 [%] or more as the overall focus limit value Fall. The vehicle number recognition device 201 sets image data whose focus evaluation value is larger than the entire image data focus limit value Fall as a target of character recognition processing.

図9は、初期状態とフォーカスシフトが起きた状態とにおけるフォーカス評価値の一例を示す説明図である。具体的には、図9の(A)では、全体フォーカス限界値が決定された状態を初期状態として、初期状態のフォーカス評価値を示す。また、図9の(B)では、フォーカスシフトが起きた状態のフォーカス評価値を示す。   FIG. 9 is an explanatory diagram showing an example of the focus evaluation value in the initial state and the state where the focus shift has occurred. Specifically, in FIG. 9A, the focus evaluation value in the initial state is shown with the state where the overall focus limit value is determined as the initial state. FIG. 9B shows a focus evaluation value in a state where focus shift has occurred.

図9の(A)では、全体フォーカス限界値が決定された初期状態であり、例えば、午前9時の状態を示す。初期状態では、撮影範囲R0の全てが合焦範囲となる。初期状態において、カメラ装置202は、あるナンバープレートを検出し、4回撮像したとする。撮像により得られた画像データを、画像データpa−1〜4とする。初期状態におけるフォーカス評価値と、カメラ装置202からの距離との関係を、グラフ901aに示す。グラフ901aの横軸は、フォーカス評価値を示す。また、グラフ901aの縦軸は、カメラ装置202からの距離を示し、上方向に行くほど距離が遠いことを示す。   FIG. 9A shows an initial state in which the entire focus limit value is determined, for example, a state at 9 am. In the initial state, the entire shooting range R0 is the in-focus range. In the initial state, it is assumed that the camera device 202 detects a certain license plate and images it four times. The image data obtained by imaging is set as image data pa-1 to pa-4. A relationship between the focus evaluation value in the initial state and the distance from the camera device 202 is shown in a graph 901a. The horizontal axis of the graph 901a indicates the focus evaluation value. Also, the vertical axis of the graph 901a indicates the distance from the camera device 202, and indicates that the distance is farther in the upward direction.

グラフ901aが示すように、画像データpa−1〜4のフォーカス評価値は、全て全体フォーカス限界値Fall以上である。従って、車番認識装置201は、画像データpa−1〜4を文字認識処理の対象とし、ナンバープレートの文字列の認識を行う。   As the graph 901a shows, the focus evaluation values of the image data pa-1 to 4 are all equal to or greater than the overall focus limit value Fall. Therefore, the vehicle number recognition apparatus 201 recognizes the number plate character string using the image data pa-1 to 4 as objects of character recognition processing.

図9の(B)では、フォーカスシフトが起きた状態である。フォーカスシフトが起きる例として、図9の(B)は、例えば、午後2時になり気温が上昇した結果、カメラ装置202が熱膨張により変形した状態である。   In FIG. 9B, a focus shift has occurred. As an example of the focus shift, FIG. 9B shows a state in which the camera device 202 is deformed due to thermal expansion as a result of the temperature rising at 2 pm, for example.

フォーカスシフトが起きた状態では、撮影範囲R0の一部が合焦範囲となる。フォーカスシフトが起きた状態において、カメラ装置202は、あるナンバープレートを検出し、4回撮像したとする。撮像により得られた画像データを、画像データpb−1〜4とする。フォーカスシフトが起きた状態におけるフォーカス評価値と、カメラ装置202からの距離との関係を、グラフ901bに示す。グラフ901bの横軸は、フォーカス評価値を示す。また、グラフ901bの縦軸は、カメラ装置202からの距離を示し、上方向に行くほど距離が遠いことを示す。   In a state where the focus shift has occurred, a part of the shooting range R0 becomes the focus range. Assume that the camera device 202 detects a certain license plate and captures an image four times in a state where a focus shift has occurred. The image data obtained by imaging is set as image data pb-1 to pb-1. A relationship between the focus evaluation value and the distance from the camera device 202 in a state where the focus shift has occurred is shown in a graph 901b. The horizontal axis of the graph 901b indicates the focus evaluation value. In addition, the vertical axis of the graph 901b indicates the distance from the camera device 202, and indicates that the distance is farther in the upward direction.

グラフ901bが示すように、画像データpb−3、4のフォーカス評価値は、全体フォーカス限界値Fall以上である。従って、車番認識装置201は、画像データpb−3、4を文字認識処理の対象とし、ナンバープレートの文字列の認識を行う。また、画像データpb−1、2のフォーカス評価値は、全体フォーカス限界値Fall未満である。従って、車番認識装置201は、画像データpb−1、2を文字認識処理の対象とはせずに破棄する。   As the graph 901b shows, the focus evaluation values of the image data pb-3 and 4 are equal to or greater than the overall focus limit value Fall. Therefore, the vehicle number recognition apparatus 201 recognizes the number plate character string using the image data pb-3 and 4 as the objects of the character recognition process. Further, the focus evaluation values of the image data pb-1 and 2 are less than the overall focus limit value Fall. Therefore, the car number recognition apparatus 201 discards the image data pb-1 and 2 without setting them as objects for character recognition processing.

次に、図10〜図12に示すフローチャートを用いて、車番認識装置201が実行する処理を示す。   Next, the process which the vehicle number recognition apparatus 201 performs is shown using the flowchart shown in FIGS.

図10は、全体フォーカス限界値決定処理手順の一例を示すフローチャートである。全体フォーカス限界値決定処理は、全体フォーカス限界値Fallを決定する処理である。   FIG. 10 is a flowchart illustrating an example of the overall focus limit value determination processing procedure. The overall focus limit value determination process is a process for determining the overall focus limit value Fall.

車番認識装置201は、Nを0に設定する(ステップS1001)。ここで、Nは、車両のインデックスとして用いる変数である。次に、車番認識装置201は、c[0〜imax]を{0}に設定する(ステップS1002)。ここで、c[0〜imax]は、フォーカス評価値が取り得る値ごとに、個別フォーカス限界値を超える個数を記憶する配列変数である。imaxは、フォーカス評価値が取り得る最大値である。   The vehicle number recognition apparatus 201 sets N to 0 (step S1001). Here, N is a variable used as a vehicle index. Next, the vehicle number recognition device 201 sets c [0 to imax] to {0} (step S1002). Here, c [0 to imax] is an array variable that stores the number exceeding the individual focus limit value for each possible value of the focus evaluation value. imax is the maximum value that the focus evaluation value can take.

続けて、車番認識装置201は、N番目の車両における個別フォーカス限界値決定処理を実行する(ステップS1003)。個別フォーカス限界値決定処理の詳細は、図11で後述する。次に、車番認識装置201は、c[0〜imax]のうち、i>個別フォーカス限界値となるc[i]をインクリメントする(ステップS1004)。例えば、imaxが10であり、個別フォーカス限界値決定処理により、N番目の車両における個別フォーカス限界値が5であると決定されたとする。このとき、車番認識装置201は、i>5となる、c[i=6]からc[i=10]までの値をそれぞれインクリメントする。   Subsequently, the vehicle number recognition device 201 executes an individual focus limit value determination process in the Nth vehicle (step S1003). Details of the individual focus limit value determination processing will be described later with reference to FIG. Next, the vehicle number recognition apparatus 201 increments c [i] that satisfies i> individual focus limit value among c [0 to imax] (step S1004). For example, it is assumed that imax is 10 and the individual focus limit value in the Nth vehicle is determined to be 5 by the individual focus limit value determination process. At this time, the vehicle number recognition apparatus 201 increments values from c [i = 6] to c [i = 10], where i> 5.

続けて、車番認識装置201は、Nをインクリメントする(ステップS1005)。次に、車番認識装置201は、NがNmax以上か否かを判断する(ステップS1006)。NがNmax未満である場合(ステップS1006:No)、車番認識装置201は、ステップS1003の処理に移行する。NがNmax以上である場合(ステップS1006:Yes)、車番認識装置201は、c[i]/Nmaxが所定の閾値以上となるiの最小値を、全体フォーカス限界値Fallとして決定する(ステップS1007)。ステップS1007の処理終了後、車番認識装置201は、全体フォーカス限界値決定処理を終了する。全体フォーカス限界値決定処理を実行することにより、車番認識装置201は、全体フォーカス限界値Fallを得ることができる。   Subsequently, the vehicle number recognition apparatus 201 increments N (step S1005). Next, the vehicle number recognition device 201 determines whether N is greater than or equal to Nmax (step S1006). When N is less than Nmax (step S1006: No), the vehicle number recognition apparatus 201 proceeds to the process of step S1003. If N is greater than or equal to Nmax (step S1006: Yes), the vehicle number recognition apparatus 201 determines the minimum value of i at which c [i] / Nmax is equal to or greater than a predetermined threshold as the overall focus limit value Fall (step S1006). S1007). After the process of step S1007 ends, the vehicle number recognition apparatus 201 ends the overall focus limit value determination process. By executing the overall focus limit value determination process, the vehicle number recognition device 201 can obtain the overall focus limit value Fall.

図11は、個別フォーカス限界値決定処理手順の一例を示すフローチャートである。個別フォーカス限界値決定処理は、個別フォーカス限界値を決定する処理である。車番認識装置201は、jを0に設定する(ステップS1101)。ここで、jは、ある車両を撮像した画像データのインデックスとして用いる変数である。また、ある車両を撮像した画像データは、jmax+1個あるとする。   FIG. 11 is a flowchart illustrating an example of an individual focus limit value determination processing procedure. The individual focus limit value determination process is a process for determining an individual focus limit value. The vehicle number recognition apparatus 201 sets j to 0 (step S1101). Here, j is a variable used as an index of image data obtained by imaging a certain vehicle. Further, it is assumed that there are jmax + 1 image data obtained by imaging a certain vehicle.

次に、車番認識装置201は、j番目の画像データ内の、ナンバープレートが撮像された領域のフォーカス評価値を算出する(ステップS1102)。続けて、車番認識装置201は、j番目の画像データ内の、ナンバープレートが撮像された領域の文字認識処理の認識結果を取得する(ステップS1103)。次に、車番認識装置201は、jをインクリメントする(ステップS1104)。続けて、車番認識装置201は、jがjmax以上か否かを判断する(ステップS1105)。jがjmax未満である場合(ステップS1105:No)、車番認識装置201は、ステップS1102の処理に移行する。   Next, the vehicle number recognition apparatus 201 calculates the focus evaluation value of the area where the license plate is imaged in the j-th image data (step S1102). Subsequently, the vehicle number recognition apparatus 201 acquires the recognition result of the character recognition process in the area where the license plate is imaged in the jth image data (step S1103). Next, the vehicle number recognition apparatus 201 increments j (step S1104). Subsequently, the vehicle number recognition apparatus 201 determines whether j is greater than or equal to jmax (step S1105). When j is less than jmax (step S1105: No), the vehicle number recognition apparatus 201 proceeds to the process of step S1102.

jがjmax以上である場合(ステップS1105:Yes)、車番認識装置201は、0〜jmaxの画像データのうちの、フォーカス評価値が最大となる画像データを選択する(ステップS1106)。次に、車番認識装置201は、選択した画像データの認識結果と異なる画像データのうちの、最大のフォーカス評価値を、個別フォーカス限界値Fnとして決定する(ステップS1107)。ステップS1107の処理終了後、車番認識装置201は、個別フォーカス限界値決定処理を終了する。個別フォーカス限界値決定処理を実行することにより、車番認識装置201は、個別フォーカス限界値を得ることができる。   When j is greater than or equal to jmax (step S1105: Yes), the vehicle number recognition apparatus 201 selects image data having the maximum focus evaluation value from among the image data of 0 to jmax (step S1106). Next, the vehicle number recognition apparatus 201 determines the maximum focus evaluation value among the image data different from the recognition result of the selected image data as the individual focus limit value Fn (step S1107). After the process of step S1107 is completed, the vehicle number recognition device 201 ends the individual focus limit value determination process. By executing the individual focus limit value determination process, the vehicle number recognition device 201 can obtain the individual focus limit value.

図12は、ナンバープレート認識処理手順の一例を示すフローチャートである。ナンバープレート認識処理は、道路を走行中の車両のナンバープレートを認識する処理である。ナンバープレート認識処理は、カメラ装置102が撮像した画像データを、車番認識装置201が得る度に行われる。車番認識装置201は、ナンバープレートの領域を検出する(ステップS1201)。具体的には、例えば、車番認識装置201は、画像データ内に、ナンバープレートの形状と相似する矩形がある場合、該当の矩形をナンバープレートの領域として検出する。   FIG. 12 is a flowchart illustrating an example of the license plate recognition processing procedure. The license plate recognition process is a process for recognizing a license plate of a vehicle traveling on a road. The license plate recognition process is performed every time the vehicle number recognition device 201 obtains image data captured by the camera device 102. The vehicle number recognition device 201 detects the area of the license plate (step S1201). Specifically, for example, when there is a rectangle similar to the shape of the license plate in the image data, the vehicle number recognition device 201 detects the corresponding rectangle as a license plate region.

次に、車番認識装置201は、ナンバープレートの領域があったか否かを判断する(ステップS1202)。ナンバープレートの領域がない場合(ステップS1202:No)、車番認識装置201は、ナンバープレートの領域を検出しなかった旨の結果を出力する(ステップS1203)。ステップS1203の処理終了後、車番認識装置201は、ナンバープレート認識処理を終了する。   Next, the vehicle number recognition apparatus 201 determines whether or not there is a license plate area (step S1202). If there is no license plate area (step S1202: No), the vehicle number recognition apparatus 201 outputs a result indicating that the license plate area is not detected (step S1203). After the process of step S1203, the vehicle number recognition device 201 ends the license plate recognition process.

一方、ナンバープレートの領域があった場合(ステップS1202:Yes)、車番認識装置201は、ナンバープレートの領域のフォーカス評価値Fを算出する(ステップS1204)。次に、車番認識装置201は、フォーカス評価値Fが全体フォーカス限界値Fallより大きいか否かを判断する(ステップS1205)。フォーカス評価値Fが全体フォーカス限界値Fallより大きい場合(ステップS1205:Yes)、車番認識装置201は、ナンバープレートの領域を文字認識する(ステップS1206)。   On the other hand, if there is a license plate area (step S1202: Yes), the vehicle number recognition apparatus 201 calculates a focus evaluation value F of the license plate area (step S1204). Next, the vehicle number recognition apparatus 201 determines whether or not the focus evaluation value F is greater than the overall focus limit value Fall (step S1205). When the focus evaluation value F is larger than the overall focus limit value Fall (step S1205: Yes), the vehicle number recognition apparatus 201 recognizes characters in the license plate area (step S1206).

ステップS1206の処理終了後、または、フォーカス評価値Fが全体フォーカス限界値Fall以下である場合(ステップS1205:No)、車番認識装置201は、ステップS1201の処理に移行する。ナンバープレート認識処理を実行することにより、車番認識装置201は、走行中の車両のナンバープレートを認識することができる。   After the process of step S1206 is completed or when the focus evaluation value F is equal to or less than the overall focus limit value Fall (step S1205: No), the vehicle number recognition apparatus 201 proceeds to the process of step S1201. By executing the license plate recognition process, the vehicle number recognition device 201 can recognize the license plate of the vehicle that is running.

以上説明したように、車番認識システム200によれば、走行中の車両のナンバープレートが写る複数の画像のフォーカス評価値と文字認識結果から決めた閾値を用いて、以降撮像される画像を認識するか判断する。これにより、車番認識システム200は、フォーカスシフトによるぼけ画像を認識対象から除きナンバーの誤認識の発生を防ぐことができる。   As described above, according to the vehicle number recognition system 200, images to be picked up thereafter are recognized by using the focus evaluation values of a plurality of images in which the license plates of the running vehicle and the threshold value determined from the character recognition result are used. Judge whether to do. As a result, the vehicle number recognition system 200 can remove the blurred image due to the focus shift from the recognition target and prevent the erroneous recognition of the number.

また、車番認識システム200によれば、フォーカス評価値が最大となる画像データの文字認識処理により得られたナンバープレートの認識結果とは異なる認識結果が得られた画像データのうちのフォーカス評価値が最大となる値をフォーカス限界値としてもよい。これにより、車番認識システム200は、文字認識が正しく行えないと判断した画像データを、文字認識処理の対象から外すことができる。また、フォーカス限界値より大きく、フォーカス評価値が最大となる画像データの認識結果と同一の認識結果が得られた画像データのうちのフォーカス評価値の最小値より小さいフォーカス評価値となる画像データは、文字認識が正しく行える可能性がある。車番認識システム200は、文字認識が正しく行える可能性がある画像データについて、文字認識処理の対象とすることができる。   Further, according to the vehicle number recognition system 200, the focus evaluation value of the image data obtained with a recognition result different from the recognition result of the license plate obtained by the character recognition processing of the image data having the maximum focus evaluation value. The value that maximizes the value may be used as the focus limit value. As a result, the vehicle number recognition system 200 can exclude image data that has been determined not to be correctly recognized as a character recognition target. Also, image data having a focus evaluation value that is larger than the focus limit value and smaller than the minimum focus evaluation value among the image data obtained with the same recognition result as the recognition result of the image data having the maximum focus evaluation value is There is a possibility that character recognition can be performed correctly. The vehicle number recognition system 200 can set character recognition processing as an object of image data that may be correctly recognized.

また、車番認識システム200によれば、フォーカス評価値が最大となる画像データの文字認識処理により得られたナンバープレートの認識結果とは異なる認識結果が得られた画像データのうちのフォーカス評価値が最大となる値をフォーカス限界値としてもよい。これにより、車番認識システム200は、文字認識が正しく行えないと判断した画像データを、文字認識処理の対象から外すことができる。また、フォーカス限界値より小さく、フォーカス評価値が最大となる画像データの認識結果と異なる認識結果が得られた画像データのうちのフォーカス評価値の最大値より大きいフォーカス評価値となる画像データは、誤認識となる可能性がある。車番認識システム200は、誤認識となる可能性がある画像データについて、文字認識処理の対象から外すことができる。   Further, according to the vehicle number recognition system 200, the focus evaluation value of the image data obtained with a recognition result different from the recognition result of the license plate obtained by the character recognition processing of the image data having the maximum focus evaluation value. The value that maximizes the value may be used as the focus limit value. As a result, the vehicle number recognition system 200 can exclude image data that has been determined not to be correctly recognized as a character recognition target. In addition, image data that is smaller than the focus limit value and has a focus evaluation value that is larger than the maximum value of the focus evaluation value among the image data obtained from a recognition result different from the recognition result of the image data that maximizes the focus evaluation value. There is a possibility of misrecognition. The vehicle number recognition system 200 can exclude image data that may be erroneously recognized from the target of character recognition processing.

また、車番認識システム200によれば、画像データから、ナンバープレートの領域を検出し、検出した領域のフォーカス評価値と、決定したフォーカス限界値との比較結果に基づいて、領域を文字認識処理の対象とするか否かを判断してもよい。これにより、車番認識システム200は、1つの画像データに撮像されたナンバープレートごとに、文字認識処理の対象とすることができる。例えば、カメラ装置202が、フォーカスシフトにより、合焦範囲に含まれるナンバープレートと、合焦範囲に含まれないナンバープレートと、いう2つのナンバープレートを撮像する可能性がある。このとき、車番認識装置201は、合焦範囲に含まれるナンバープレートのみを文字認識処理の対象にすることができる。   Further, according to the vehicle number recognition system 200, a license plate region is detected from image data, and the region is subjected to character recognition processing based on a comparison result between the focus evaluation value of the detected region and the determined focus limit value. It may be determined whether or not to be a target. Thereby, the vehicle number recognition system 200 can be set as the object of the character recognition process for every number plate imaged by one image data. For example, there is a possibility that the camera device 202 images two license plates, that is, a license plate included in the focus range and a license plate not included in the focus range, due to focus shift. At this time, the vehicle number recognition apparatus 201 can set only the number plate included in the focusing range as the target of the character recognition process.

また、車番認識システム200は、フォーカスシフトが発生した場合でも、合焦領域にないナンバープレートを文字認識処理の対象としないことにより、誤認識の低下を抑えることができる。また、レンズを動作させるフォーカス調整を行わないため、カメラ装置202の故障までの期間を延ばすことができる。また、車番認識システム200は、撮影範囲内で異なる認識結果を得たとしても、最も鮮明に写った画像データの認識結果を採用するため、文字認識の信頼性を向上することができる。また、車番認識システム200は、合焦領域にないナンバープレートを文字認識処理の対象としないことにより、無駄な処理を省くことができ、処理効率を向上することができる。   In addition, even when a focus shift occurs, the vehicle number recognition system 200 can suppress a reduction in erroneous recognition by not using a license plate that is not in the focus area as a target for character recognition processing. In addition, since the focus adjustment for operating the lens is not performed, it is possible to extend the period until the camera device 202 breaks down. Further, even if the vehicle number recognition system 200 obtains different recognition results within the photographing range, the recognition result of the image data that is most clearly captured is adopted, so that the reliability of character recognition can be improved. In addition, the vehicle number recognition system 200 can eliminate useless processing and improve processing efficiency by not using a license plate that is not in the in-focus area as a target for character recognition processing.

また、本実施の形態にかかるシステム100を、認識したナンバープレートの文字列を提供する車番認識システム200に適用する例について説明したが、他のサービスを提供するシステムに適用してもよい。例えば、移動対象物を、マラソンランナーのゼッケンとして、マラソンに出場した利用者に対して、利用者が写った写真を提供するサービスを実現するシステムに適用してもよい。本実施の形態にかかるシステム100を前述のシステムに適用すれば、利用者が写っていないにも関わらず、フォーカスシフトによる誤認識により利用者とは関係のない写真を提供する可能性を低減することができる。   Moreover, although the example which applies the system 100 concerning this Embodiment to the vehicle number recognition system 200 which provides the character string of the recognized license plate was demonstrated, you may apply to the system which provides another service. For example, the moving object may be a marathon runner bib, and may be applied to a system that provides a service that provides a photograph of the user to a user who participated in the marathon. When the system 100 according to the present embodiment is applied to the above-described system, the possibility of providing a photograph unrelated to the user due to misrecognition by the focus shift even though the user is not captured is reduced. be able to.

なお、本実施の形態で説明した情報処理方法は、予め用意されたプログラムをパーソナル・コンピュータやワークステーション等のコンピュータで実行することにより実現することができる。本情報処理プログラムは、ハードディスク、フレキシブルディスク、CD−ROM(Compact Disc−Read Only Memory)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。また本情報処理プログラムは、インターネット等のネットワークを介して配布してもよい。   The information processing method described in this embodiment can be realized by executing a program prepared in advance on a computer such as a personal computer or a workstation. The information processing program is recorded on a computer-readable recording medium such as a hard disk, a flexible disk, a CD-ROM (Compact Disc-Read Only Memory), a DVD (Digital Versatile Disk), and is read from the recording medium by the computer. Executed by. The information processing program may be distributed through a network such as the Internet.

上述した実施の形態に関し、さらに以下の付記を開示する。   The following additional notes are disclosed with respect to the embodiment described above.

(付記1)カメラ装置と、前記カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能な情報処理装置と、を有するシステムであって、
前記情報処理装置は、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
ことを特徴とするシステム。
(Additional remark 1) It is a system which has a camera apparatus and the information processing apparatus which can acquire the recognition result of the character recognition process of the image data which the said camera apparatus imaged,
The information processing apparatus includes:
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
A system characterized by that.

(付記2)前記情報処理装置は、
前記複数の画像データのうちの合焦度合いを示す値が最大となる画像データの文字認識処理により得られた前記移動対象物の認識結果とは異なる認識結果が得られた画像データのうちの合焦度合いを示す値が最大となる値を、前記閾値として決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値が、決定した前記閾値以下である場合、前記画像データを文字認識処理の対象としないと判断することを特徴とする付記1に記載のシステム。
(Supplementary Note 2) The information processing apparatus includes:
Of the plurality of image data, the image data obtained from the recognition result different from the recognition result of the moving object obtained by the character recognition processing of the image data having the maximum value indicating the degree of focus. A value that maximizes the value indicating the degree of focus is determined as the threshold value,
The supplementary note 1, wherein when the value indicating the degree of focus of the image data captured by the camera device is equal to or less than the determined threshold value, the image data is determined not to be subject to character recognition processing. system.

(付記3)前記情報処理装置は、
前記複数の画像データのうちの合焦度合いを示す値が最大となる画像データの文字認識処理により得られた前記移動対象物の認識結果と同一の認識結果が得られた画像データのうちの合焦度合いを示す値が最小となる値を、前記閾値として決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値が、決定した前記閾値より小さい場合、前記画像データを文字認識処理の対象としないと判断することを特徴とする付記1に記載のシステム。
(Supplementary Note 3) The information processing apparatus includes:
Of the plurality of image data, the image data having the same recognition result as the recognition result of the moving object obtained by the character recognition process of the image data having the maximum focus degree value is obtained. A value that minimizes the value indicating the degree of focus is determined as the threshold value,
The system according to claim 1, wherein when the value indicating the degree of focus of the image data captured by the camera device is smaller than the determined threshold value, the image data is determined not to be subject to character recognition processing. .

(付記4)前記移動対象物は、車両のナンバープレートであり、
前記情報処理装置は、
前記カメラ装置が撮像した画像データから、車両のナンバープレートの領域を検出し、
検出した前記領域の合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記領域を文字認識処理の対象とするか否かを判断することを特徴とする付記1〜3のいずれか一つに記載のシステム。
(Appendix 4) The moving object is a license plate of a vehicle,
The information processing apparatus includes:
From the image data captured by the camera device, the area of the license plate of the vehicle is detected,
Additional remarks 1 to 3 wherein whether or not the region is to be subjected to character recognition processing is determined based on a comparison result between the detected value indicating the degree of focus of the region and the determined threshold value. The system as described in any one of.

(付記5)カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能な情報処理装置であって、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
制御部を有することを特徴とする情報処理装置。
(Supplementary Note 5) An information processing apparatus capable of acquiring a recognition result of character recognition processing of image data captured by a camera device,
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
An information processing apparatus having a control unit.

(付記6)カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能なコンピュータが、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
処理を実行することを特徴とする情報処理方法。
(Additional remark 6) The computer which can acquire the recognition result of the character recognition process of the image data imaged with the camera apparatus,
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
An information processing method characterized by executing processing.

(付記7)カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能なコンピュータに、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
処理を実行させることを特徴とする情報処理プログラム。
(Supplementary note 7) A computer capable of acquiring a recognition result of character recognition processing of image data captured by a camera device;
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
An information processing program for executing a process.

100 システム
101 情報処理装置
102 カメラ装置
200 車番認識システム
201 車番認識装置
202 カメラ装置
500 制御部
501 決定部
502 検出部
503 判断部
504 文字認識部
DESCRIPTION OF SYMBOLS 100 System 101 Information processing apparatus 102 Camera apparatus 200 Car number recognition system 201 Car number recognition apparatus 202 Camera apparatus 500 Control part 501 Determination part 502 Detection part 503 Judgment part 504 Character recognition part

Claims (7)

カメラ装置と、前記カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能な情報処理装置と、を有するシステムであって、
前記情報処理装置は、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
ことを特徴とするシステム。
A system comprising: a camera device; and an information processing device capable of acquiring a recognition result of character recognition processing of image data captured by the camera device,
The information processing apparatus includes:
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
A system characterized by that.
前記情報処理装置は、
前記複数の画像データのうちの合焦度合いを示す値が最大となる画像データの文字認識処理により得られた前記移動対象物の認識結果とは異なる認識結果が得られた画像データのうちの合焦度合いを示す値が最大となる値を、前記閾値として決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値が、決定した前記閾値以下である場合、前記画像データを文字認識処理の対象としないと判断することを特徴とする請求項1に記載のシステム。
The information processing apparatus includes:
Of the plurality of image data, the image data obtained from the recognition result different from the recognition result of the moving object obtained by the character recognition processing of the image data having the maximum value indicating the degree of focus. A value that maximizes the value indicating the degree of focus is determined as the threshold value,
2. The image processing apparatus according to claim 1, wherein when the value indicating the degree of focus of image data captured by the camera device is equal to or less than the determined threshold value, the image data is determined not to be subjected to character recognition processing. System.
前記情報処理装置は、
前記複数の画像データのうちの合焦度合いを示す値が最大となる画像データの文字認識処理により得られた前記移動対象物の認識結果と同一の認識結果が得られた画像データのうちの合焦度合いを示す値が最小となる値を、前記閾値として決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値が、決定した前記閾値より小さい場合、前記画像データを文字認識処理の対象としないと判断することを特徴とする請求項1に記載のシステム。
The information processing apparatus includes:
Of the plurality of image data, the image data having the same recognition result as the recognition result of the moving object obtained by the character recognition process of the image data having the maximum focus degree value is obtained. A value that minimizes the value indicating the degree of focus is determined as the threshold value,
2. The apparatus according to claim 1, wherein if the value indicating the degree of focus of image data captured by the camera device is smaller than the determined threshold value, it is determined that the image data is not to be subjected to character recognition processing. system.
前記移動対象物は、車両のナンバープレートであり、
前記情報処理装置は、
前記カメラ装置が撮像した画像データから、車両のナンバープレートの領域を検出し、
検出した前記領域の合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記領域を文字認識処理の対象とするか否かを判断することを特徴とする請求項1〜3のいずれか一つに記載のシステム。
The moving object is a license plate of a vehicle,
The information processing apparatus includes:
From the image data captured by the camera device, the area of the license plate of the vehicle is detected,
The determination as to whether or not the area is to be subjected to character recognition processing based on a comparison result between the detected value indicating the degree of focus of the area and the determined threshold value. 4. The system according to any one of 3.
カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能な情報処理装置であって、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
制御部を有することを特徴とする情報処理装置。
An information processing apparatus capable of acquiring a recognition result of character recognition processing of image data captured by a camera device,
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
An information processing apparatus having a control unit.
カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能なコンピュータが、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
処理を実行することを特徴とする情報処理方法。
A computer capable of acquiring a recognition result of character recognition processing of image data captured by a camera device,
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
An information processing method characterized by executing processing.
カメラ装置が撮像した画像データの文字認識処理の認識結果を取得可能なコンピュータに、
画角が同一であり、焦点距離が同一である状態で、同一の移動対象物を前記カメラ装置が撮像した複数の画像データの各々の画像データの合焦度合いを示す値と、前記各々の画像データの文字認識処理により得られた前記移動対象物の認識結果とに基づいて、前記カメラ装置が撮像した画像データの合焦度合いに関する閾値を決定し、
前記カメラ装置が撮像した画像データの合焦度合いを示す値と、決定した前記閾値との比較結果に基づいて、前記画像データを文字認識処理の対象とするか否かを判断する、
処理を実行させることを特徴とする情報処理プログラム。
To a computer that can acquire the recognition result of character recognition processing of image data captured by the camera device,
A value indicating the degree of focus of each image data of a plurality of image data obtained by imaging the same moving object by the camera device with the same angle of view and the same focal length, and each of the images Based on the recognition result of the moving object obtained by the character recognition processing of the data, determine a threshold for the degree of focus of the image data captured by the camera device,
Determining whether or not the image data is to be subjected to character recognition processing based on a comparison result between a value indicating the degree of focus of image data captured by the camera device and the determined threshold value;
An information processing program for executing a process.
JP2014024911A 2014-02-12 2014-02-12 System, information processing apparatus, information processing method, and information processing program Active JP6201798B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014024911A JP6201798B2 (en) 2014-02-12 2014-02-12 System, information processing apparatus, information processing method, and information processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014024911A JP6201798B2 (en) 2014-02-12 2014-02-12 System, information processing apparatus, information processing method, and information processing program

Publications (2)

Publication Number Publication Date
JP2015153040A JP2015153040A (en) 2015-08-24
JP6201798B2 true JP6201798B2 (en) 2017-09-27

Family

ID=53895248

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014024911A Active JP6201798B2 (en) 2014-02-12 2014-02-12 System, information processing apparatus, information processing method, and information processing program

Country Status (1)

Country Link
JP (1) JP6201798B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6833324B2 (en) * 2016-03-09 2021-02-24 キヤノン株式会社 Information processing equipment, programs and information processing methods
JP6720694B2 (en) * 2016-05-20 2020-07-08 富士通株式会社 Image processing program, image processing method, and image processing apparatus
JP7434032B2 (en) 2020-03-31 2024-02-20 キヤノン株式会社 Information processing device, information processing method, and program
WO2023218537A1 (en) * 2022-05-10 2023-11-16 ファナック株式会社 Target region extraction device, method, and system

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000322686A (en) * 1999-05-13 2000-11-24 Toshiba Corp Number plate recognizing device for vehicle
JP2005322146A (en) * 2004-05-11 2005-11-17 Mitsubishi Electric Corp License plate reader
JP5211949B2 (en) * 2008-09-04 2013-06-12 富士通株式会社 Focus adjustment apparatus, focus adjustment method, and focus adjustment program
JP5213681B2 (en) * 2008-12-16 2013-06-19 三菱電機株式会社 Image processing device
JP5979046B2 (en) * 2013-03-19 2016-08-24 富士通株式会社 Focus position detection device, focus position detection method, and computer program for focus position detection

Also Published As

Publication number Publication date
JP2015153040A (en) 2015-08-24

Similar Documents

Publication Publication Date Title
US9501834B2 (en) Image capture for later refocusing or focus-manipulation
EP2704419B1 (en) System and method for utilizing enhanced scene detection in a depth estimation procedure
US10839537B2 (en) Depth maps generated from a single sensor
CN108076268B (en) Method for auto-focusing and related imaging device and storage medium
JP2018535442A5 (en)
JP6201798B2 (en) System, information processing apparatus, information processing method, and information processing program
US9727585B2 (en) Image processing apparatus and method for controlling the same
JP2015104016A (en) Subject detection apparatus, imaging apparatus, subject detection apparatus control method, subject detection apparatus control program, and storage medium
US10237491B2 (en) Electronic apparatus, method of controlling the same, for capturing, storing, and reproducing multifocal images
US20140253786A1 (en) Image pickup apparatus, image pickup system, signal processing apparatus, and non-transitory computer-readable storage medium
US9477138B2 (en) Autofocus
US9615019B2 (en) Image capturing apparatus and control method for image capturing apparatus with particle filter for main object detection and selecting focus detection area based on priority
CN107005655A (en) Image processing method
US20210157891A1 (en) Certificate verification
US9781331B2 (en) Imaging apparatus, and control method thereof
JP5127692B2 (en) Imaging apparatus and tracking method thereof
JP6395429B2 (en) Image processing apparatus, control method thereof, and storage medium
US20150022710A1 (en) Af controller, lens apparatus including the af controller and image pickup apparatus
US10372750B2 (en) Information processing apparatus, method, program and storage medium
CN113838075B (en) Monocular ranging method, monocular ranging device and computer readable storage medium
US20220086359A1 (en) Image processing apparatus and method of controlling the same
JP6561370B1 (en) Determination device, imaging device, determination method, and program
KR102225002B1 (en) Deep neural network based object detecting apparatus and method
JP2016114785A (en) Imaging device, imaging method and imaging program
JP2015148986A (en) Information processing apparatus, blur level calculation method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170814

R150 Certificate of patent or registration of utility model

Ref document number: 6201798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150