JP2020067669A - Information processing apparatus, and program - Google Patents

Information processing apparatus, and program Download PDF

Info

Publication number
JP2020067669A
JP2020067669A JP2018197926A JP2018197926A JP2020067669A JP 2020067669 A JP2020067669 A JP 2020067669A JP 2018197926 A JP2018197926 A JP 2018197926A JP 2018197926 A JP2018197926 A JP 2018197926A JP 2020067669 A JP2020067669 A JP 2020067669A
Authority
JP
Japan
Prior art keywords
license plate
learning
algorithm
image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018197926A
Other languages
Japanese (ja)
Inventor
大西 秀典
Shusuke Onishi
秀典 大西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fabrica Communications Co Ltd
Original Assignee
Fabrica Communications Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fabrica Communications Co Ltd filed Critical Fabrica Communications Co Ltd
Priority to JP2018197926A priority Critical patent/JP2020067669A/en
Publication of JP2020067669A publication Critical patent/JP2020067669A/en
Pending legal-status Critical Current

Links

Images

Abstract

To provide a technique for efficiently and accurately recognizing a number plate.SOLUTION: Provided is an information processing apparatus comprising: algorithm acquisition means for acquiring a predetermined algorithm obtained as a result of learning taken place by applying a method related to machine learning, on data related to an image for learning including the image including a plurality of number plates in a subject and the image created by processing the images; user information acquisition means for acquiring data on the image including characters, a color region, and a background in the subject in addition to the predetermined number plate; and algorithm applying means for outputting a result obtained by applying the predetermined algorithm acquired by the algorithm acquiring means to the data acquired by the user information acquisition means.SELECTED DRAWING: Figure 3

Description

本発明は、情報処理装置及びプログラムに関する。   The present invention relates to an information processing device and a program.

近年、マーケティングや安全管理などの目的において、画像から自動車のナンバープレートを認識する装置が用いられている。その認識方法には様々なものがあるが、機械学習を利用した方法が一般化してきている(例えば特許文献1参照)。
この特許文献1には、機械学習の一種であるディープラーニングを用いて、ナンバープレートを認識する技術が記載されている。
2. Description of the Related Art In recent years, a device for recognizing an automobile license plate from an image has been used for purposes such as marketing and safety management. There are various recognition methods, but a method using machine learning has been generalized (for example, refer to Patent Document 1).
This patent document 1 describes a technique for recognizing a license plate by using deep learning which is a kind of machine learning.

特開2018−120445公報JP, 2018-120445, A

しかしながら、特許文献1を含む従来技術のみでは、学習を行うために大量のナンバープレート画像等を用意する必要があり、精度やコスト等の問題が指摘されていた。   However, with only the conventional technology including Patent Document 1, it is necessary to prepare a large number of license plate images and the like for learning, and problems such as accuracy and cost have been pointed out.

本発明は、このような状況に鑑みてなされたものであり、効率的かつ高精度にナンバープレートを認識する技術を提供することを目的とする。   The present invention has been made in view of such circumstances, and an object of the present invention is to provide a technique for efficiently and highly accurately recognizing a license plate.

上記目的を達成するため、本発明の一態様の情報処理装置は、
複数のナンバープレートを被写体に含む画像及び当該画像を加工して作成された画像を含む学習用画像に関するデータに対して、機械学習に関する手法が適用させて学習がなされた結果として得られる、所定のアルゴリズムを取得するアルゴリズム取得手段と、
所定のナンバープレートに加えて、文字と、色の領域と、背景とを被写体に含む画像に関するデータを取得するユーザ情報取得手段と、
前記ユーザ情報取得手段により取得された前記データに対して、前記アルゴリズム取得手段により取得された前記所定のアルゴリズムを適用して得られる結果を出力するアルゴリズム適用手段と、
を備える。
In order to achieve the above object, an information processing device of one embodiment of the present invention is
A predetermined value obtained as a result of learning by applying a method related to machine learning to data related to an image for learning including an image including a plurality of license plates as subjects and an image created by processing the images. Algorithm acquisition means for acquiring the algorithm,
In addition to the predetermined license plate, a user information acquisition unit that acquires data regarding an image including a character, a color region, and a background as a subject,
Algorithm applying means for outputting a result obtained by applying the predetermined algorithm acquired by the algorithm acquiring means to the data acquired by the user information acquiring means,
Equipped with.

本発明の一態様のプログラムは、上述の本発明の一態様の情報処理装置に対応するプログラムである。   A program according to one aspect of the present invention is a program corresponding to the above-described information processing device according to one aspect of the present invention.

本発明によれば、効率的かつ高精度にナンバープレートを認識する技術を提供することができる。   According to the present invention, it is possible to provide a technology for efficiently and accurately recognizing a license plate.

本発明の一実施形態に係る情報処理システムの一例を示す図である。It is a figure showing an example of an information processing system concerning one embodiment of the present invention. 図1の情報処理システムのうち、推論サーバのハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware constitutions of the inference server in the information processing system of FIG. 図1の情報処理システムのうちの推論サーバ、ユーザ端末、及び学習サーバの機能的構成の一例を示す機能ブロック図である。It is a functional block diagram which shows an example of a functional structure of an inference server, a user terminal, and a learning server in the information processing system of FIG. 図3の学習サーバにより実行されるナンバープレート学習処理の流れを説明するフローチャートである。It is a flowchart explaining the flow of the license plate learning process performed by the learning server of FIG. 図3の推論サーバにより実行されるナンバープレート識別処理の流れを説明するフローチャートである。4 is a flowchart illustrating a flow of license plate identification processing executed by the inference server of FIG. 3. 図3の学習サーバにおいて、利用されるナンバープレート文字データの具体例を示す図である。It is a figure which shows the specific example of the license plate character data utilized in the learning server of FIG. 図3の学習サーバにおいて、実行されるナンバープレート画像の加工の具体例を示す図である。It is a figure which shows the specific example of the process of the license plate image performed in the learning server of FIG. 図3の学習サーバにおいて、生成されるナンバープレート画像と背景画像とを合成した学習用画像の具体例を示す図である。It is a figure which shows the specific example of the image for learning which synthesize | combined the license plate image and the background image which were produced | generated in the learning server of FIG.

以下、本発明の実施形態について、図面を用いて説明する。そこで、まずは図1を参照して本発明の一実施形態に係る情報処理システムの概要について説明する。
ここで、本発明の一実施形態に係る情報処理システムの適用対象となるナンバープレートの認識サービスを、以降の説明では、本サービスと呼ぶ。
Embodiments of the present invention will be described below with reference to the drawings. Therefore, first, an outline of the information processing system according to the embodiment of the present invention will be described with reference to FIG.
Here, the license plate recognition service to which the information processing system according to the embodiment of the present invention is applied will be referred to as this service in the following description.

図1に示す情報処理システムは、推論サーバ1と、ユーザ端末2と、学習サーバ3とを含むように構成されている。
推論サーバ1と、ユーザ端末2と、学習サーバ3との夫々は、インターネット(Internet)等のネットワークNを介して相互に接続されている。
推論サーバ1は、本サービスの管理者等により、管理される。推論サーバ1は、例えば、ユーザ端末2から送信されてきたナンバープレートが撮像された画像(以下、「ナンバープレート画像」と呼ぶ)に対して、所定のアルゴリズムを適用して、ナンバープレートの認識を行うために利用される。
ユーザ端末2は、本サービスの提供を希望するユーザにより使用される。ユーザ端末2は、例えば、ユーザ等により撮像されたナンバープレートが撮像された画像を、推論サーバ1に送信するために利用される。
学習サーバ3は、本サービス管理者又は学習を担当するベンダ等により、管理される。学習サーバ3は、例えば、複数のナンバープレートが撮像された画像のデータに基づいて学習を行うために利用される。
The information processing system shown in FIG. 1 is configured to include an inference server 1, a user terminal 2, and a learning server 3.
The inference server 1, the user terminal 2, and the learning server 3 are connected to each other via a network N such as the Internet.
The inference server 1 is managed by the administrator of this service. The inference server 1 applies a predetermined algorithm to an image (hereinafter, referred to as a “license plate image”) of the license plate captured from the user terminal 2 to recognize the license plate, for example. Used to do.
The user terminal 2 is used by a user who wants to provide this service. The user terminal 2 is used, for example, to transmit an image in which a license plate captured by a user or the like is captured to the inference server 1.
The learning server 3 is managed by the service manager or a vendor in charge of learning. The learning server 3 is used, for example, to perform learning based on the data of images in which a plurality of license plates are captured.

図2は、図1の情報処理システムのうち、推論サーバ1のハードウェア構成を示すブロック図である。   FIG. 2 is a block diagram showing the hardware configuration of the inference server 1 in the information processing system of FIG.

推論サーバ1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、出力部16と、入力部17と、記憶部18と、通信部19と、ドライブ20と、を備えている。   The inference server 1 includes a CPU (Central Processing Unit) 11, a ROM (Read Only Memory) 12, a RAM (Random Access Memory) 13, a bus 14, an input / output interface 15, an output unit 16, and an input unit 17. The storage unit 18, the communication unit 19, and the drive 20 are provided.

CPU11は、ROM12に記録されているプログラム、又は、記憶部18からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
The CPU 11 executes various processes according to the program recorded in the ROM 12 or the program loaded from the storage unit 18 into the RAM 13.
The RAM 13 also stores data necessary for the CPU 11 to execute various processes.

CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、出力部16、入力部17、記憶部18、通信部19及びドライブ20が接続されている。   The CPU 11, ROM 12, and RAM 13 are connected to each other via a bus 14. An input / output interface 15 is also connected to the bus 14. An output unit 16, an input unit 17, a storage unit 18, a communication unit 19, and a drive 20 are connected to the input / output interface 15.

出力部16は、ディスプレイやスピーカ等で構成され、各種情報を画像や音声として出力する。
入力部17は、キーボードやマウス等で構成され、各種情報を入力する。
The output unit 16 is composed of a display, a speaker, and the like, and outputs various kinds of information as images and sounds.
The input unit 17 is composed of a keyboard, a mouse and the like, and inputs various information.

記憶部18は、ハードディスクやDRAM(Dynamic Random Access Memory)等で構成され、各種データを記憶する。
通信部19は、インターネットを含むネットワークNを介して他の装置(図1の例ではユーザ端末2及び学習サーバ3)との間で通信を行う。
The storage unit 18 includes a hard disk, a DRAM (Dynamic Random Access Memory), or the like, and stores various data.
The communication unit 19 communicates with other devices (the user terminal 2 and the learning server 3 in the example of FIG. 1) via the network N including the Internet.

ドライブ20には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア21が適宜装着される。ドライブ20によってリムーバブルメディア21から読み出されたプログラムは、必要に応じて記憶部18にインストールされてもよい。
また、リムーバブルメディア21は、記憶部18に記憶されている各種データも、記憶部18と同様に記憶することができる。
A removable medium 21 including a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory, or the like is appropriately mounted on the drive 20. The program read from the removable medium 21 by the drive 20 may be installed in the storage unit 18 as needed.
Further, the removable medium 21 can also store various data stored in the storage unit 18 in the same manner as the storage unit 18.

なお、図示はしないが、図1の情報処理システムのうち、ユーザ端末2と学習サーバ3のハードウェア構成は、推論サーバ1のハードウェア構成と、基本的に同様とすることができるため、ここでは説明を省略する。   Although not shown, the hardware configurations of the user terminal 2 and the learning server 3 in the information processing system of FIG. 1 can be basically the same as the hardware configuration of the inference server 1. Then, the description is omitted.

次に、このようなハードウェア構成を持つ推論サーバ1、ユーザ端末2、及び学習サーバ3の機能的構成について、図3を参照して説明する。
図3は、図1の情報処理システムのうちの推論サーバ1、ユーザ端末2、及び学習サーバ3の機能的構成の一例を示す機能ブロック図である。
ここで、本サービスに係る各種処理は、後述する学習処理及びナンバープレート識別処理に大別される。そこで、まずは、主として推論サーバ1及びユーザ端末2において、実行される学習処理について説明する。
Next, the functional configurations of the inference server 1, the user terminal 2, and the learning server 3 having such a hardware configuration will be described with reference to FIG.
FIG. 3 is a functional block diagram showing an example of the functional configuration of the inference server 1, the user terminal 2, and the learning server 3 in the information processing system of FIG.
Here, various processes related to this service are roughly classified into a learning process and a license plate identification process which will be described later. Therefore, first, the learning process executed mainly in the inference server 1 and the user terminal 2 will be described.

図3に示すように、学習サーバ3のCPU31においては、データ取得部61と、データ加工部62と、学習用画像生成部63と、位置座標データ生成部64と、学習部65とが機能する。
データ加工部62では、ナンバープレート画像生成部71と、バンプ加工部72と、ノイズ加工部73と、陰影加工部74と、歪み加工部75とが機能する。
なお、記憶部38の一領域には、ナンバープレートDB100と、学習処理DB200とが設けられている。
As shown in FIG. 3, in the CPU 31 of the learning server 3, the data acquisition unit 61, the data processing unit 62, the learning image generation unit 63, the position coordinate data generation unit 64, and the learning unit 65 function. .
In the data processing unit 62, the license plate image generation unit 71, the bump processing unit 72, the noise processing unit 73, the shadow processing unit 74, and the distortion processing unit 75 function.
A license plate DB 100 and a learning process DB 200 are provided in one area of the storage unit 38.

学習サーバ3のデータ取得部61は、図示せぬデータベース等から、複数のナンバープレートが撮像された画像のデータ(以下、「ナンバープレートデータ」と呼ぶ)を取得して、その情報をナンバープレートDB100に格納する。
また、ナンバープレートDB100には、ナンバープレートデータ以外にも、ナンバープレートの構成要素である文字領域と、色領域と、背景に関するデータも格納されているものとする。
The data acquisition unit 61 of the learning server 3 acquires data of an image of a plurality of license plates (hereinafter referred to as “license plate data”) from a database or the like (not shown), and obtains the information from the license plate DB 100. To store.
In addition to the license plate data, the license plate DB 100 also stores character areas, color areas, and background data, which are components of the license plate.

データ加工部62は、ナンバープレートDB100に格納されたナンバープレートデータを適宜抽出し、それらのデータを加工する。具体的な加工は、以下のとおりである。   The data processing unit 62 appropriately extracts the license plate data stored in the license plate DB 100 and processes the data. The specific processing is as follows.

ナンバープレート画像生成部71は、文字及び色を加工して、新たな学習用画像を生成する。
即ち、ナンバープレート画像には、地域名、分類番号、ひらがな、及び番号の4種類の文字領域が含まれる。ナンバープレート画像生成部71は、例えば、ナンバープレートDB100に格納されているナンバープレート画像に含まれる文字領域の内容を、任意に選出、組み合わせることで、ナンバープレート画像に含まれる文字領域部分を決定し、学習用の新たなナンバープレートデータ(以下、「加工ナンバープレートデータ」と呼ぶ)を生成することができる。
The license plate image generator 71 processes characters and colors to generate a new learning image.
That is, the license plate image includes four types of character areas: area name, classification number, hiragana, and number. The license plate image generation unit 71 determines the character region portion included in the license plate image by arbitrarily selecting and combining the contents of the character region included in the license plate image stored in the license plate DB 100, for example. , New license plate data for learning (hereinafter referred to as “processed license plate data”) can be generated.

ここで、ナンバープレート画像に含まれる文字領域部分の決定方法は、特に制限されないが、例えば、地域名は、すべての地域の中から1つの地域名をランダムに1つ選び、ひらがなも同様に一文字をランダムに選び、分類番号は、2桁又は3桁のどちらかにするかをランダムに選び、桁数毎にランダムに0〜9の数字を一文字選び、番号は、0〜9999までの整数を1つ選び、4桁ある場合には2桁目と3桁目の間にハイフンを挿入し、4桁より桁数が少ない場合には、右詰めで「・」でパディングを行う、というルールで決定することができる。
また、ナンバープレート画像生成部71は、ナンバープレート画像のうちプレートの色を変更して加工ナンバープレートデータを生成してもよい。
即ち、ナンバープレート画像生成部71は、自動車の用途・軽自動車かどうかの別によって白地に緑文字、緑地に白文字、黄色地に黒文字、黒地に黄色文字の4種類がある。ナンバープレート画像生成部71は、決定したナンバープレート画像の文字部分に対して、上記の4種類の色をランダムに選択して合成し、加工ナンバープレートデータを生成してもよい。
Here, the method of determining the character area portion included in the license plate image is not particularly limited, but for example, for the area name, one area name is randomly selected from all areas, and one character is also used for hiragana. At random, select either 2 digits or 3 digits for the classification number at random, randomly select one character from 0 to 9 for each number of digits, and the number is an integer from 0 to 9999. The rule is to select one and insert a hyphen between the 2nd and 3rd digits if there are 4 digits, and pad to the right with "・" if the number of digits is less than 4 digits. You can decide.
Further, the license plate image generation unit 71 may change the color of the plate in the license plate image to generate the processed license plate data.
That is, the license plate image generation unit 71 has four types, that is, a green character on a white background, a white character on a green background, a black character on a yellow background, and a yellow character on a black background, depending on whether the vehicle is used or not. The license plate image generation unit 71 may randomly select and combine the above-described four types of colors with respect to the determined character portion of the license plate image to generate processed license plate data.

バンプ加工部72は、ナンバープレート画像の文字領域部分に対して、文字部分を立体的に隆起させるバンプ加工を行うことで、加工ナンバープレートデータを生成する。
具体的に例えば、バンプ加工部72は、ナンバープレート画像の真上を12時とした場合に、4時から8時の方向の間で陰影の方向をランダムに決定してバンプ加工を行う。
このバンプ加工により、文字部分は立体的になり、文字部分の周りにハイライト及び陰影が生じる。このバンプ加工により、バンプ加工部72は、ナンバープレートの文字部分の輪郭の濃淡が異なる複数の加工ナンバープレートデータを生成することができる。
The bump processing unit 72 generates processed license plate data by subjecting the character area portion of the license plate image to bump processing in which the character portion is raised three-dimensionally.
Specifically, for example, the bump processing unit 72 performs bump processing by randomly determining the shadow direction between the directions from 4 o'clock to 8 o'clock when the position directly above the license plate image is 12 o'clock.
By this bump processing, the character portion becomes three-dimensional, and highlights and shadows occur around the character portion. By this bump processing, the bump processing unit 72 can generate a plurality of processed license plate data in which the contour of the character portion of the license plate has different shades.

ノイズ加工部73は、ナンバープレート画像の文字領域部分に汚れやテカリなどのノイズ加工を行うことで、加工ナンバープレートデータを生成する。
この汚れやテカリなどのノイズにより、実際のナンバープレートは文字の輪郭に影響がある場合がある。このノイズ加工により、ノイズ加工部73は、ナンバープレート画像の文字部分の輪郭が異なる複数の加工ナンバープレートデータを生成することができる。
なお、画像の保存系力によっては、その保存形式の特性によりノイズが自然に発生する場合もある(例えば、JPEGのブロックノイズ等)。
The noise processing unit 73 generates processed license plate data by performing noise processing such as dirt and shine on the character area portion of the license plate image.
Due to the noise such as dirt and shininess, the actual license plate may affect the outline of characters. By this noise processing, the noise processing unit 73 can generate a plurality of processed license plate data in which the contour of the character portion of the license plate image is different.
Depending on the storage system power of the image, noise may naturally occur due to the characteristics of the storage format (for example, JPEG block noise or the like).

陰影加工部74は、ナンバープレート画像に対して、陽の光や自動車のボディの形状などの影響による陰影を加える陰影加工を行うことで、加工ナンバープレートデータを生成する。
陰影加工部74は、ナンバープレート画像の真上を12時とした場合に、3時から9時の方向の間で上からランダムに影が落ちる様に陰影加工を行う。下から上に影が入るシチュエーションは少ないため、バンプ加工と比較して、陰影方向の角度の幅は狭くてよい。
この陰影加工により、陰影加工部74は、ナンバープレートの文字部分の輪郭の濃淡が異なる複数の加工ナンバープレートデータを生成することができる。
The shading processing unit 74 generates shading license plate data by performing shading processing on the license plate image by adding shading due to the influence of the sunlight and the shape of the body of the automobile.
The shading processing unit 74 performs shading so that shadows randomly fall from above between the directions from 3 o'clock to 9 o'clock when the top of the license plate image is 12 o'clock. Since there are few situations in which shadows enter from the bottom to the top, the width of the angle in the shadow direction may be narrower than in bump processing.
By this shading processing, the shading processing unit 74 can generate a plurality of processed license plate data in which the shade of the contour of the character portion of the license plate is different.

歪み加工部75は、ナンバープレート画像を3次元方向に動かした時の歪みを加える歪み加工を行うことで、加工ナンバープレートデータを生成する。
具体的に例えば、歪み加工部75は、ナンバープレート画像が真正面を向いた状態から、ナンバープレート画像のX軸、Y軸、Z軸それぞれに対して±30度までの傾きをランダムに行う。
この歪み加工により、歪み加工部75は、ナンバープレートの文字領域部分の見え方が異なる複数の加工ナンバープレートデータを生成することができる。
The distortion processing unit 75 generates processed license plate data by performing distortion processing that adds distortion when the license plate image is moved in the three-dimensional direction.
Specifically, for example, the distortion processing unit 75 randomly inclines up to ± 30 degrees with respect to each of the X-axis, Y-axis, and Z-axis of the license plate image from the state in which the license plate image faces directly in front.
By this distortion processing, the distortion processing unit 75 can generate a plurality of processed license plate data in which the appearance of the character area portion of the license plate is different.

学習用画像生成部63は、ナンバープレートDB100に格納されたナンバープレートデータ又は上述の加工ナンバープレートデータに対して、ナンバープレートDB100に格納されている背景画像を合成することで、学習用の学習用画像を生成する。なお、合成に利用される背景画像は、例えば、ランダムに決定されてもよい。また、ここで言う背景画像とは、ナンバープレートが含まれていない画像であれば、どのようなものでも任意である。   The learning image generating unit 63 synthesizes the background image stored in the license plate DB 100 with the license plate data stored in the license plate DB 100 or the above-mentioned processed license plate data, thereby learning for learning. Generate an image. The background image used for composition may be randomly determined, for example. The background image referred to here may be any image as long as it does not include the license plate.

位置座標データ生成部64は、上記学習用画像の中で、ナンバープレート部分の四隅の位置の座標データを生成する。この位置座標データは、後述する学習部での処理の際に、学習用画像と共に学習されるデータである。
このようにナンバープレートの四隅の位置の座標データを生成することで、ナンバープレートが設置されている周囲環境とナンバープレートとのなんらかの位置関係など、ナンバープレートの外部情報からナンバープレートの四隅を識別するアルゴリズムが生成されることを防ぐことができる。
The position coordinate data generation unit 64 generates coordinate data of the positions of the four corners of the license plate portion in the learning image. The position coordinate data is data that is learned together with the learning image during the processing in the learning unit described later.
By generating the coordinate data of the four corner positions of the license plate in this way, the four corners of the license plate are identified from the external information of the license plate, such as the positional relationship between the license plate and the surrounding environment where the license plate is installed. It is possible to prevent the algorithm from being generated.

学習部65は、ナンバープレートDB100に格納されているナンバープレートデータ及び学習用画像生成部63が生成された学習用画像、ナンバープレートの文字、色、並びにナンバープレートの四隅の位置座標データ等に基づいて、機械学習に関する手法が適用して学習することで、ナンバープレートの識別アルゴリズム(以下、「識別アルゴリズム」と呼ぶ)を出力する。
ここで、学習部65が採用する機械学習に関する手法とは、特に限定されず、任意である。
さらに、学習部65は、出力した識別アルゴリズムを、学習処理DB200に格納すると共に、通信部39を介して推論サーバ1に送信する。
以上、本サービスに係る学習処理及びナンバープレート識別処理のうち、学習処理において、機能し得る各種機能的構成を簡単に説明した。続いて、ナンバープレート識別処理において、機能し得る各種機能的構成を簡単に説明する。
The learning unit 65 is based on the license plate data stored in the license plate DB 100 and the learning image generated by the learning image generation unit 63, characters and colors of the license plate, position coordinate data of four corners of the license plate, and the like. Then, a method related to machine learning is applied and learned to output a license plate identification algorithm (hereinafter, referred to as “identification algorithm”).
Here, the method regarding machine learning adopted by the learning unit 65 is not particularly limited and is arbitrary.
Further, the learning unit 65 stores the output identification algorithm in the learning processing DB 200 and transmits it to the inference server 1 via the communication unit 39.
The various functional configurations that can function in the learning process of the learning process and the license plate identification process related to the service have been briefly described above. Next, various functional configurations that can function in the license plate identification process will be briefly described.

図3に示すように、推論サーバ1のCPU11においては、データ管理部51と、アルゴリズム取得部52と、識別部53と、結果出力部54とが機能する。
なお、後述するナンバープレート識別処理においては、前提としてユーザ端末2等から推論サーバ1に対して、ユーザが識別を希望するナンバープレートを含む画像のデータ(以下、「識別希望画像データ」と呼ぶ)が送信されているものとする。
As shown in FIG. 3, in the CPU 11 of the inference server 1, the data management unit 51, the algorithm acquisition unit 52, the identification unit 53, and the result output unit 54 function.
In the license plate identification process described later, image data including a license plate that the user desires to identify from the user terminal 2 or the like to the inference server 1 (hereinafter, referred to as “identification desired image data”). Has been sent.

推論サーバ1のデータ管理部51は、ユーザ端末2等から送信されてきた識別希望画像データを、通信部19を介して、取得する。
ここで、上述の識別希望画像データには、ナンバープレートの構成要素である文字の領域、色の領域、背景に関する各種データも含んでいる。
The data management unit 51 of the inference server 1 acquires the identification desired image data transmitted from the user terminal 2 or the like via the communication unit 19.
Here, the above-mentioned identification desired image data also includes various data regarding a character area, a color area, and a background, which are constituent elements of the license plate.

アルゴリズム取得部52は、ナンバープレートの識別アルゴリズムを学習サーバ3から通信部19を介して取得する。   The algorithm acquisition unit 52 acquires the license plate identification algorithm from the learning server 3 via the communication unit 19.

識別部53は、データ管理部51が取得した識別希望画像データに対して、学習サーバ3から取得したナンバープレートの識別アルゴリズムを適用して、識別希望画像データの識別を行う。
ここで、識別希望画像データの識別とは、識別希望画像データに含まれるナンバープレート画像の文字認識を行ってもよく、ナンバープレート画像の文字情報の正誤を識別してもよい。
結果出力部54は、識別部53が識別した結果を、通信部19を介してユーザ端末2に送信する。
The identification unit 53 applies the identification algorithm of the license plate acquired from the learning server 3 to the identification desired image data acquired by the data management unit 51 to identify the identification desired image data.
Here, the identification of the identification desired image data may include character recognition of the license plate image included in the identification desired image data, or may be correct or incorrect of the character information of the license plate image.
The result output unit 54 transmits the result identified by the identification unit 53 to the user terminal 2 via the communication unit 19.

次に、図4を参照して、図2の機能的構成を有する学習サーバ3が実行するナンバープレート学習処理について説明する。
図4は、学習サーバ3により実行されるナンバープレート学習処理の流れを説明するフローチャートである。
Next, the license plate learning process executed by the learning server 3 having the functional configuration of FIG. 2 will be described with reference to FIG.
FIG. 4 is a flowchart illustrating the flow of the license plate learning process executed by the learning server 3.

図4に示すように、学習サーバ3では次のような一連の処理が実行される。
ステップS1において、ナンバープレートDB100に格納されたナンバープレートデータを適宜抽出し、それらのデータを加工する。
As shown in FIG. 4, the learning server 3 executes the following series of processes.
In step S1, the license plate data stored in the license plate DB 100 is extracted as appropriate and processed.

ステップS2において、ナンバープレート画像生成部71は、ナンバープレートDB100に格納されているナンバープレートの構成要素である文字領域と、色領域とに関するデータを加工して、ナンバープレート画像を生成する。   In step S2, the license plate image generation unit 71 processes the data regarding the character area and the color area, which are the constituent elements of the license plate, stored in the license plate DB 100 to generate a license plate image.

ステップS3において、バンプ加工部72は、ナンバープレート画像の文字部分を立体的に隆起させるバンプ加工を行い、加工ナンバープレートデータを生成する。   In step S3, the bump processing unit 72 performs bump processing for three-dimensionally raising the character portion of the license plate image to generate processed license plate data.

ステップS4において、ノイズ加工部73は、ナンバープレート画像の文字部分に汚れやテカリなどのノイズ加工を行い、加工ナンバープレートデータを生成する。   In step S4, the noise processing unit 73 performs noise processing such as dirt and shine on the character portion of the license plate image to generate processed license plate data.

ステップS5において、陰影加工部74は、陽の光や自動車のボディの形状などの影響による陰影を加える陰影加工を行い、加工ナンバープレートデータを生成する。   In step S5, the shading processing unit 74 performs shading processing to add shading due to the influence of the sunlight and the shape of the body of the automobile, and generates processed license plate data.

ステップS6において、歪み加工部75は、ナンバープレート画像を3次元方向に動かした時の歪みを加える歪み加工を行い、加工ナンバープレートデータを生成する。   In step S6, the distortion processing unit 75 performs distortion processing that adds distortion when the license plate image is moved in the three-dimensional direction, and generates processed license plate data.

ステップS7において、学習用画像生成部63は、ナンバープレートDB100に格納されたナンバープレートデータ又は上述の加工ナンバープレートデータに対して、ナンバープレートDB100に格納されている背景画像を合成することで、学習用の学習用画像を生成する。   In step S7, the learning image generation unit 63 synthesizes the background image stored in the license plate DB 100 with the license plate data stored in the license plate DB 100 or the above-described processed license plate data to perform learning. Generate a learning image for.

ステップS8において、位置座標データ生成部64は、上記学習用画像の中で、ナンバープレート部分の四隅の位置の座標データを生成する。   In step S8, the position coordinate data generation unit 64 generates coordinate data of the positions of the four corners of the license plate portion in the learning image.

ステップS9において、学習部65は、データ取得部61が取得したナンバープレートデータ及び学習用画像生成部63が生成した学習用画像、ナンバープレートの文字データ、色データ、並びにナンバープレートの四隅の位置座標データに対して、機械学習に関する手法を適用し、ナンバープレートの識別アルゴリズムを生成する。   In step S9, the learning unit 65 causes the license plate data acquired by the data acquisition unit 61 and the learning image generated by the learning image generation unit 63, the license plate character data, the color data, and the position coordinates of the four corners of the license plate. A method related to machine learning is applied to the data to generate a license plate identification algorithm.

ステップS10において、学習部65は、出力した識別アルゴリズムを、学習処理DB200に格納すると共に、通信部39を介して推論サーバ1に送信する。
以上の処理を経ることで、ナンバープレート学習処理は終了する。
In step S10, the learning unit 65 stores the output identification algorithm in the learning processing DB 200 and transmits it to the inference server 1 via the communication unit 39.
The license plate learning process ends through the above processes.

このように、ナンバープレートの処理を行うことで、大量のナンバープレートを学習し、精度の高いナンバープレートの識別アルゴリズムを生成することができる。   In this way, by processing license plates, a large number of license plates can be learned and a highly accurate license plate identification algorithm can be generated.

次に、図5を参照して、図2の機能的構成を有する推論サーバ1が実行するナンバープレート識別処理について説明する。
図5は、推論サーバ1により実行されるナンバープレート識別処理の流れを説明するフローチャートである。
Next, the license plate identification processing executed by the inference server 1 having the functional configuration of FIG. 2 will be described with reference to FIG.
FIG. 5 is a flowchart for explaining the flow of license plate identification processing executed by the inference server 1.

図5に示すように、推論サーバ1では次のような一連の処理が実行される。
ステップS21において、データ管理部51は、通信部19を介してユーザ端末2から識別希望画像データを取得する。
As shown in FIG. 5, the inference server 1 executes the following series of processes.
In step S21, the data management unit 51 acquires the identification desired image data from the user terminal 2 via the communication unit 19.

ステップS22において、アルゴリズム取得部52は、学習サーバ3から送られてきた識別アルゴリズムを取得する。
ステップS23において、識別部53は、データ管理部51が取得した識別希望画像データに対して、識別アルゴリズムを適用して、識別希望画像データの識別を行う。
In step S22, the algorithm acquisition unit 52 acquires the identification algorithm sent from the learning server 3.
In step S23, the identification unit 53 applies an identification algorithm to the identification desired image data acquired by the data management unit 51 to identify the identification desired image data.

ステップS24において、結果出力部54は、識別希望画像データの識別結果を、通信部19を介してユーザ端末2に送信する。
ステップS25において、データ管理部51は、新たな識別希望画像データが送信されてきたかどうかを確認する。その確認の結果、新たな識別希望画像データを取得していればステップSS21に戻り、ナンバープレート識別処理を再度行う。ここで、新たな識別希望画像データを取得していなければナンバープレート識別処理は終了する。
In step S24, the result output unit 54 transmits the identification result of the identification desired image data to the user terminal 2 via the communication unit 19.
In step S25, the data management unit 51 confirms whether new identification desired image data has been transmitted. As a result of the confirmation, if new desired identification image data is acquired, the process returns to step SS21 and the license plate identification process is performed again. Here, if the new identification desired image data has not been acquired, the license plate identification processing ends.

このように、新たな識別希望画像データを取得する度に、ナンバープレート識別処理を行うことにより、常に最新のアルゴリズムでナンバープレートを精度の高く識別することができる。   In this way, by performing the license plate identification process each time new desired identification image data is acquired, the license plate can always be identified with high accuracy by the latest algorithm.

次に、図6を用いて、学習サーバ3において、ナンバープレート画像に含まれる文字について簡単に説明する。
図6は、学習サーバ3において、ナンバープレートにおいて利用される文字の一例を示す図である。
Next, the characters included in the license plate image in the learning server 3 will be briefly described with reference to FIG.
FIG. 6 is a diagram showing an example of characters used in the license plate in the learning server 3.

図6(a)の例では、地域名M1の一例として「なにわ」という文字が表示されている。図6(b)の例では、分類番号M2の一例として「530」という文字が表示されている。図6(c)の例では、ひらがなM3の一例として「あ」という文字が表示されている。図6(d)の例では、番号M4の一例として「00−00」という文字が記載されている。なお、実際には日本国では0から始まるナンバープレートは存在しないが、ここでは説明の便宜上、「00−00」が存在するものとする。
ここで、本実施形態における、「地域名」、「分類番号」、「ひらがな」、「番号」について説明する。「地域名」、「分類番号」、「ひらがな」、「番号」とは、日本国のナンバープレートにおける独自の表示形式である。
「地域名」とは、表示されているナンバープレートが登録されている地域名が表示されている。即ち、図6(a)の例では、例えば、「なにわ」の文字が表示されているナンバープレートP1の登録地域がなにわ(なにわ自動車検査登録事務所)であることを示している。
「分類番号」とは、ナンバープレートが設置された自動車の種類や用途等を区分するために用いられる番号である。具体的に例えば、図6(b)の例では、分類番号「530」の文字が表示されているナンバープレートP2の用途は、例えば、「小型乗用」であることを示している。
「ひらがな」とは、上述の「分類番号」と同様に、ナンバープレートが設置された自動車の用途等を区分するために用いられる。ただし、分類の内容が多少異なっている。
「番号」とは、表示されているナンバープレートを一意に特定するための番号である。
このようにナンバープレートには、予め道路交通法等で定められた所定のルールに従って表示される文字が決定される場合がある。
In the example of FIG. 6A, the characters "Naniwa" are displayed as an example of the area name M1. In the example of FIG. 6B, the character “530” is displayed as an example of the classification number M2. In the example of FIG. 6C, the character "A" is displayed as an example of the hiragana M3. In the example of FIG. 6D, the character “00-00” is described as an example of the number M4. In reality, there is no license plate starting from 0 in Japan, but here, for convenience of explanation, "00-00" is assumed to exist.
Here, the “region name”, “classification number”, “hiragana”, and “number” in this embodiment will be described. The "region name", "classification number", "hiragana", and "number" are display formats unique to Japanese license plates.
The "region name" indicates the region name in which the displayed license plate is registered. That is, in the example of FIG. 6A, for example, the registration area of the license plate P1 on which the characters "Naniwa" are displayed is Naniwa (Naniwa automobile inspection registration office).
The “classification number” is a number used to classify the type and purpose of use of the automobile on which the license plate is installed. Specifically, for example, in the example of FIG. 6B, the license plate P2 on which the characters of the classification number “530” are displayed indicates that the license plate P2 is, for example, “small passenger”.
The “hiragana” is used to classify the application of the automobile in which the license plate is installed, etc., like the “classification number” described above. However, the contents of classification are slightly different.
The "number" is a number for uniquely identifying the displayed license plate.
As described above, the characters displayed on the license plate may be determined according to a predetermined rule defined in advance by the Road Traffic Law or the like.

つまり、ナンバープレートの分類番号等には、道路交通法等に基づく所定のルールが存在するため、学習サーバ3は、これらのルールを含んで学習を行えば、学習の精度が向上する可能性がある。
他方、これらのルールは、変更する可能性も十分にあるため、上述のナンバープレート画像生成部71がランダムに文字を選択して、加工ナンバープレートデータを生成したように、敢えて、これらのルールを学習に含まなくともよい。
換言すれば、学習サーバ3は、ナンバープレートに関する各種ルールのうち任意のルールのみを採用して、学習に利用してもよい。
That is, since there are predetermined rules based on the Road Traffic Act and the like for the license plate classification number and the like, the learning server 3 may improve the accuracy of learning by performing learning including these rules. is there.
On the other hand, since these rules have a high possibility of being changed, the above-mentioned license plate image generating unit 71 randomly selects a character and intentionally changes these rules as if the processed license plate data was generated. It does not have to be included in learning.
In other words, the learning server 3 may adopt only an arbitrary rule out of various rules regarding the license plate and use it for learning.

また、学習サーバ3の学習部65は、学習用画像のうち、図6の(a)〜(d)で示した構成要素の夫々を含む画像を、夫々、別々に機械学習の手法を適用して、学習を行うこともできる。
さらに、学習部65は、ナンバープレートの識別アルゴリズムを、ナンバープレート全体の識別アルゴリズムを生成するのみではなく、ナンバープレートの各構成要素毎に判別アルゴリズムを生成することができる。
Further, the learning unit 65 of the learning server 3 individually applies the machine learning method to the images including the constituent elements shown in (a) to (d) of FIG. 6 among the learning images. You can also study.
Further, the learning unit 65 can generate not only the identification algorithm for the entire license plate but also the identification algorithm for each component of the license plate as the identification algorithm for the license plate.

このように、構成要素の夫々に対して、別々に学習を行うことは、新たな学習用画像が追加され、再学習を行う際に特に有用である。
即ち、ナンバープレートの構成は、法律や規則の変更によって変更がある場合がある。上記のように、ナンバープレートの各構成要素毎に機械学習を行えば、仮にナンバープレートの構成に変更があった場合でも、変更があった箇所のみに再学習を行えば、識別の制度を十分に保つことができることが期待される。
In this way, learning each of the constituent elements separately is particularly useful when a new learning image is added and relearning is performed.
That is, the structure of the license plate may change due to changes in laws and regulations. As described above, if machine learning is performed for each component of the license plate, even if there is a change in the structure of the license plate, re-learning only at the changed portion will provide a sufficient identification system. Expected to be able to keep.

次に、図7を用いて、学習サーバ3において、実行されるナンバープレート画像の加工を説明する。
図7は、学習サーバ3において、実行されるナンバープレート画像の加工の具体例を示す図である。
Next, processing of the license plate image executed in the learning server 3 will be described with reference to FIG. 7.
FIG. 7 is a diagram showing a specific example of the processing of the license plate image executed in the learning server 3.

図7(a)は、「な」の文字を立体的に隆起させてバンプ加工をした結果、陰影が生じている加工後のナンバープレートK1を示している。図7(b)は、ナンバープレートの上部を汚してノイズ加工をした加工後のナンバープレートK2を示している。図7(c)は、ナンバープレートを右側から見たように動かして歪み加工を加えた加工後のナンバープレートK3と、ナンバープレートを上部から見たように動かして歪み加工を加えた加工後のナンバープレートK4を示している。
このように、データ加工部62では、ナンバープレートに様々な加工を施すことで、学習用画像の元になる数多くのナンバープレート画像を生成することができる。
FIG. 7A shows the license plate K1 after processing in which a shadow is formed as a result of bump processing by three-dimensionally raising the character "NA". FIG.7 (b) has shown the license plate K2 after the process which processed the noise process by making the upper part of the license plate dirty. FIG. 7 (c) shows a license plate K3 after being processed by distortion by moving the license plate as viewed from the right side, and a plate after processing by moving the license plate as viewed from above and being subjected to distortion processing. The license plate K4 is shown.
As described above, the data processing unit 62 can generate a large number of license plate images that are the basis of the learning image by performing various processes on the license plate.

次に、図8を用いて、学習サーバ3において、ナンバープレート画像と背景画像とを合成した学習用画像を説明する。
図8は、学習サーバ3において、生成されるナンバープレート画像と背景画像とを合成した学習用画像の具体例を示す図である。
Next, a learning image in which the license plate image and the background image are combined in the learning server 3 will be described with reference to FIG.
FIG. 8 is a diagram showing a specific example of a learning image in which the license plate image and the background image generated are combined in the learning server 3.

図8は、背景画像内にナンバープレートP5が合成された学習用画像Gを示している。
このように、学習用画像生成部63は、生成して各種の加工を施されたナンバープレート画像に、ランダムに選択した背景画像を合成することで、多量の学習用画像を生成することができる。
FIG. 8 shows a learning image G in which the license plate P5 is combined with the background image.
As described above, the learning image generation unit 63 can generate a large number of learning images by synthesizing the randomly selected background image with the license plate image generated and variously processed. .

以上、本発明の実施の形態について説明したが、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。また、本実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本実施形態に記載されたものに限定されるものではない。   Although the embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments, and modifications, improvements, etc. within the scope of achieving the object of the present invention are included in the present invention. Is. In addition, the effects described in the present embodiment are merely enumeration of the most suitable effects resulting from the present invention, and the effects according to the present invention are not limited to those described in the present embodiment.

また、ナンバープレート文字データは、推論サーバから取得したもの以外にも、所定のアルゴリズムによって、学習サーバ3で生成したものを用いてもよい。学習サーバ3が、ナンバープレートに表示する文字を生成する場合、ランダムに生成してもよいし、上述のルールを加味して、一定の制限のもとで、ナンバープレートに表示する文字を生成してもよい。
また、ナンバープレート画像の生成においては、データ加工部62は、本明細書に示した以外の各種の加工が施されていてもよい。例えば、ナンバープレートの周辺に枠を合成する枠加工をしてもよい。
Further, as the license plate character data, other than the one acquired from the inference server, one generated by the learning server 3 by a predetermined algorithm may be used. When the learning server 3 generates the characters to be displayed on the license plate, the learning server 3 may be randomly generated, or in consideration of the above rule, the characters to be displayed on the license plate are generated under certain restrictions. May be.
Further, in generating the license plate image, the data processing unit 62 may be subjected to various kinds of processing other than those described in this specification. For example, frame processing for combining a frame around the license plate may be performed.

また例えば、上述の実施形態において、学習部65が機械学習する画像は、特に制限されず、データ取得部61が取得した画像をそのまま学習してもよい。学習用画像は、データ加工部内のすべての加工が施される必要はなく、一部の加工のみが施されていてもよく、全く加工が施されていなくてもよい。
さらに言えば、学習部65が機械学習を実行する際に、ナンバープレートの四隅の位置座標データは必ずしも必要ではなく、このデータがないデータを学習することもできる。
Further, for example, in the above-described embodiment, the image that the learning unit 65 performs machine learning is not particularly limited, and the image acquired by the data acquisition unit 61 may be directly learned. The learning image does not have to be completely processed in the data processing unit, and may be partially processed or may not be processed at all.
Furthermore, when the learning unit 65 executes machine learning, the position coordinate data of the four corners of the license plate is not always necessary, and data without this data can be learned.

また例えば、上述の実施形態において、推論サーバ1や学習サーバ3で各種処理を実行する場合、必要な部分のみを切り取る、不要な部分の画質を低画質にする、等を行ってもよい。
これにより、推論サーバ1又は学習サーバ3は、各種処理に必要な演算量を低減し、各種処理を短時間で行うことができる。
Further, for example, in the above-described embodiment, when various processes are executed by the inference server 1 or the learning server 3, only necessary parts may be cut off, unnecessary part image quality may be reduced, or the like.
As a result, the inference server 1 or the learning server 3 can reduce the amount of calculation required for various processes and can perform various processes in a short time.

また例えば、一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであっても良い。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
Further, for example, when a series of processes is executed by software, a program forming the software is installed in a computer or the like from a network or a recording medium.
The computer may be a computer embedded in dedicated hardware. Further, the computer may be a computer capable of executing various functions by installing various programs, for example, a general-purpose personal computer.

また例えば、このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布されるリムーバブルメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディアは、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されているROMや、記憶部に含まれるハードディスク等で構成される。   Further, for example, a recording medium including such a program is not only configured by a removable medium that is distributed separately from the device body in order to provide the program to the user, but is also installed in the device body in advance to the user. It is composed of the provided recording medium and the like. The removable medium is composed of, for example, a magnetic disk (including a floppy disk), an optical disk, a magneto-optical disk, or the like. The optical disk is configured by, for example, a CD-ROM (Compact Disk-Read Only Memory), a DVD (Digital Versatile Disk), or the like. The magneto-optical disk is composed of MD (Mini-Disk) or the like. In addition, the recording medium provided to the user in a state of being pre-installed in the apparatus main body is constituted by, for example, a ROM in which a program is recorded, a hard disk included in a storage unit, or the like.

なお、本明細書において、記録媒体に記録されるプログラムを記述するステップ及びセールスステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
In the present specification, the steps of writing the program recorded on the recording medium and the sales steps are not limited to the processing performed in time series according to the order, but are not necessarily performed in time series, but may be performed in parallel. Alternatively, it also includes processing that is executed individually.
In addition, in the present specification, the term “system” means an overall device including a plurality of devices and a plurality of means.

また例えば、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。   Further, for example, the series of processes described above can be executed by hardware or software.

また例えば、図3に示す各ハードウェア構成は、本発明の目的を達成するための例示に過ぎず、特に限定されない。   Further, for example, each hardware configuration shown in FIG. 3 is merely an example for achieving the object of the present invention, and is not particularly limited.

また例えば、図3に示す機能ブロック図及び図4図5に示すフローチャートは、例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行出来る機能が情報処理システムに備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは、特に図3の例に限定されない。
また、機能ブロックの存在場所も、図3に特に限定されず、任意でよい。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
さらに言えば、これらの機能ブロックは、上述の推論サーバ1、ユーザ端末2及び学習サーバ3の夫々に存在する必要はなく、任意である。
具体的に例えば、ユーザ端末2や学習サーバ3が推論サーバ1の機能含んで構成されても良いし、その逆でもよい。
Further, for example, the functional block diagram shown in FIG. 3 and the flowchart shown in FIG. 4 and FIG. 5 are merely examples, and are not particularly limited. That is, it is sufficient if the information processing system has a function capable of executing the above-described series of processes as a whole, and what kind of functional block is used to realize this function is not particularly limited to the example of FIG. .
Further, the location of the functional block is not particularly limited to that shown in FIG. 3, and may be arbitrary.
Further, one functional block may be configured by hardware alone, software alone, or a combination thereof.
Furthermore, these functional blocks do not have to exist in each of the inference server 1, the user terminal 2 and the learning server 3 described above, and are optional.
Specifically, for example, the user terminal 2 and the learning server 3 may be configured to include the function of the inference server 1 and vice versa.

以上まとめると、本発明が適用される情報処理装置は、次のような構成を取れば足り、各種各様な実施形態を取ることができる。
即ち、本発明が適用される情報処理装置(例えば、図3の推論サーバ1)は、
複数のナンバープレートを被写体に含む画像及び当該画像を加工して作成された画像を含む学習用画像に関するデータに対して、機械学習に関する手法が適用させて学習がなされた結果として得られる、所定のアルゴリズムを取得するアルゴリズム取得手段(例えば、図3のアルゴリズム取得部52)と、
所定のナンバープレートに加えて、文字と、色の領域と、背景とを被写体に含む画像に関するデータを取得するユーザ情報取得手段(例えば、図3のデータ管理部51)と、
前記ユーザ情報取得手段により取得された前記データに対して、前記アルゴリズム取得手段により取得された前記所定のアルゴリズムを適用して得られる結果を出力するアルゴリズム適用手段(例えば、図3の識別部53)と、
を備える。
これにより、ナンバープレートに関する学習データを大量に用意して、精度の高いナンバープレート認識をすることができる。
In summary, the information processing apparatus to which the present invention is applied may have various configurations as long as it has the following configuration.
That is, the information processing apparatus to which the present invention is applied (for example, the inference server 1 in FIG. 3) is
A predetermined value obtained as a result of learning by applying a method related to machine learning to data related to an image for learning including an image including a plurality of license plates as subjects and an image created by processing the images. An algorithm acquisition unit (for example, the algorithm acquisition unit 52 in FIG. 3) that acquires an algorithm,
In addition to a predetermined license plate, a user information acquisition unit (for example, the data management unit 51 in FIG. 3) that acquires data regarding an image including a character, a color region, and a background as a subject,
Algorithm applying means for outputting a result obtained by applying the predetermined algorithm acquired by the algorithm acquiring means to the data acquired by the user information acquiring means (for example, the identifying unit 53 in FIG. 3). When,
Equipped with.
As a result, a large amount of learning data regarding license plates can be prepared for highly accurate license plate recognition.

また、アルゴリズム取得手段は、前記ナンバープレート画像の文字部分を立体的に隆起させるバンプ加工手段(例えば、図3のバンプ加工部72)、前記ナンバープレート画像の文字部分に汚れやテカリなどのノイズを加えるノイズ加工手段(例えば、図3のノイズ加工部73)、前記ナンバープレート画像の文字部分に陽の光や自動車のボディの形状などの影響による陰影を加える陰影加工手段(例えば、図3の陰影加工部74)、及び前記ナンバープレート画像を3次元方向に動かした時の歪みを加える歪み加工手段(例えば、図3の歪み加工部75)からなる群から選ばれる少なくとも1つの加工手段を用いて加工して作成された画像を少なくとも含む、前記学習用画像に関するデータを使用して決定された前記所定のアルゴリズムを取得することができる。
これにより、ナンバープレートに関する学習データをより大量に用意して、精度の高いナンバープレート認識をすることができる。
Further, the algorithm acquisition means is a bump processing means (for example, the bump processing part 72 in FIG. 3) that three-dimensionally raises the character portion of the license plate image, and noise such as dirt and shine on the character portion of the license plate image. A noise processing means (for example, the noise processing section 73 in FIG. 3) to be added, and a shadow processing means (for example, shadow in FIG. 3) for adding a shadow to the character portion of the license plate image due to the influence of the sunlight or the shape of the body of the automobile. Processing unit 74), and at least one processing unit selected from the group consisting of a distortion processing unit (for example, the distortion processing unit 75 of FIG. 3) that adds distortion when the license plate image is moved in the three-dimensional direction. The predetermined algorithm determined using the data about the learning image, including at least the image created by processing, It can be Tokusuru.
As a result, a large amount of learning data regarding license plates can be prepared, and highly accurate license plate recognition can be performed.

また、情報処理装置(例えば、図3の推論サーバ1)は、
前記複数のナンバープレート画像及び前記学習用画像に関するデータの全部又は一部について、ナンバープレートの四隅の位置座標のデータに基づいて取得されることができる。
これにより、ナンバープレートの四隅の位置の座標データを生成することで、ナンバープレートが設置されている周囲環境とナンバープレートとのなんらかの位置関係など、ナンバープレートの外部情報からナンバープレートの四隅を識別するアルゴリズムが生成されることを防ぐことができる。
Further, the information processing device (for example, the inference server 1 in FIG. 3) is
All or part of the data relating to the plurality of license plate images and the learning image can be acquired based on the data of the position coordinates of the four corners of the license plate.
With this, by generating coordinate data of the positions of the four corners of the license plate, the four corners of the license plate can be identified from external information of the license plate, such as some positional relationship between the license plate and the surrounding environment. It is possible to prevent the algorithm from being generated.

また、情報処理装置(例えば、図3の推論サーバ1)は、
前記アルゴリズム取得手段は、前記学習用画像に関するデータに対して、前記ナンバープレートの地域名部分と、前記ナンバープレートの分類番号部分と、前記ナンバープレートのひらがな部分と、前記ナンバープレートの番号部分とのそれぞれ別々に機械学習に関する手法を適用し、決定された所定のアルゴリズムを取得することができる。
これにより、仮にナンバープレートの構成に変更があった場合でも、変更があった部分のみの再学習を行うことができる。
Further, the information processing device (for example, the inference server 1 in FIG. 3) is
The algorithm acquisition means, with respect to the data related to the learning image, a region name portion of the license plate, a classification number portion of the license plate, a hiragana portion of the license plate, and a number portion of the license plate. It is possible to separately apply a method related to machine learning and obtain a determined predetermined algorithm.
Thereby, even if the configuration of the license plate is changed, only the changed portion can be relearned.

1・・・推論サーバ、2・・・ユーザ端末、3・・・学習サーバ、11・・・CPU、12・・・ROM、13・・・RAM、14・・・バス、15・・・入出力インターフェース、16・・・表示部、17・・・入力部、18・・・記憶部、19・・・通信部、20・・・ドライブ、21・・・リムーバブルメディア、31・・・CPU、38・・・記憶部、39・・・通信部、51・・・データ管理部、52・・・アルゴリズム取得部、53・・・識別部、54・・・結果出力部、61・・・データ取得部、62・・・データ加工部、63・・・学習用画像生成部、64・・・位置座標データ生成部、65・・・学習部、71・・・ナンバープレート画像生成部、72・・・バンプ加工部、73・・・ノイズ加工部、74・・・陰影加工部、75・・・歪み加工部、100・・・ナンバープレートDB、200・・・学習処理DB   1 ... inference server, 2 ... user terminal, 3 ... learning server, 11 ... CPU, 12 ... ROM, 13 ... RAM, 14 ... bus, 15 ... Output interface, 16 ... Display unit, 17 ... Input unit, 18 ... Storage unit, 19 ... Communication unit, 20 ... Drive, 21 ... Removable media, 31 ... CPU, 38 ... storage unit, 39 ... communication unit, 51 ... data management unit, 52 ... algorithm acquisition unit, 53 ... identification unit, 54 ... result output unit, 61 ... data Acquisition unit, 62 ... Data processing unit, 63 ... Learning image generation unit, 64 ... Position coordinate data generation unit, 65 ... Learning unit, 71 ... License plate image generation unit, 72 ... ..Bump processing section, 73 ... Noise processing section, 74 ... Shading processing , 75 ... distortion processing unit, 100 ... license plate DB, 200 ··· learning process DB

Claims (5)

複数のナンバープレートを被写体に含む画像及び当該画像を加工して作成された画像を含む学習用画像に関するデータに対して、機械学習に関する手法が適用させて学習がなされた結果として得られる、所定のアルゴリズムを取得するアルゴリズム取得手段と、
所定のナンバープレートに加えて、文字と、色の領域と、背景とを被写体に含む画像に関するデータを取得するユーザ情報取得手段と、
前記ユーザ情報取得手段により取得された前記データに対して、前記アルゴリズム取得手段により取得された前記所定のアルゴリズムを適用して得られる結果を出力するアルゴリズム適用手段と、
を備える情報処理装置。
A predetermined value obtained as a result of learning by applying a method related to machine learning to data related to an image for learning including an image including a plurality of license plates as subjects and an image created by processing the images. Algorithm acquisition means for acquiring the algorithm,
In addition to the predetermined license plate, a user information acquisition unit that acquires data regarding an image including a character, a color region, and a background as a subject,
Algorithm applying means for outputting a result obtained by applying the predetermined algorithm acquired by the algorithm acquiring means to the data acquired by the user information acquiring means,
An information processing apparatus including.
前記アルゴリズム取得手段は、前記文字を隆起させるバンプ加工手段、前記文字にノイズを加えるノイズ加工手段、前記文字に陰影を加える陰影加工手段、前記文字に歪みを加える歪み加工手段のうちの少なくとも1つの加工手段により加工された画像を含む前記学習用画像を使用して得られた前記所定のアルゴリズムを取得する、
請求項1に記載の情報処理装置。
The algorithm acquisition means is at least one of bump processing means for raising the character, noise processing means for adding noise to the character, shading processing means for shading the character, and distortion processing means for distorting the character. Acquiring the predetermined algorithm obtained by using the learning image including the image processed by the processing means,
The information processing apparatus according to claim 1.
前記複数のナンバープレート画像は、全部または一部を、ナンバープレートの四隅の一座標のデータに基づいて取得された、
請求項1又は2に記載の情報処理装置。
The plurality of license plate images, in whole or in part, is obtained based on the data of one coordinate of the four corners of the license plate,
The information processing apparatus according to claim 1.
前記アルゴリズム取得手段は、前記学習用画像を前記ナンバープレートの地域名に係る領域、前記ナンバープレートの分類番号に係る領域、前記ナンバープレートのひらがなに係る領域、前記ナンバープレートの番号に係る領域の少なくとも4つの領域に分割され、夫々の領域に機械学習に関する手法が適用され、決定された前記所定のアルゴリズムを取得する、
請求項1乃至3のいずれか1項に記載の情報処理装置。
The algorithm acquisition means, at least the area related to the area name of the license plate, the area related to the classification number of the license plate, the area related to the hiragana of the license plate, the area related to the number of the license plate Divided into four regions, and a method related to machine learning is applied to each region to obtain the determined predetermined algorithm,
The information processing apparatus according to any one of claims 1 to 3.
情報処理装置が実行するプログラムであって、
複数のナンバープレートを被写体に含む画像及び当該画像を加工して作成された画像を含む学習用画像に関するデータに対して、機械学習に関する手法が適用させて学習がなされた結果として得られる、所定のアルゴリズムを取得するアルゴリズム取得ステップと、
所定のナンバープレートに加えて、文字と、色の領域と、背景とを被写体に含む画像に関するデータを取得するユーザ情報取得ステップと、
前記ユーザ情報取得ステップにより取得された前記データに対して、前記アルゴリズム取得ステップより取得された前記所定のアルゴリズムを適用して得られる結果を出力するアルゴリズム適用ステップ、
として機能させるプログラム。
A program executed by the information processing device,
A predetermined value obtained as a result of learning by applying a method related to machine learning to data related to an image for learning including an image including a plurality of license plates as subjects and an image created by processing the images. An algorithm acquisition step to acquire the algorithm,
In addition to a predetermined license plate, a user information acquisition step of acquiring data regarding an image including a character, a color region, and a background as a subject,
An algorithm applying step of outputting a result obtained by applying the predetermined algorithm acquired in the algorithm acquiring step to the data acquired in the user information acquiring step,
A program to function as.
JP2018197926A 2018-10-19 2018-10-19 Information processing apparatus, and program Pending JP2020067669A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018197926A JP2020067669A (en) 2018-10-19 2018-10-19 Information processing apparatus, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018197926A JP2020067669A (en) 2018-10-19 2018-10-19 Information processing apparatus, and program

Publications (1)

Publication Number Publication Date
JP2020067669A true JP2020067669A (en) 2020-04-30

Family

ID=70390328

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018197926A Pending JP2020067669A (en) 2018-10-19 2018-10-19 Information processing apparatus, and program

Country Status (1)

Country Link
JP (1) JP2020067669A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021190065A (en) * 2020-05-29 2021-12-13 ニューラルポケット株式会社 Information processing system, information processing device, terminal device, server device, and program or method
CN117690303A (en) * 2024-02-04 2024-03-12 四川三元环境治理股份有限公司 Noise early warning system, device and early warning method based on traffic data acquisition
CN117690303B (en) * 2024-02-04 2024-04-26 四川三元环境治理股份有限公司 Noise early warning system, device and early warning method based on traffic data acquisition

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216958A (en) * 2002-01-24 2003-07-31 Dds:Kk Device, method and program for detecting polygon
JP2008219825A (en) * 2007-03-08 2008-09-18 Fuji Xerox Co Ltd Information processor, image processor, image encoder, information processing program, image processing program, and image encoding program
JP2012013675A (en) * 2010-05-31 2012-01-19 Tohoku Electric Power Co Inc Device and method for analyzing corrosion inside steel pipe
JP2016091189A (en) * 2014-10-31 2016-05-23 オムロン株式会社 Image processor, character recognizer, image processing method and program
WO2016157499A1 (en) * 2015-04-02 2016-10-06 株式会社日立製作所 Image processing apparatus, object detection apparatus, and image processing method
JP2017130174A (en) * 2016-01-18 2017-07-27 株式会社大都製作所 Parking lot management system
JP2018060296A (en) * 2016-10-03 2018-04-12 グローリー株式会社 Image processing apparatus, image processing system, and image processing method

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216958A (en) * 2002-01-24 2003-07-31 Dds:Kk Device, method and program for detecting polygon
JP2008219825A (en) * 2007-03-08 2008-09-18 Fuji Xerox Co Ltd Information processor, image processor, image encoder, information processing program, image processing program, and image encoding program
JP2012013675A (en) * 2010-05-31 2012-01-19 Tohoku Electric Power Co Inc Device and method for analyzing corrosion inside steel pipe
JP2016091189A (en) * 2014-10-31 2016-05-23 オムロン株式会社 Image processor, character recognizer, image processing method and program
WO2016157499A1 (en) * 2015-04-02 2016-10-06 株式会社日立製作所 Image processing apparatus, object detection apparatus, and image processing method
JP2017130174A (en) * 2016-01-18 2017-07-27 株式会社大都製作所 Parking lot management system
JP2018060296A (en) * 2016-10-03 2018-04-12 グローリー株式会社 Image processing apparatus, image processing system, and image processing method

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
岡本直樹,外2名: "車両搭載型ナンバープレート認識システム", 画像ラボ, vol. 2005年1月号, JPN6022042848, 2005, pages 40 - 44, ISSN: 0005033227 *
星光社印刷株式会社: "第5回 デジタルカメラのカラー表現", [ONLINE], JPN7022004797, 2004, ISSN: 0005033228 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021190065A (en) * 2020-05-29 2021-12-13 ニューラルポケット株式会社 Information processing system, information processing device, terminal device, server device, and program or method
CN117690303A (en) * 2024-02-04 2024-03-12 四川三元环境治理股份有限公司 Noise early warning system, device and early warning method based on traffic data acquisition
CN117690303B (en) * 2024-02-04 2024-04-26 四川三元环境治理股份有限公司 Noise early warning system, device and early warning method based on traffic data acquisition

Similar Documents

Publication Publication Date Title
JP7040278B2 (en) Training method and training device for image processing device for face recognition
Park et al. Age-invariant face recognition
JP6928876B2 (en) Form type learning system and image processing device
JP2020135857A (en) Device and method of training classification model and classification device using classification model
US10360313B2 (en) Apparatus and method for generating 3D printing model using multiple textures
JP2017522635A (en) User authentication method, apparatus for executing the same, and recording medium storing the same
US20230409467A1 (en) System and Method for User Interface Testing
CN112749606A (en) Text positioning method and device
US8824778B2 (en) Systems and methods for depth map generation
JP2020067669A (en) Information processing apparatus, and program
Qiao et al. Csc-net: Cross-color spatial co-occurrence matrix network for detecting synthesized fake images
JP6295556B2 (en) Object dividing apparatus and method
JP2014016710A (en) Object detection device and program
JP6267809B1 (en) Panorama image synthesis analysis system, panorama image synthesis analysis method and program
JP2021157404A (en) Learning data generation method, learning data generation device, and program
KR102390891B1 (en) Apparatus, method and program for providing learning data processing service through auto-labeling
JP6524475B2 (en) Image recognition apparatus capable of changing arrangement and combination of windows used for image recognition according to configuration information
Biswas et al. Smart city development: Theft handling of public vehicles using image analysis and cloud network
JP3061812B2 (en) Pattern recognition method and apparatus
WO2021079441A1 (en) Detection method, detection program, and detection device
JP6918382B1 (en) Information processing device and information processing method
JP2019153230A (en) Information processor and information processing program
CN106295484A (en) The method and apparatus extracting document boundaries
JP6440305B2 (en) Super-resolution apparatus and program
JP7465522B2 (en) Fracture surface analysis device and fracture surface analysis method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210907

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230411

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231017