JP2015064752A - Vehicle monitoring device and vehicle monitoring method - Google Patents

Vehicle monitoring device and vehicle monitoring method Download PDF

Info

Publication number
JP2015064752A
JP2015064752A JP2013198255A JP2013198255A JP2015064752A JP 2015064752 A JP2015064752 A JP 2015064752A JP 2013198255 A JP2013198255 A JP 2013198255A JP 2013198255 A JP2013198255 A JP 2013198255A JP 2015064752 A JP2015064752 A JP 2015064752A
Authority
JP
Japan
Prior art keywords
vehicle
unit
monitoring device
image
correction parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013198255A
Other languages
Japanese (ja)
Other versions
JP6226368B2 (en
Inventor
青木 泰浩
Yasuhiro Aoki
泰浩 青木
佐藤 俊雄
Toshio Sato
俊雄 佐藤
雄介 高橋
Yusuke Takahashi
雄介 高橋
昌弘 山本
Masahiro Yamamoto
昌弘 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2013198255A priority Critical patent/JP6226368B2/en
Publication of JP2015064752A publication Critical patent/JP2015064752A/en
Application granted granted Critical
Publication of JP6226368B2 publication Critical patent/JP6226368B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a vehicle monitoring device and a vehicle monitoring method capable of improving recognizing accuracy.SOLUTION: A vehicle monitoring device includes: a vehicle detection part; a geometric processing part; and a reading part. The vehicle detection part detects a vehicle in an image captured by an imaging part attached to a position where the vehicle can be imaged. The geometric processing part reads, from a storage part for storing a correction parameter corresponding to the position of the vehicle in the image, the correction parameter corresponding to the position of the vehicle detected by the vehicle detection part, and performs geometric processing using the read correction parameter on the image. The reading part reads information described in the license plate of the vehicle from the image subjected to the geographic processing.

Description

本発明の実施形態は、カメラによって撮像された画像から車両のナンバープレートに記載された情報を読み取る車両監視装置、および車両監視方法に関する。   Embodiments described herein relate generally to a vehicle monitoring apparatus and a vehicle monitoring method for reading information written on a license plate of a vehicle from an image captured by a camera.

カメラによって道路等を撮像し、撮像された画像中の車両ナンバープレートに記載された情報を読み取る装置が知られている(例えば、特許文献1参照)。この種のシステムは、例えば、有料道路の入口や出口等に取り付けられ、通過車両を認識するために利用される。   2. Description of the Related Art An apparatus that captures a road or the like with a camera and reads information described on a vehicle number plate in the captured image is known (for example, see Patent Document 1). This type of system is attached to, for example, an entrance or exit of a toll road and used to recognize a passing vehicle.

特許第4901676号Patent No. 4901676

従来の装置では、ナンバープレートの位置や角度が画像毎に変動する環境下では、認識精度を維持できない場合があった。
本発明が解決しようとする課題は、認識精度を向上させることが可能な車両監視装置、および車両監視方法を提供することである。
In the conventional apparatus, there are cases where the recognition accuracy cannot be maintained in an environment where the position and angle of the license plate vary from image to image.
The problem to be solved by the present invention is to provide a vehicle monitoring apparatus and a vehicle monitoring method capable of improving recognition accuracy.

一実施形態の車両監視装置は、車両検知部と、幾何処理部と、読取部とを備える。車両検知部は、車両を撮像可能な位置に取り付けられた撮像部により撮像された画像において、車両を検知する。幾何処理部は、画像における車両の位置に対応付けられた補正パラメータを記憶した記憶部から、前記車両検知部により検知された車両の位置に対応する補正パラメータを読み出し、前記読み出した補正パラメータを用いた幾何的な処理を前記画像に対して行う。読取部は、前記幾何的な処理が行われた画像から、前記車両のナンバープレートに記載された情報を読み取る。   The vehicle monitoring apparatus according to an embodiment includes a vehicle detection unit, a geometric processing unit, and a reading unit. A vehicle detection part detects a vehicle in the image imaged by the imaging part attached to the position which can image a vehicle. The geometric processing unit reads the correction parameter corresponding to the vehicle position detected by the vehicle detection unit from the storage unit that stores the correction parameter associated with the vehicle position in the image, and uses the read correction parameter. The geometric processing that has been performed is performed on the image. The reading unit reads information described on the license plate of the vehicle from the image subjected to the geometric processing.

一実施形態の車両監視システム1に含まれるカメラ10、20がガントリGTに取り付けられた様子を例示した図である。It is the figure which illustrated a mode that the cameras 10 and 20 contained in the vehicle monitoring system 1 of one Embodiment were attached to the gantry GT. 運用段階における車両監視装置100の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the vehicle monitoring apparatus 100 in an operation stage. 画像に対して車両のナンバープレートNPが傾く様子を例示した図である。It is the figure which illustrated a mode that the number plate NP of a vehicle inclines with respect to an image. 画像が領域1〜3に分割された様子を例示した図である。It is the figure which illustrated a mode that the image was divided | segmented into the areas 1-3. 車種判定部108による計測手法の一例を説明するための図である。It is a figure for demonstrating an example of the measuring method by the vehicle type determination part. 車両が時刻毎に移動する様子を例示した図である。It is the figure which illustrated a mode that a vehicle moved for every time. 車体の遮蔽物によってナンバープレートが視認困難な場面を例示した図である。It is the figure which illustrated the scene where a license plate is difficult to visually recognize by the shield of a vehicle body. ナンバープレートの取り付け位置が車両の中央部以外である車両を撮像した画像の一例を示す図である。It is a figure which shows an example of the image which imaged the vehicle which the attachment position of a license plate is other than the center part of a vehicle. 補正パラメータデータベース142に登録される情報の一例を示す図である。6 is a diagram illustrating an example of information registered in a correction parameter database 142. FIG. 補正パラメータデータベース142に登録される情報が表す画像情報の一例を示す図である。It is a figure which shows an example of the image information which the information registered into the correction parameter database 142 represents. ナンバープレートの画像に対してアフィン変換が行われ、テンプレートが適用される様子を模式的に示す図である。It is a figure which shows typically a mode that an affine transformation is performed with respect to the image of a license plate, and a template is applied. 認識結果出力部128が出力する(記憶部140に記憶させる)情報の一例を示す図である。It is a figure which shows an example of the information which the recognition result output part 128 outputs (it memorize | stores in the memory | storage part 140). 補正パラメータ収集段階における車両監視装置100Aの機能構成の一例を示す図である。It is a figure which shows an example of a function structure of 100 A of vehicle monitoring apparatuses in the correction parameter collection stage. 道路の右寄りを走行する車両、中央を走行する車両、右寄りを走行する車両をそれぞれ撮像した一連の画像を例示した図である。It is the figure which illustrated a series of images which picturized a vehicle which runs on the right side of a road, a vehicle which runs on the center, and a vehicle which runs on the right side, respectively. 補正パラメータ生成段階において、車両番号候補検出部112およびNP候補幾何補正部118により実行される処理を模式的に示す図である。It is a figure which shows typically the process performed by the vehicle number candidate detection part 112 and the NP candidate geometric correction | amendment part 118 in a correction parameter production | generation stage. 第1走行車線側と第2走行車線側でそれぞれ車両を認識する際の、分割して認識される撮像画像の一例を示す図である。It is a figure which shows an example of the captured image recognized by dividing | segmenting at the time of recognizing a vehicle on the 1st driving lane side and the 2nd driving lane side, respectively.

以下、図面を参照し、車両監視装置、および車両監視方法の実施形態について説明する。図1は、一実施形態の車両監視システム1に含まれるカメラ10、20がガントリGTに取り付けられた様子を例示した図である。ガントリGTは、例えば、自動料金収受システムのガントリである。カメラ10、20は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えるカメラである。   Hereinafter, embodiments of a vehicle monitoring device and a vehicle monitoring method will be described with reference to the drawings. FIG. 1 is a diagram illustrating a state in which cameras 10 and 20 included in a vehicle monitoring system 1 according to an embodiment are attached to a gantry GT. The gantry GT is, for example, an automatic fee collection system gantry. The cameras 10 and 20 are cameras including an image sensor such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor).

カメラ10は、ガントリGTに接近して通過する車両MBの前面を斜め上方向から撮像する。図中、A(10)はカメラ10の撮像領域を示す。また、カメラ20は、ガントリGTを通過して遠ざかる車両MBの後面を斜め上方向から撮像する。図中、A(20)はカメラ20の撮像領域を示す。カメラ10、20は、例えば道路の7[m]上空から、45[度]程度の俯角で撮像を行う。また、カメラ10、20は、所定周期で繰り返し撮像を行うように制御される。なお、カメラ10、20の設置場所は、図1に示すものに限らず、車両の前面や後面を撮像可能な場所であればよい。カメラ10、20の撮像した画像は、車両監視装置100に送信される。   The camera 10 images the front surface of the vehicle MB passing close to the gantry GT from an obliquely upward direction. In the figure, A (10) indicates an imaging region of the camera 10. Further, the camera 20 captures an image of the rear surface of the vehicle MB passing through the gantry GT from an obliquely upward direction. In the figure, A (20) indicates an imaging region of the camera 20. For example, the cameras 10 and 20 perform imaging at a depression angle of about 45 [degrees] from 7 [m] above the road. Further, the cameras 10 and 20 are controlled so as to repeatedly perform imaging at a predetermined cycle. The installation locations of the cameras 10 and 20 are not limited to those shown in FIG. 1, but may be any locations where the front and rear surfaces of the vehicle can be imaged. Images captured by the cameras 10 and 20 are transmitted to the vehicle monitoring apparatus 100.

このように、車両MBの前方および後方から撮像を行うことで、二輪車のように、後方にのみナンバープレートが取り付けられた車両についても、ナンバープレートの認識を行うことができる。また、道路が渋滞している場合において、車両MBの前方から撮像した画像では後続の車両MBのナンバープレートが隠れてしまった場合でも、車両MBの後方から撮像した画像において後続の車両MBのナンバープレートを認識することが可能となる場合がある。   In this way, by imaging from the front and rear of the vehicle MB, the license plate can be recognized even for a vehicle having a license plate attached only to the rear, such as a two-wheeled vehicle. Further, when the road is congested, even if the number plate of the subsequent vehicle MB is hidden in the image captured from the front of the vehicle MB, the number of the subsequent vehicle MB in the image captured from the rear of the vehicle MB. It may be possible to recognize the plate.

[運用段階]
車両監視装置100は、任意の場所に設置することができる。図2は、運用段階における車両監視装置100の機能構成の一例を示す図である。「運用段階」とは、補正パラメータが収集されて実際に車両監視装置100が車両を監視する段階をいう。補正パラメータが収集される段階の処理については後述する。
[Operation stage]
The vehicle monitoring apparatus 100 can be installed in any place. FIG. 2 is a diagram illustrating an example of a functional configuration of the vehicle monitoring apparatus 100 in the operation stage. The “operation stage” refers to a stage where the vehicle monitoring apparatus 100 actually monitors the vehicle after the correction parameters are collected. Processing at a stage where correction parameters are collected will be described later.

車両監視装置100は、例えば、車両検知部102と、車両状態判定部104と、認識位置判定部106と、車種判定部108と、前処理部110と、車両番号候補検出部112と、ナンバープレート(以下の記載、および図面においてNPと略記することがある)候補作成部114と、正解候補パラメータ参照部116と、NP候補幾何補正部118と、NP候補種類判別部120と、NP正解候補選出部122と、NP認識部124と、認識結果比較部126と、認識結果出力部128と、正解候補パラメータ登録部130と、補正パラメータデータベース142を格納する記憶部140とを備える。   The vehicle monitoring apparatus 100 includes, for example, a vehicle detection unit 102, a vehicle state determination unit 104, a recognition position determination unit 106, a vehicle type determination unit 108, a preprocessing unit 110, a vehicle number candidate detection unit 112, and a license plate. Candidate creation unit 114, correct candidate parameter reference unit 116, NP candidate geometric correction unit 118, NP candidate type determination unit 120, and NP correct candidate selection (may be abbreviated as NP in the following description and drawings) Unit 122, NP recognition unit 124, recognition result comparison unit 126, recognition result output unit 128, correct candidate parameter registration unit 130, and storage unit 140 that stores correction parameter database 142.

記憶部140以外の各機能部は、例えば、車両監視装置100のCPU(Central Processing Unit)が、記憶部140に記憶されたプログラムを実行することにより機能するソフトウェア機能部である。なお、これに代えて、各機能部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)等のハードウェア機能部であってもよい。記憶部140は、例えば、HDD(Hard Disk Drive)やフラッシュメモリ、RAM(Random Access Memory)、ROM(Read Only Memory)等である。   Each functional unit other than the storage unit 140 is, for example, a software functional unit that functions when a CPU (Central Processing Unit) of the vehicle monitoring apparatus 100 executes a program stored in the storage unit 140. Alternatively, each functional unit may be a hardware functional unit such as an LSI (Large Scale Integration) or an ASIC (Application Specific Integrated Circuit). The storage unit 140 is, for example, an HDD (Hard Disk Drive), a flash memory, a RAM (Random Access Memory), a ROM (Read Only Memory), or the like.

車両検知部102は、カメラ10、20の撮像した画像の中に、車両の一部(部位)が存在するか否かを判定する。車両検知部102は、例えば、車両のフロント部、ボディ部、リア部などの車両を構成する部位毎に、Sobelフィルタ処理などでエッジ強調された特徴量、勾配特徴量、輝度特徴量等と、それらのパターンで構成される識別器を構成する(下記参考文献を参照)。そして、車両検知部102は、構成した識別器を用いて、画像の中に存在する車両の部位の種類と位置を特定する。
参考文献:”Coarse-to-fine approach for fast deformable object detection”, M.Pedersoli, A.Vadaldi, J.Gonzalez, CVPR2011
The vehicle detection unit 102 determines whether or not a part (part) of the vehicle exists in the images captured by the cameras 10 and 20. The vehicle detection unit 102, for example, for each part constituting the vehicle such as a front part, a body part, and a rear part of the vehicle, feature quantities that are edge-enhanced by Sobel filter processing, gradient feature quantities, luminance feature quantities, A discriminator composed of these patterns is constructed (see the following reference). And the vehicle detection part 102 pinpoints the kind and position of the site | part of the vehicle which exist in an image using the comprised discriminator.
Reference: “Coarse-to-fine approach for fast deformable object detection”, M.Pedersoli, A.Vadaldi, J.Gonzalez, CVPR2011

また、車両検知部102は、車両の位置の下端を追跡し、追跡結果から車両の進行方向を推定し、現在の車両位置やナンバープレートの傾きを推定する。図3(A)、(B)は、画像に対して車両のナンバープレートNPが傾く様子を例示した図である。この時、車両の進行方向が、カメラの光軸に対して一定角度以上カーブしている場合には、その動きと連動して、ナンバープレートの角度も大きくなる。角度の大きさが所定角度以上となった場合、車両検知部102は、車両の走行軌跡を記憶部140に記憶させて保存する。これは、車両の進行方向がカメラの光軸に対して大きく傾いている場合、斜行などを行っている可能性が高く、その車両を監視する必要性が高いからである。   Moreover, the vehicle detection part 102 tracks the lower end of the position of a vehicle, estimates the advancing direction of a vehicle from a tracking result, and estimates the present vehicle position and the inclination of a license plate. FIGS. 3A and 3B are diagrams illustrating a state in which the license plate NP of the vehicle is tilted with respect to the image. At this time, if the traveling direction of the vehicle curves more than a certain angle with respect to the optical axis of the camera, the angle of the license plate also increases in conjunction with the movement. When the magnitude of the angle is equal to or larger than the predetermined angle, the vehicle detection unit 102 stores the travel locus of the vehicle in the storage unit 140 and saves it. This is because when the traveling direction of the vehicle is greatly inclined with respect to the optical axis of the camera, there is a high possibility that the vehicle is skewed and the necessity of monitoring the vehicle is high.

車両状態判定部104は、カメラ10、20の撮像した画像を、例えば画像横方向の分割線で仮想的に3分割し、車両の大まかな位置(どの領域に映っているか)を判定する。図4は、画像が領域1〜3に分割された様子を例示した図である。   The vehicle state determination unit 104 virtually divides the images captured by the cameras 10 and 20 into, for example, three division lines in the horizontal direction of the image, and determines a rough position of the vehicle (in which area). FIG. 4 is a diagram illustrating a state in which the image is divided into regions 1 to 3.

認識位置判定部106は、車両状態判定部104の結果に基づき、各領域において、車両の下端に相当する部分を検出する。認識位置判定部106は、例えばハフ変換による直線抽出を行い、車両のフロント部周辺に存在する最も顕著な直線を、車両の下端に相当する代表サンプルとして抽出する。   Based on the result of the vehicle state determination unit 104, the recognition position determination unit 106 detects a portion corresponding to the lower end of the vehicle in each region. The recognition position determination unit 106 performs straight line extraction by, for example, Hough transform, and extracts the most prominent straight line existing around the front part of the vehicle as a representative sample corresponding to the lower end of the vehicle.

車種判定部108は、まず、画像における車両の外輪郭から車両の車幅を計測する。図5は、車種判定部108による計測手法の一例を説明するための図である。車種判定部108は、例えば、予め記憶部140に格納された画像の縦位置y毎の道路幅L(y)と、画像における道路幅方向の傾きθに基づいて、車幅を計測する。すなわち、車種判定部108は、車両外輪郭の下部ベクトルを→W(→はベクトルを示す)とすると、これを道路幅方向に平行なベクトル→W*に写像する。そして、車種判定部108は、ベクトル→W*と、その縦位置yにおける画像上の道路幅l(y)との比率を求め、ベクトル→W*の起点を縦位置yとする道路幅L(y)に、上記求めた比率を乗算して、車幅を計測する。   The vehicle type determination unit 108 first measures the vehicle width from the outer contour of the vehicle in the image. FIG. 5 is a diagram for explaining an example of a measurement method performed by the vehicle type determination unit 108. For example, the vehicle type determination unit 108 measures the vehicle width based on the road width L (y) for each vertical position y of the image stored in the storage unit 140 in advance and the inclination θ in the road width direction in the image. That is, if the lower vector of the vehicle outer contour is set to → W (→ indicates a vector), the vehicle type determination unit 108 maps this to a vector → W * parallel to the road width direction. Then, the vehicle type determination unit 108 obtains a ratio between the vector → W * and the road width l (y) on the image at the vertical position y, and the road width L () where the starting point of the vector → W * is the vertical position y. The vehicle width is measured by multiplying y) by the obtained ratio.

更に、車種判定部108は、車両検知部102により検知されたフロント部等の形状パターンと、上記のように計測した車幅を統合して、画像に映された車両の車種を判定する。車種判定部108は、「二輪車」、「軽自動車」、「普通車」、「大型車両」、「その他」、「判定不能」等に車両の車種を分類する。これらのうち、「二輪車」と「四輪車」については、フロント部等の形状パターンに基づき判定が行われ、「四輪車」の中での種別については、フロント部等の形状パターンおよび車幅に基づき判定が行われる。   Further, the vehicle type determination unit 108 determines the vehicle type of the vehicle shown in the image by integrating the shape pattern of the front part and the like detected by the vehicle detection unit 102 and the vehicle width measured as described above. The vehicle type determination unit 108 classifies the vehicle type into “two-wheeled vehicle”, “light vehicle”, “normal vehicle”, “large vehicle”, “other”, “indeterminate”, and the like. Among these, “two-wheeled vehicle” and “four-wheeled vehicle” are determined based on the shape pattern of the front portion, etc., and the type of “four-wheeled vehicle” is determined based on the shape pattern of the front portion and the vehicle. A determination is made based on the width.

ここで、認識位置判定部106は、車両状態判定部104および車種判定部108の判定結果に基づいて、図3で示す領域1または領域2まで車両が移動するのを待って、認識対象フレームとする。また、車両は、時刻毎に移動するため、認識位置判定部106は、ナンバープレートが適正な位置まで移動するまで待機する。図6は、車両が時刻毎に移動する様子を例示した図である。ここで、認識位置判定部106は、「大型車両」に関しては、車体の遮蔽物(フロントバンパー等)によってナンバープレートが視認困難な場合や、ナンバープレートの取り付け位置が車両の幅方向に関する中央部以外である場合があるため、「大型車両」については図3で示す領域1を認識対象フレームとしてよい。図7は、車体の遮蔽物によってナンバープレートが視認困難な場面を例示した図である。図中、車両Aのナンバープレートはカメラ10、20から視認困難であるが、車両Bのナンバープレートはカメラ10、20から視認できる可能性が高い。また、図8は、ナンバープレート(NP)の取り付け位置が車両の中央部以外である車両を撮像した画像の一例を示す図である。また、認識位置判定部106は、「二輪車」については、ナンバープレートの角度および解像度の観点から、図3で示す領域3を認識対象フレームとしてよい。   Here, based on the determination results of the vehicle state determination unit 104 and the vehicle type determination unit 108, the recognition position determination unit 106 waits for the vehicle to move to the region 1 or the region 2 shown in FIG. To do. Further, since the vehicle moves at each time, the recognition position determination unit 106 waits until the license plate moves to an appropriate position. FIG. 6 is a diagram illustrating a state in which the vehicle moves for each time. Here, the recognition position determination unit 106 regards the “large vehicle” in the case where it is difficult to visually recognize the license plate due to the shielding of the vehicle body (front bumper or the like), or when the license plate is attached at a position other than the central portion in the vehicle width direction. Since there is a case, the region 1 shown in FIG. 3 may be used as the recognition target frame for the “large vehicle”. FIG. 7 is a diagram exemplifying a situation where the license plate is difficult to visually recognize due to the shield of the vehicle body. In the figure, the license plate of the vehicle A is difficult to visually recognize from the cameras 10 and 20, but the license plate of the vehicle B is highly likely to be visually recognized from the cameras 10 and 20. FIG. 8 is a diagram illustrating an example of an image obtained by capturing a vehicle in which the number plate (NP) is attached at a position other than the central portion of the vehicle. Further, the recognition position determination unit 106 may set the region 3 shown in FIG. 3 as the recognition target frame for the “two-wheeled vehicle” from the viewpoint of the angle and resolution of the license plate.

また、認識位置判定部106は、車種判定部108により判定された車両の種類に基づいて、ナンバープレートの認識に用いる画像を、カメラ10により撮像された車両の前面を映した画像と、カメラ20により撮像された車両の後面を映した画像との間で切り替えてよい。   In addition, the recognition position determination unit 106 uses an image used for license plate recognition based on the type of vehicle determined by the vehicle type determination unit 108, an image showing the front of the vehicle captured by the camera 10, and the camera 20. The image may be switched between an image showing the rear surface of the vehicle imaged by.

前処理部110は、拡張縮小処理による特定周波数以下の成分の抽出処理、2値化処理等を行う。車両番号候補検出部112は、2値化処理によって抽出された文字候補の外接矩形を複数抽出し、4桁の一連番号を構成する適切なサイズの文字候補の外接矩形が、一直線上かつ一定間隔で並ぶ組み合わせを抽出し、ナンバープレートを構成する組み合わせを複数作成する(本出願人による特許文献1参照)。   The preprocessing unit 110 performs extraction processing, binarization processing, and the like of components below a specific frequency by expansion / reduction processing. The vehicle number candidate detection unit 112 extracts a plurality of circumscribed rectangles of the character candidates extracted by the binarization process, and the circumscribed rectangles of appropriately sized character candidates that form a four-digit serial number are in a straight line and at regular intervals. Are extracted to create a plurality of combinations constituting the license plate (see Patent Document 1 by the present applicant).

NP候補作成部114は、前述の一直線上かつ一定間隔で並ぶ組み合わせから、数字候補の間隔およびサイズを考慮し、ナンバープレートを構成する文字候補の組み合わせを複数作成する。   The NP candidate creation unit 114 creates a plurality of combinations of character candidates constituting the license plate from the above-described combinations arranged on a straight line at regular intervals in consideration of the interval and size of the number candidates.

正解候補パラメータ参照部116は、NP候補作成部114により作成されたナンバープレートを構成する組み合わせから、NP候補幾何補正部118がアフィン変換を行なう際の補正パラメータの候補を、補正パラメータデータベース142から抽出する。正解候補パラメータ参照部116は、例えば、画像における車両の位置が同じである事例の補正パラメータを補正パラメータデータベース142から抽出する。   The correct candidate parameter reference unit 116 extracts, from the correction parameter database 142, correction parameter candidates when the NP candidate geometric correction unit 118 performs affine transformation from the combinations constituting the license plate created by the NP candidate creation unit 114. To do. The correct candidate parameter reference unit 116 extracts, from the correction parameter database 142, correction parameters for cases where the positions of the vehicles in the image are the same, for example.

ここで、補正パラメータデータベース142は、道路上の各点における、ナンバープレート認識においてスコアの高かった候補の補正パラメータをデータベース情報として登録している。スコアとは、例えば、幾何的な処理において補正される角度およびサイズの情報を補正する角度が小さいほど高得点となるスコアである。図9は、補正パラメータデータベース142に登録される情報の一例を示す図であり、図10は、補正パラメータデータベース142に登録される情報が表す画像情報の一例を示す図である。図9における「座標x」、「座標y」は、図10におけるナンバープレートNPの位置(例えば左上端の座標)を示している。また、図9における「傾きdx」、「傾きdy」は、図10における車両MBの下端線FLの傾きを示している。また、図9における「拡大scx」、「拡大scy」は、画像に対するナンバープレートNPの横幅比、縦幅比をそれぞれ示している。また、図9における「車種」は、車種判定部108による判定結果を示し、「車両中心」は、車両MBの中心点(重心)の横方向の座標を示している。   Here, the correction parameter database 142 registers candidate correction parameters having high scores in license plate recognition at each point on the road as database information. The score is, for example, a score with a higher score as the angle for correcting the angle and size information corrected in the geometric processing is smaller. FIG. 9 is a diagram illustrating an example of information registered in the correction parameter database 142, and FIG. 10 is a diagram illustrating an example of image information represented by information registered in the correction parameter database 142. “Coordinate x” and “coordinate y” in FIG. 9 indicate the position of the license plate NP in FIG. Further, “inclination dx” and “inclination dy” in FIG. 9 indicate the inclination of the lower end line FL of the vehicle MB in FIG. Further, “enlarged scx” and “enlarged scy” in FIG. 9 indicate the horizontal width ratio and vertical width ratio of the license plate NP to the image, respectively. In addition, “vehicle type” in FIG. 9 indicates the determination result by the vehicle type determination unit 108, and “vehicle center” indicates the horizontal coordinate of the center point (center of gravity) of the vehicle MB.

ここで、車両の位置が該当する補正パラメータが補正パラメータデータベース142に登録されていない場合が考えられる。この場合、正解候補パラメータ参照部116は、登録済の座標と当該の座標との差異から補正パラメータを推定して適用してよい。例えば、正解候補パラメータ参照部116は、車両の位置が最も近い2つ以上のデータを用いて、線形補間処理等によって補正パラメータを推定してよい。   Here, there may be a case where the correction parameter corresponding to the vehicle position is not registered in the correction parameter database 142. In this case, the correct candidate parameter reference unit 116 may estimate and apply the correction parameter from the difference between the registered coordinates and the coordinates. For example, the correct candidate parameter reference unit 116 may estimate the correction parameter by linear interpolation processing or the like using two or more data having the closest vehicle positions.

NP候補幾何補正部118は、正解候補パラメータ参照部116により抽出された補正パラメータに基づいて、ナンバープレートの画像に対するアフィン変換補正を行い、カメラの光軸に正対するように座標変換を行なう。   The NP candidate geometric correction unit 118 performs affine transformation correction on the license plate image based on the correction parameter extracted by the correct candidate parameter reference unit 116, and performs coordinate conversion so as to face the optical axis of the camera.

NP候補種類判別部120は、アフィン変換が行われたナンバープレートの画像に対し、大・中・小板のテンプレートを適用し、4桁の1連番号に対する、陸支部、分類番号等の一連番号以外の文字候補の外接矩形が、仮定したテンプレート上に当てはまる候補を判定する。図11は、ナンバープレートの画像に対してアフィン変換が行われ、テンプレートが適用される様子を模式的に示す図である。   The NP candidate type discriminating unit 120 applies large / medium / small plate templates to license plate images that have been subjected to affine transformation, and serial numbers such as land branches, classification numbers, etc. for four-digit serial numbers. The candidate that the circumscribed rectangle of the character candidate other than is applied to the assumed template is determined. FIG. 11 is a diagram schematically illustrating how the template is applied after affine transformation is performed on the image of the license plate.

NP正解候補選出部122では、NP候補幾何補正部118でカメラの光軸に正対するよう座標変換を行った画像に対し、項目毎にナンバープレートの認識を行ない、最もスコアの高かった組み合わせを出力する。   The NP correct answer candidate selection unit 122 recognizes the license plate for each item and outputs the combination having the highest score for the image that has been coordinate-transformed so as to face the optical axis of the camera by the NP candidate geometric correction unit 118. To do.

NP認識部124は、NP正解候補選出部122が候補を選出した場合、選択された候補をナンバープレート認識結果として出力する。また、NP認識部124は、NP正解候補選出部122が候補を選出しなかった場合、例えば独自にOCR処理等を行って、ナンバープレート認識結果を導出して出力する。   When the NP correct answer candidate selection unit 122 selects a candidate, the NP recognition unit 124 outputs the selected candidate as a license plate recognition result. In addition, when the NP correct candidate selection unit 122 does not select a candidate, the NP recognition unit 124 performs, for example, an OCR process independently, and derives and outputs a license plate recognition result.

認識結果比較部126は、ナンバープレート認識結果として出力されたものについて、NP候補幾何補正部118が使用した補正パラメータが、補正パラメータデータベース142から抽出されたものであるか否かを判定し、判定結果を正解候補パラメータ登録部130に出力する。   The recognition result comparison unit 126 determines whether or not the correction parameter used by the NP candidate geometric correction unit 118 is extracted from the correction parameter database 142 for the output as the license plate recognition result. The result is output to the correct candidate parameter registration unit 130.

認識結果出力部128は、最も高いスコアとなったナンバープレート認識結果について、ナンバープレートの認識結果に加え、ナンバープレートの認識位置およびアフィン変換パラメータ、および大・中・小板のテンプレート情報を出力する。図12は、認識結果出力部128が出力する(記憶部140に記憶させる)情報の一例を示す図である。図示するように、認識結果出力部128は、車両の画像に対応付けて、車種やナンバープレートに記載された情報を出力する。   The recognition result output unit 128 outputs, for the license plate recognition result having the highest score, the license plate recognition position, the affine transformation parameters, and the large / medium / small plate template information in addition to the license plate recognition result. . FIG. 12 is a diagram illustrating an example of information output from the recognition result output unit 128 (stored in the storage unit 140). As shown in the figure, the recognition result output unit 128 outputs information described in the vehicle type and the license plate in association with the vehicle image.

正解候補パラメータ登録部130は、認識結果比較部126および認識結果出力部128の出力を参照し、補正パラメータの置き換え、または更新を行なう。   The correct candidate parameter registration unit 130 refers to the outputs of the recognition result comparison unit 126 and the recognition result output unit 128 to replace or update the correction parameter.

このような処理によって、本実施形態の車両監視装置100は、ナンバープレートの認識精度を向上させることができる。車両が様々な速度で移動する状況において、画像処理結果から車両の位置を確定し、ナンバープレート認識のトリガとする場合、車両の位置が画像に対してずれることによって、ナンバープレートの角度に関する変動要素が増える。これに対し、本実施形態の車両監視装置100は、画像において車両の位置を認識し、画像における車両の位置に対応付けられた補正パラメータを読み出し、読み出した補正パラメータを用いた幾何的な処理を画像に対して行い、幾何的な処理が行われた画像からナンバープレートに記載された情報を読み取るため、ナンバープレートの認識精度を向上させることができる。   By such processing, the vehicle monitoring apparatus 100 of the present embodiment can improve the license plate recognition accuracy. In a situation where the vehicle moves at various speeds, when the position of the vehicle is determined from the image processing result and used as a trigger for license plate recognition, a variation factor related to the angle of the license plate due to the vehicle position deviating from the image. Will increase. In contrast, the vehicle monitoring apparatus 100 according to the present embodiment recognizes the position of the vehicle in the image, reads out the correction parameter associated with the position of the vehicle in the image, and performs a geometric process using the read correction parameter. Since the information written on the license plate is read from the image that has been subjected to the image processing and subjected to the geometric processing, the recognition accuracy of the license plate can be improved.

なお、運用段階の車両監視装置100は、補正パラメータに関して、幾何的な処理において補正される角度およびサイズの情報を補正する角度が小さいほど高得点となるスコア付けし、前記撮像部により撮像された画像内でナンバープレートが視認できる境界部分を含む座標位置の前記スコアを複数座標分抽出し、ナンバープレート認識が可能となる標準スコアとの比較から、視野設定が適切であることを出力する機能部を備えてもよい。   Note that the vehicle monitoring apparatus 100 in the operation stage scores the correction parameters so that the smaller the angle for correcting the angle and size information corrected in the geometric processing, the higher the score is, and the image is captured by the imaging unit. A function unit that extracts a plurality of coordinates of the coordinate position including the boundary part where the license plate can be visually recognized in the image, and outputs that the visual field setting is appropriate from comparison with a standard score that enables license plate recognition May be provided.

また、運用段階の車両監視装置100は、アフィン変換において補正される角度およびサイズの情報の分布と、一定時間内の認識結果に対応する分布とを比較し、比較結果が閾値を超える場合、カメラ10、20の位置ずれの可能性を示す情報を出力する機能部を備えてもよい。   Further, the vehicle monitoring apparatus 100 in the operation stage compares the distribution of information on the angle and size corrected in the affine transformation with the distribution corresponding to the recognition result within a certain time, and if the comparison result exceeds the threshold, You may provide the function part which outputs the information which shows the possibility of the position shift of 10 and 20.

[補正パラメータ生成段階]
以下、上記のように用いられる補正パラメータの生成段階について説明する。図13は、補正パラメータ収集段階における車両監視装置100A(運用段階と区別するために、便宜上、車両監視装置100Aと表記する)の機能構成の一例を示す図である。補正パラメータの生成段階において、車両監視装置100Aは、上記運用段階と同じ場所に設置されたカメラ10、20の撮像画像を用いて、補正パラメータを生成する。補正パラメータ生成段階では、車両が走行車線内の様々な位置(中央、左右寄りなど)を走行した際の画像を撮像し、画像における車両の位置毎に補正パラメータを生成する。図14は、道路の右寄りを走行する車両、中央を走行する車両、右寄りを走行する車両をそれぞれ撮像した一連の画像を例示した図である。
[Correction parameter generation stage]
Hereinafter, the generation step of the correction parameter used as described above will be described. FIG. 13 is a diagram illustrating an example of a functional configuration of the vehicle monitoring device 100A in the correction parameter collection stage (denoted as the vehicle monitoring device 100A for convenience in order to be distinguished from the operation stage). In the correction parameter generation stage, the vehicle monitoring device 100A generates a correction parameter using the captured images of the cameras 10 and 20 installed at the same place as in the operation stage. In the correction parameter generation stage, images are taken when the vehicle travels in various positions (center, left and right, etc.) in the travel lane, and correction parameters are generated for each position of the vehicle in the image. FIG. 14 is a diagram illustrating a series of images obtained by capturing images of a vehicle traveling on the right side of the road, a vehicle traveling on the center, and a vehicle traveling on the right side.

車両監視装置100Aは、例えば、車両検知部102と、車両状態判定部104と、認識位置判定部106と、車種判定部108と、前処理部110と、車両番号候補検出部112と、NP候補作成部114と、NP候補幾何補正部118と、NP候補種類判別部120と、NP正解候補選出部122と、認識結果出力部128と、正解候補パラメータ登録部130と、補正パラメータ生成部132と、補正パラメータ表示部134と、補正パラメータデータベース142を格納する記憶部140とを備える。これらのうち、運用段階と同じ名称および符号が付されているものは、運用段階と同じ機能を有するため、説明を適宜、省略する。   The vehicle monitoring device 100A includes, for example, a vehicle detection unit 102, a vehicle state determination unit 104, a recognition position determination unit 106, a vehicle type determination unit 108, a preprocessing unit 110, a vehicle number candidate detection unit 112, and an NP candidate. The creation unit 114, the NP candidate geometric correction unit 118, the NP candidate type determination unit 120, the NP correct candidate selection unit 122, the recognition result output unit 128, the correct candidate parameter registration unit 130, and the correction parameter generation unit 132 The correction parameter display unit 134 and the storage unit 140 that stores the correction parameter database 142 are provided. Among these, those given the same name and reference numerals as those in the operation stage have the same functions as those in the operation stage, and thus description thereof will be omitted as appropriate.

図15は、補正パラメータ生成段階において、車両番号候補検出部112およびNP候補幾何補正部118により実行される処理を模式的に示す図である。車両番号候補検出部112は、2値化によって抽出された文字候補の外接矩形を多数抽出し、4桁の一連番号を構成する適切なサイズの文字候補の外接矩形が、一直線上かつ一定間隔で並ぶ組み合わせを抽出し、ナンバープレートを構成する組み合わせを複数作成する。NP候補幾何補正部118は、補正パラメータに基づいてナンバープレートのアフィン変換補正を行い、カメラの光軸に正対するよう座標変換を行なう。この時、大・中・小板のテンプレートを仮定し、4桁の1連番号に対する、陸支部、分類番号等の一連番号以外の文字候補の外接矩形が、仮定したテンプレート上に当てはまる候補を判定する。   FIG. 15 is a diagram schematically illustrating processing executed by the vehicle number candidate detection unit 112 and the NP candidate geometric correction unit 118 in the correction parameter generation stage. The vehicle number candidate detection unit 112 extracts a large number of circumscribed rectangles of the character candidates extracted by binarization, and the circumscribed rectangles of appropriately sized character candidates constituting a 4-digit serial number are aligned on a straight line at regular intervals. Extract the combinations that line up, and create multiple combinations that make up the license plate. The NP candidate geometric correction unit 118 performs affine transformation correction of the license plate based on the correction parameter, and performs coordinate conversion so as to face the optical axis of the camera. At this time, assuming templates of large, medium, and small plates, determine the candidate that the circumscribed rectangle of the character candidate other than the serial number such as the land branch, classification number, etc. applies to the assumed template for the 4-digit serial number To do.

認識結果出力部128は、NP候補幾何補正部によってカメラの光軸に正対するよう座標変換を行った画像に対し、項目毎にナンバープレートの認識を行なう。   The recognition result output unit 128 performs license plate recognition for each item on the image that has been coordinate-transformed so as to face the optical axis of the camera by the NP candidate geometric correction unit.

補正パラメータ生成部132は、基本的には、画像中の車両の位置が、カメラの光軸に正対するようにアフィン変換された際の補正パラメータを、補正パラメータデータベース142に登録される補正パラメータとして生成する。また、補正パラメータ生成部132は、ナンバープレートの認識位置をもとに、検出頻度の低い位置での補正パラメータを、周辺に位置する複数箇所での補正パラメータから補間を行なって推定する。これは、例えば視野範囲の境界付近等では、車両の通行履歴が少ないため、スコアの低下が懸念されるためである。補正パラメータ生成部132は、認識結果出力部128から同位置への補正パラメータが得られた時は、推定されたパラメータとの比較を行い、スコアが高い場合においては補正パラメータの置き換え、または補正パラメータの再推定を行なう。   The correction parameter generation unit 132 basically uses a correction parameter when the position of the vehicle in the image is affine transformed so as to face the optical axis of the camera as a correction parameter registered in the correction parameter database 142. Generate. Further, the correction parameter generation unit 132 estimates a correction parameter at a position where the detection frequency is low based on the recognition position of the license plate by performing interpolation from correction parameters at a plurality of positions located in the vicinity. This is because, for example, in the vicinity of the boundary of the visual field range, there is little traffic history of the vehicle, and there is a concern about a decrease in score. When the correction parameter for the same position is obtained from the recognition result output unit 128, the correction parameter generation unit 132 compares with the estimated parameter. If the score is high, the correction parameter generation unit 132 replaces the correction parameter or corrects the correction parameter. Re-estimate

正解候補パラメータ登録部130は、画像上の車両の位置毎に、ナンバープレート認識でスコアの高い候補に対応付けて補正パラメータを補正パラメータデータベース142に登録する。また、正解候補パラメータ登録部130は、車種判定部108による判定結果を参照し、大型・中型などの車種情報毎に補正パラメータを登録する。車種によってはカメラから見にくい位置にナンバープレートが存在する場合を考慮し、ナンバープレート位置と、この時の車両位置情報をリンクし、登録しておく。   The correct candidate parameter registration unit 130 registers the correction parameter in the correction parameter database 142 in association with a candidate having a high score in license plate recognition for each position of the vehicle on the image. In addition, the correct candidate parameter registration unit 130 refers to the determination result by the vehicle type determination unit 108 and registers a correction parameter for each type of vehicle information such as large and medium models. In consideration of the case where the license plate exists at a position that is difficult to see from the camera depending on the vehicle type, the license plate position and the vehicle position information at this time are linked and registered.

補正パラメータ表示部134は、認識結果出力時のナンバープレート情報に重畳させて、ナンバープレート領域をオーバレイ表示する。   The correction parameter display unit 134 overlays the license plate information on the license plate information when the recognition result is output, and displays the license plate area in an overlay manner.

車両監視装置100Aは、以上の動作を、車両がカメラ視野内を移動する各フレームに対して行い、フレーム毎の車両の位置と、その補正パラメータをオペレータに確認させながら、補正パラメータデータベース142に登録する。   The vehicle monitoring apparatus 100A performs the above operation for each frame in which the vehicle moves within the camera field of view, and registers it in the correction parameter database 142 while checking the position of the vehicle for each frame and its correction parameters. To do.

以上説明した車両監視装置100Aによれば、画像における車両の位置毎に補正パラメータを生成するため、運用段階の車両監視装置100において、ナンバープレートの認識精度を向上させることができる。   According to the vehicle monitoring device 100A described above, the correction parameter is generated for each position of the vehicle in the image, so that the license plate recognition accuracy can be improved in the vehicle monitoring device 100 in the operation stage.

[複数車線への応用]
以下、車両監視装置100が、複数車線を監視する場合について説明する。カメラ10、20は、例えば2車線分の車両検知範囲(撮像範囲)を有することができる。車両が走行車線を維持して走行する場合、上記の手法でナンバープレートの認識を実施することができる。一方、車線の境界部分を走行する、或いは、ある車線から別の車線に車両検知範囲内で移動する場合、以下に説明した手法によりナンバープレート認識を行うと好適である。
[Application to multiple lanes]
Hereinafter, the case where the vehicle monitoring apparatus 100 monitors a plurality of lanes will be described. The cameras 10 and 20 can have a vehicle detection range (imaging range) for two lanes, for example. When the vehicle travels while maintaining the driving lane, the license plate can be recognized by the above method. On the other hand, when traveling on the boundary part of the lane or moving from one lane to another lane within the vehicle detection range, it is preferable to perform license plate recognition by the method described below.

図16は、第1走行車線側と第2走行車線側でそれぞれ車両を認識する際の、分割して認識される撮像画像の一例を示す図である。このように、監視対象の走行車線が複数存在する場合、車両監視装置100は、それぞれの車線について図2に示す機能構成を有するものとしてよい。図示するように、車両Aが第1走行車線を走行した後、隣の第2走行車線に進入する場合がある。この場合、第1走行車線側の情報を、第2走行車線側に引き継ぐ。第2走行車線側では、突然、領域2に車両が現れるような場面が生じ得るが、引き継がれた情報によって、スムーズな車両の管理が可能となる。   FIG. 16 is a diagram illustrating an example of a captured image that is recognized by being divided when the vehicle is recognized on each of the first traveling lane side and the second traveling lane side. Thus, when there are a plurality of driving lanes to be monitored, the vehicle monitoring apparatus 100 may have the functional configuration shown in FIG. 2 for each lane. As shown in the drawing, after the vehicle A travels in the first travel lane, it may enter the adjacent second travel lane. In this case, the information on the first traveling lane side is taken over to the second traveling lane side. On the second lane side, there may be a scene in which the vehicle suddenly appears in the area 2, but smooth vehicle management is possible by the inherited information.

また、単一の走行車線内に複数の車両が映っている場合がある。例えば、渋滞や故障などが理由で、路肩に停められた車両Aと、その脇を通過する車両Bが存在する場合がある。この場合、車両Aが停車したまま、車両Bが進行する状態が複数回連続した場合、システムは異常を検知して警報を鳴らす。または、車両Aが停車している場所が、路肩部分となっている場合は、異常と判断し、警報を鳴らすなどの構成が考えられる。なお、逆に、車両Bが車線上で停留しているにも関わらず、車両Aが路肩を走行する状態は危険であるため、通報の意味を考慮して警報を鳴らすなどの構成が考えられる。   In some cases, a plurality of vehicles are shown in a single travel lane. For example, there may be a vehicle A parked on the road shoulder and a vehicle B passing by it due to traffic jams or breakdowns. In this case, when the state in which the vehicle B travels continues a plurality of times while the vehicle A is stopped, the system detects an abnormality and sounds an alarm. Alternatively, when the place where the vehicle A is stopped is a road shoulder, it may be determined that the vehicle A is abnormal and an alarm is sounded. On the contrary, since the state in which the vehicle A travels on the shoulder is dangerous even though the vehicle B is stopped on the lane, a configuration is considered in which an alarm is sounded in consideration of the meaning of the notification. .

特に、単一車線で複数の車両が映っている場合に、車両Cの脇を二輪車と判定された車両Dが走行していくケース、または、共に二輪車と判定された車両E、車両Fが並走する場合がある。この場合、ETC通信が行われるタイミングと、ナンバープレート認識が行われるタイミングについて、2台の車両の順番が入れ替わる場合がある。この場合、車両監視装置100は、ETCの無線システムとは独立に動作するため、2台同時に車両が存在した場合には前述のような入れ替えが発生する恐れがあるため、個体を特定できるよう、ナンバープレート認識結果とその認識時の時間ログを出力する。ユーザーは、課金が行われたタイミングの前後の映像を見て確認できるようビデオ管理システムに出力する。   In particular, when a plurality of vehicles are shown in a single lane, a case where a vehicle D determined to be a two-wheeled vehicle runs alongside the vehicle C, or vehicles E and F that are both determined to be two-wheeled vehicles are arranged side by side. There is a case to run. In this case, the order of the two vehicles may be switched between the timing at which ETC communication is performed and the timing at which license plate recognition is performed. In this case, since the vehicle monitoring device 100 operates independently of the ETC radio system, if there are two vehicles at the same time, the above-described replacement may occur. The license plate recognition result and the time log at the time of recognition are output. The user outputs to the video management system so that the user can see and confirm the video before and after the timing when the billing is performed.

また、車両監視装置100は、例えば渋滞・故障などが要因で、道路中央を低速で走行する車両が存在し、後続の二輪車等が追い抜く場合に、車両検知とそれに付随するナンバープレート認識アルゴリズムが独立に動作し、並列で認識結果を出力するものとしてもよい。   In addition, the vehicle monitoring device 100 is independent of the vehicle detection and the associated license plate recognition algorithm when there is a vehicle traveling at a low speed on the center of the road due to traffic jams or breakdowns, and the succeeding motorcycles overtake. The recognition result may be output in parallel.

以上説明した少なくともひとつの実施形態によれば、画像において車両の位置を認識し、画像における車両の位置に対応付けられた補正パラメータを読み出し、読み出した補正パラメータを用いた幾何的な処理を画像に対して行い、幾何的な処理が行われた画像からナンバープレートに記載された情報を読み取るため、ナンバープレートの認識精度を向上させることができる。
以上、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
According to at least one embodiment described above, the position of the vehicle is recognized in the image, the correction parameter associated with the position of the vehicle in the image is read, and geometric processing using the read correction parameter is performed on the image. On the other hand, since the information described in the license plate is read from the image subjected to the geometric processing, the recognition accuracy of the license plate can be improved.
As mentioned above, although several embodiment of this invention was described, these embodiment is shown as an example and is not intending limiting the range of invention. These novel embodiments can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the scope of the invention. These embodiments and modifications thereof are included in the scope and gist of the invention, and are included in the invention described in the claims and the equivalents thereof.

10、20 カメラ
100 車両監視装置(運用段階)
100A 車両監視装置(補正パラメータ生成段階)
102 車両検知部
104 車両状態判定部
106 認識位置判定部
108 車種判定部
110 前処理部
112 車両番号候補検出部
114 NP候補作成部
116 正解候補パラメータ参照部
118 NP候補幾何補正部
120 NP候補種類判別部
122 NP正解候補選出部
124 NP認識部
126 認識結果比較部
128 認識結果出力部
130 正解候補パラメータ登録部
132 補正パラメータ生成部
134 補正パラメータ表示部
140 記憶部
142 補正パラメータデータベース
10, 20 Camera 100 Vehicle monitoring device (operational stage)
100A Vehicle monitoring device (correction parameter generation stage)
102 vehicle detection unit 104 vehicle state determination unit 106 recognition position determination unit 108 vehicle type determination unit 110 preprocessing unit 112 vehicle number candidate detection unit 114 NP candidate creation unit 116 correct candidate parameter reference unit 118 NP candidate geometric correction unit 120 NP candidate type determination Unit 122 NP correct answer candidate selection unit 124 NP recognition unit 126 recognition result comparison unit 128 recognition result output unit 130 correct candidate parameter registration unit 132 correction parameter generation unit 134 correction parameter display unit 140 storage unit 142 correction parameter database

Claims (12)

車両を撮像可能な位置に取り付けられた撮像部により撮像された画像において、車両を検知する車両検知部と、
画像における車両の位置に対応付けられた補正パラメータを記憶した記憶部から、前記車両検知部により検知された車両の位置に対応する補正パラメータを読み出し、前記読み出した補正パラメータを用いた幾何的な処理を前記画像に対して行う幾何処理部と、
前記幾何的な処理が行われた画像から、前記車両のナンバープレートに記載された情報を読み取る読取部と、
を備える車両監視装置。
A vehicle detection unit for detecting a vehicle in an image captured by an imaging unit attached to a position where the vehicle can be imaged;
A correction parameter corresponding to the position of the vehicle detected by the vehicle detection unit is read from a storage unit that stores a correction parameter associated with the position of the vehicle in the image, and geometric processing using the read correction parameter is performed. Performing a geometric processing on the image;
A reading unit for reading information written on the license plate of the vehicle from the image subjected to the geometric processing;
A vehicle monitoring device comprising:
請求項1記載の車両監視装置であって、
前記撮像部が設置される場所において撮像された画像に基づいて、前記補正パラメータを生成して前記記憶部に記憶させる生成部を備える、
車両監視装置。
The vehicle monitoring device according to claim 1,
A generation unit configured to generate the correction parameter and store the correction parameter on the basis of an image captured in a place where the imaging unit is installed;
Vehicle monitoring device.
請求項2記載の車両監視装置であって、
前記生成部は、既に前記記憶部に記憶された車両の位置に対応付けられた補正パラメータに基づいて、前記記憶部に記憶されていない車両の位置に対応付けられた補正パラメータを生成し、前記記憶部に記憶させる、
車両監視装置。
The vehicle monitoring device according to claim 2,
The generation unit generates correction parameters associated with vehicle positions not stored in the storage unit, based on correction parameters associated with vehicle positions already stored in the storage unit, Memorize in memory
Vehicle monitoring device.
請求項1から3のうちいずれか1項記載の車両監視装置であって、
前記補正パラメータに関して、前記幾何的な処理において補正される角度およびサイズの情報を補正する角度が小さいほど高得点となるスコア付けし、前記撮像部により撮像された画像内でナンバープレートが視認できる境界部分を含む座標位置の前記スコアを複数座標分抽出し、ナンバープレート認識が可能となる標準スコアとの比較から、視野設定が適切であることを出力する出力部を備える、
車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 3,
Regarding the correction parameter, scoring is performed such that the smaller the angle for correcting the angle and size information corrected in the geometric process, the higher the score, and the license plate can be visually recognized in the image captured by the imaging unit. A plurality of coordinates of the score of the coordinate position including the part is extracted, and from an comparison with a standard score that enables license plate recognition, an output unit that outputs that the field of view setting is appropriate is provided.
Vehicle monitoring device.
請求項1から4のうちいずれか1項記載の車両監視装置であって、
前記幾何的な処理において補正される角度およびサイズの情報の分布と、一定時間内の認識結果に対応する前記分布とを比較し、前記比較の結果が閾値を超える場合、前記撮像部の位置ずれの可能性を示す情報を出力する比較処理部を備える、
車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 4,
If the distribution of the information of the angle and size corrected in the geometric processing is compared with the distribution corresponding to the recognition result within a certain time, and the comparison result exceeds a threshold value, the positional deviation of the imaging unit A comparison processing unit that outputs information indicating the possibility of
Vehicle monitoring device.
請求項1から5のうちいずれか1項記載の車両監視装置であって、
前記撮像部は、施設に進入する車両を撮像する第1の撮像部と、前記施設から退出する車両を撮像する第2の撮像部とを有し、
前記撮像部により撮像された車両の種類を判定する車種判定部と、
前記車種判定部により判定された車両の種類に基づいて、前記ナンバープレートの認識に用いる画像を、前記第1の撮像部により撮像された画像と前記第2の撮像部により撮像された画像との間で切り替える認識位置判定部と、
を備える車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 5,
The imaging unit includes a first imaging unit that images a vehicle entering a facility, and a second imaging unit that images a vehicle leaving the facility,
A vehicle type determination unit for determining the type of vehicle imaged by the imaging unit;
Based on the vehicle type determined by the vehicle type determination unit, an image used for recognition of the license plate is an image captured by the first imaging unit and an image captured by the second imaging unit. A recognition position determination unit that switches between,
A vehicle monitoring device comprising:
請求項6項記載の車両監視装置であって、
前記撮像部により撮像された車両の種類を判定する車種判定部を備え、
前記認識位置判定部は、車種判定部により判定された車両の種類と、前記撮像部により撮像された画像中における車両の部位の位置とに基づいて、前記ナンバープレートの認識に用いる画像を選択する、
を備える車両監視装置。
The vehicle monitoring device according to claim 6,
A vehicle type determination unit for determining the type of vehicle imaged by the imaging unit;
The recognition position determination unit selects an image to be used for recognition of the license plate based on the type of the vehicle determined by the vehicle type determination unit and the position of the part of the vehicle in the image captured by the imaging unit. ,
A vehicle monitoring device comprising:
請求項1から7のうちいずれか1項記載の車両監視装置であって、
前記車両検知部は、車両の位置の下端を認識し、該下端の画像に対する傾きが所定角度以上である場合、車両の走行軌跡を前記記憶部に記憶させる、
車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 7,
The vehicle detection unit recognizes the lower end of the position of the vehicle, and when the inclination with respect to the image of the lower end is equal to or greater than a predetermined angle, the vehicle traveling locus is stored in the storage unit.
Vehicle monitoring device.
請求項1から8のうちいずれか1項記載の車両監視装置であって、
第1の走行車線について処理を行う第1の処理ユニットであって、前記車両検知部、前記幾何処理部、および前記読取部を備える第1の処理ユニットと、
前記第1の走行車線に隣接する第2の走行車線について処理を行う第2の処理ユニットであって、前記車両検知部、前記幾何処理部、および前記読取部を備える第2の処理ユニットと、を備え、
前記第1の処理ユニットは、前記第1の走行車線から前記第2の走行車線に進入する車両に関する情報を前記第2の処理ユニットに提供し、前記第2の処理ユニットは、前記第2の走行車線から前記第1の走行車線に進入する車両に関する情報を前記第1の処理ユニットに提供する、
車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 8,
A first processing unit that performs processing on a first travel lane, the first processing unit including the vehicle detection unit, the geometric processing unit, and the reading unit;
A second processing unit that performs processing on a second traveling lane adjacent to the first traveling lane, the second processing unit including the vehicle detection unit, the geometric processing unit, and the reading unit; With
The first processing unit provides the second processing unit with information related to a vehicle entering the second traveling lane from the first traveling lane, and the second processing unit is configured to Providing the first processing unit with information about a vehicle entering the first travel lane from the travel lane;
Vehicle monitoring device.
請求項1から9のうちいずれか1項記載の車両監視装置であって、
前記撮像部により撮像された画像における停止車両の状態に基づいて、警報出力を行う、
車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 9,
Based on the state of the stopped vehicle in the image captured by the imaging unit, an alarm output is performed.
Vehicle monitoring device.
請求項1から10のうちいずれか1項記載の車両監視装置であって、
前記撮像部により撮像された画像に複数の車両が含まれる場合に、前記車両検知部、前記幾何処理部、および前記読取部をそれぞれについて動作させる、
車両監視装置。
The vehicle monitoring device according to any one of claims 1 to 10,
When a plurality of vehicles are included in the image captured by the imaging unit, the vehicle detection unit, the geometric processing unit, and the reading unit are operated for each.
Vehicle monitoring device.
コンピュータが、
車両を撮像可能な位置に取り付けられた撮像部により撮像された画像において、車両を検知し、
画像における車両の位置に対応付けられた補正パラメータを記憶した記憶部から、前記検知された車両の位置に対応する補正パラメータを読み出し、前記読み出した補正パラメータを用いた幾何的な処理を前記画像に対して行い、
前記幾何的な処理が行われた画像から、前記車両のナンバープレートに記載された情報を読み取る、
車両監視方法。
Computer
In an image captured by an imaging unit attached to a position where the vehicle can be imaged, the vehicle is detected,
A correction parameter corresponding to the detected vehicle position is read out from a storage unit storing a correction parameter associated with the vehicle position in the image, and geometric processing using the read correction parameter is performed on the image. Against
Read the information written on the license plate of the vehicle from the geometrically processed image,
Vehicle monitoring method.
JP2013198255A 2013-09-25 2013-09-25 Vehicle monitoring apparatus and vehicle monitoring method Active JP6226368B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013198255A JP6226368B2 (en) 2013-09-25 2013-09-25 Vehicle monitoring apparatus and vehicle monitoring method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013198255A JP6226368B2 (en) 2013-09-25 2013-09-25 Vehicle monitoring apparatus and vehicle monitoring method

Publications (2)

Publication Number Publication Date
JP2015064752A true JP2015064752A (en) 2015-04-09
JP6226368B2 JP6226368B2 (en) 2017-11-08

Family

ID=52832571

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013198255A Active JP6226368B2 (en) 2013-09-25 2013-09-25 Vehicle monitoring apparatus and vehicle monitoring method

Country Status (1)

Country Link
JP (1) JP6226368B2 (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016186769A (en) * 2015-03-27 2016-10-27 富士通株式会社 Vehicle recognition device, vehicle recognition system, vehicle recognition program, and vehicle recognition method
JP2019139384A (en) * 2018-02-07 2019-08-22 グローリー株式会社 Character recognition system, character recognition program, character recognition method, display device of character recognition result, character sharpening system, character sharpening program, character sharpening method, and display device of character sharpened image
CN110285793A (en) * 2019-07-08 2019-09-27 中原工学院 A kind of Vehicular intelligent survey track approach based on Binocular Stereo Vision System
JP2019175028A (en) * 2018-03-28 2019-10-10 富士通株式会社 Image processing program, apparatus, and method
CN110969135A (en) * 2019-12-05 2020-04-07 中南大学 Vehicle logo recognition method in natural scene
CN111033555A (en) * 2017-08-25 2020-04-17 株式会社索思未来 Correction device, correction program, and recording medium
CN111860381A (en) * 2020-07-27 2020-10-30 上海福赛特智能科技有限公司 Axle counting device and method for lane openings
CN113496144A (en) * 2020-03-19 2021-10-12 杭州海康威视数字技术股份有限公司 Vehicle information detection method and device and electronic equipment
DE112020005521T5 (en) 2019-11-08 2022-09-01 Denso Ten Limited Image processing device and image processing method
CN111033555B (en) * 2017-08-25 2024-04-26 株式会社索思未来 Correction device, correction program, and recording medium

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0765283A (en) * 1993-08-25 1995-03-10 Nippon Signal Co Ltd:The License plate extracting method
JPH07114688A (en) * 1993-10-14 1995-05-02 Nippon Signal Co Ltd:The Method for recognizing vehicle registered number
WO2004042673A2 (en) * 2002-11-04 2004-05-21 Imperial Vision Ltd. Automatic, real time and complete identification of vehicles
JP2005229444A (en) * 2004-02-13 2005-08-25 Toshiba Corp Vehicle tracking device and program
JP2007251336A (en) * 2006-03-14 2007-09-27 Chiba Univ Detection method for camera posture change, and its device
WO2008010308A1 (en) * 2006-07-18 2008-01-24 Fujitsu Limited Number-plate information acquiring device, number-plate information acquiring method, and number-plate information acquiring program
JP2009151586A (en) * 2007-12-21 2009-07-09 Hitachi Ltd Image retrieval system
JP2012099014A (en) * 2010-11-04 2012-05-24 Saxa Inc Passing vehicle monitoring system and passing vehicle monitoring device
JP2013089031A (en) * 2011-10-18 2013-05-13 Sumitomo Electric Ind Ltd Number plate detector, computer program, and number plate detection method
JP2015022658A (en) * 2013-07-22 2015-02-02 株式会社東芝 Vehicle monitoring apparatus and vehicle monitoring method

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0765283A (en) * 1993-08-25 1995-03-10 Nippon Signal Co Ltd:The License plate extracting method
JPH07114688A (en) * 1993-10-14 1995-05-02 Nippon Signal Co Ltd:The Method for recognizing vehicle registered number
WO2004042673A2 (en) * 2002-11-04 2004-05-21 Imperial Vision Ltd. Automatic, real time and complete identification of vehicles
JP2005229444A (en) * 2004-02-13 2005-08-25 Toshiba Corp Vehicle tracking device and program
JP2007251336A (en) * 2006-03-14 2007-09-27 Chiba Univ Detection method for camera posture change, and its device
WO2008010308A1 (en) * 2006-07-18 2008-01-24 Fujitsu Limited Number-plate information acquiring device, number-plate information acquiring method, and number-plate information acquiring program
JP2009151586A (en) * 2007-12-21 2009-07-09 Hitachi Ltd Image retrieval system
JP2012099014A (en) * 2010-11-04 2012-05-24 Saxa Inc Passing vehicle monitoring system and passing vehicle monitoring device
JP2013089031A (en) * 2011-10-18 2013-05-13 Sumitomo Electric Ind Ltd Number plate detector, computer program, and number plate detection method
JP2015022658A (en) * 2013-07-22 2015-02-02 株式会社東芝 Vehicle monitoring apparatus and vehicle monitoring method

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016186769A (en) * 2015-03-27 2016-10-27 富士通株式会社 Vehicle recognition device, vehicle recognition system, vehicle recognition program, and vehicle recognition method
CN111033555A (en) * 2017-08-25 2020-04-17 株式会社索思未来 Correction device, correction program, and recording medium
CN111033555B (en) * 2017-08-25 2024-04-26 株式会社索思未来 Correction device, correction program, and recording medium
JP2019139384A (en) * 2018-02-07 2019-08-22 グローリー株式会社 Character recognition system, character recognition program, character recognition method, display device of character recognition result, character sharpening system, character sharpening program, character sharpening method, and display device of character sharpened image
JP7075770B2 (en) 2018-02-07 2022-05-26 グローリー株式会社 Character recognition system, character sharpening system, character sharpening program, character sharpening method, and character sharpening image display device
JP2019175028A (en) * 2018-03-28 2019-10-10 富士通株式会社 Image processing program, apparatus, and method
WO2021004312A1 (en) * 2019-07-08 2021-01-14 中原工学院 Intelligent vehicle trajectory measurement method based on binocular stereo vision system
CN110285793A (en) * 2019-07-08 2019-09-27 中原工学院 A kind of Vehicular intelligent survey track approach based on Binocular Stereo Vision System
DE112020005521T5 (en) 2019-11-08 2022-09-01 Denso Ten Limited Image processing device and image processing method
CN110969135A (en) * 2019-12-05 2020-04-07 中南大学 Vehicle logo recognition method in natural scene
CN110969135B (en) * 2019-12-05 2023-04-18 中南大学 Vehicle logo recognition method in natural scene
CN113496144A (en) * 2020-03-19 2021-10-12 杭州海康威视数字技术股份有限公司 Vehicle information detection method and device and electronic equipment
CN113496144B (en) * 2020-03-19 2023-10-27 杭州海康威视数字技术股份有限公司 Vehicle information detection method and device and electronic equipment
CN111860381A (en) * 2020-07-27 2020-10-30 上海福赛特智能科技有限公司 Axle counting device and method for lane openings

Also Published As

Publication number Publication date
JP6226368B2 (en) 2017-11-08

Similar Documents

Publication Publication Date Title
US11854272B2 (en) Hazard detection from a camera in a scene with moving shadows
JP6226368B2 (en) Vehicle monitoring apparatus and vehicle monitoring method
US10943131B2 (en) Image based lane marking classification
Luvizon et al. A video-based system for vehicle speed measurement in urban roadways
US8184859B2 (en) Road marking recognition apparatus and method
JP4930046B2 (en) Road surface discrimination method and road surface discrimination device
JP5783243B2 (en) Periodic stationary object detection apparatus and periodic stationary object detection method
CN107750213B (en) Front vehicle collision warning device and warning method
JP2016148962A (en) Object detection device
CN111149131B (en) Dividing line recognition device
EP2813973B1 (en) Method and system for processing video image
JP2013140515A (en) Solid object detection device and program
JP5931662B2 (en) Road condition monitoring apparatus and road condition monitoring method
Park et al. Vision-based surveillance system for monitoring traffic conditions
JP6069938B2 (en) Pop-up detection device
JP5316337B2 (en) Image recognition system, method, and program
JP2012150595A (en) Stop line detection device and program
Munajat et al. Vehicle detection and tracking based on corner and lines adjacent detection features
JP6431299B2 (en) Vehicle periphery monitoring device
JP4714872B2 (en) Method and apparatus for dividing moving object superimposed on image
Shin et al. Vehicle classification by road lane detection and model fitting using a surveillance camera
Rosebrock et al. Real-time vehicle detection with a single camera using shadow segmentation and temporal verification
JP2010204047A (en) Moving object measuring system, moving object measuring apparatus, moving object measuring method, and program
JP5531796B2 (en) Focus adjustment device and focus adjustment method
Kilicarslan Motion Paradigm to Detect Pedestrians and Vehicle Collision

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170905

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20170911

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20170911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171004

R150 Certificate of patent or registration of utility model

Ref document number: 6226368

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150