JP7334541B2 - Road surface information measuring device, road surface information measuring method and program - Google Patents

Road surface information measuring device, road surface information measuring method and program Download PDF

Info

Publication number
JP7334541B2
JP7334541B2 JP2019157348A JP2019157348A JP7334541B2 JP 7334541 B2 JP7334541 B2 JP 7334541B2 JP 2019157348 A JP2019157348 A JP 2019157348A JP 2019157348 A JP2019157348 A JP 2019157348A JP 7334541 B2 JP7334541 B2 JP 7334541B2
Authority
JP
Japan
Prior art keywords
vehicle
road surface
length
information
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019157348A
Other languages
Japanese (ja)
Other versions
JP2021033970A (en
Inventor
健人 石川
翔 磯部
孝光 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2019157348A priority Critical patent/JP7334541B2/en
Publication of JP2021033970A publication Critical patent/JP2021033970A/en
Application granted granted Critical
Publication of JP7334541B2 publication Critical patent/JP7334541B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、路面情報計測装置、路面情報計測方法およびプログラムに関する。 The present invention relates to a road surface information measuring device, a road surface information measuring method, and a program.

従来、車両の速度(以下、「車速」とも言う。)を算出する手法が知られている。例えば、所定のサンプル間隔ごとに撮像して得られる複数の撮像フレームそれぞれから車両を検出し、車両の検出結果に基づいて、車速を算出する手法が提案されている。一例として、道路に引かれた複数の白線間の既知の間隔と、当該複数の白線間の画像における間隔とに基づいて、実空間における距離と画像における距離との対応付け(キャリブレーション)をあらかじめ行っておき、当該対応付けに基づいて、画像における車両の移動ベクトルから車速を算出する手法が提案されている(例えば、特許文献1参照)。 Conventionally, a method for calculating the speed of a vehicle (hereinafter also referred to as "vehicle speed") is known. For example, a method has been proposed in which a vehicle is detected from each of a plurality of imaging frames obtained by imaging at predetermined sample intervals, and the vehicle speed is calculated based on the vehicle detection results. As an example, based on known intervals between a plurality of white lines drawn on the road and intervals in an image between the plurality of white lines, correspondence (calibration) between the distance in the real space and the distance in the image is performed in advance. A method of calculating the vehicle speed from the movement vector of the vehicle in the image based on the association has been proposed (see, for example, Patent Document 1).

また、車両が移動する平面を算出する手法も知られている。例えば、車両に搭載された複数のマーカー間の実空間における距離をあらかじめ計測しておき、当該複数のマーカーの画像における座標値と当該複数のマーカー間の実空間における距離とに基づいて、車両に搭載された複数のマーカーの監視場所における三次元座標位置を算出し、その三次元座標位置から車両が移動する平面を算出する技術が知られている(例えば、特許文献2参照)。 A method of calculating a plane in which a vehicle moves is also known. For example, the distance in real space between a plurality of markers mounted on a vehicle is measured in advance, and based on the coordinate values in the image of the plurality of markers and the distance in real space between the plurality of markers, A technique is known in which the three-dimensional coordinate positions of a plurality of mounted markers at a monitoring location are calculated, and a plane along which the vehicle moves is calculated from the three-dimensional coordinate positions (see Patent Document 2, for example).

特許第3742410号公報Japanese Patent No. 3742410 特許第3897984号公報Japanese Patent No. 3897984

しかし、実空間における距離と画像における距離との対応付け(キャリブレーション)があらかじめ必要である場合には、カメラの設置地点ごとにキャリブレーションが必要になってしまうため、キャリブレーションの作業が手間になってしまう。特に、道路が封鎖されてしまう場合などには、キャリブレーションが予定通りに行われない可能性もある。また、実空間における距離を測定する手間などといった労力が掛かる。 However, if the correspondence between the distance in the real space and the distance in the image is required in advance (calibration), calibration is required for each installation point of the camera, which makes the calibration work cumbersome. turn into. In particular, when roads are blocked, there is a possibility that the calibration will not be performed as planned. In addition, it takes time and effort to measure the distance in the real space.

そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、実空間における距離と画像における距離との対応付けをあらかじめ行わずして車速を算出することが可能な技術を提供することにある。 Accordingly, the present invention has been made in view of the above problems, and an object of the present invention is to calculate a vehicle speed without previously associating the distance in the real space with the distance in the image. It is to provide possible technology.

上記問題を解決するために、本発明のある観点によれば、撮像画像に基づいて路面を走行する車両を検出する車両検出部と、前記車両の種別を車種として判別する車種判別部と、前記車種と前記車両の長さに関する情報とに対応する前記路面に関する情報を取得する路面情報取得部と、複数の撮像フレームに基づいて前記車両の移動ベクトルを算出する移動ベクトル算出部と、前記移動ベクトルと前記路面に関する情報とに基づいて前記車両の速度を算出する車速算出部と、を備え、前記車両の長さに関する情報は、前記車種に対応する車両の第1の長さと第2の長さとの比であり、前記路面に関する情報は、前記撮像画像を撮像するカメラの撮像面と前記路面との角度である、路面情報計測装置が提供される。
In order to solve the above problem, according to one aspect of the present invention, a vehicle detection unit that detects a vehicle traveling on a road surface based on a captured image, a vehicle type determination unit that determines the vehicle type as a vehicle type, and a road surface information acquisition unit that acquires information about the road surface corresponding to the vehicle type and information about the length of the vehicle; a movement vector calculation unit that calculates a movement vector of the vehicle based on a plurality of imaging frames; and the movement vector. and a vehicle speed calculation unit that calculates the speed of the vehicle based on the information about the road surface, and the information about the length of the vehicle includes a first length and a second length of the vehicle corresponding to the vehicle type. and the information on the road surface is an angle between the road surface and an imaging plane of a camera that captures the captured image .

前記車速算出部は、前記移動ベクトルと前記路面に関する情報とから空間における移動ベクトルを算出し、前記空間における移動ベクトルから単位時間当たりの移動ベクトルを算出して前記車両の速度を算出してもよい。 The vehicle speed calculation unit may calculate a movement vector in space from the movement vector and information about the road surface, calculate a movement vector per unit time from the movement vector in space, and calculate the speed of the vehicle. .

前記第1の長さは、前記撮像画像における前記車両の外接矩形の長辺の長さであり、前記第2の長さは、前記外接矩形の短辺の長さであってもよい。 The first length may be the length of the long side of the circumscribing rectangle of the vehicle in the captured image, and the second length may be the length of the short side of the circumscribing rectangle.

前記第1の長さは、前記撮像画像におけるナンバープレートの横の長さであり、前記第2の長さは、前記ナンバープレートの縦の長さであってもよい。 The first length may be the horizontal length of the license plate in the captured image, and the second length may be the vertical length of the license plate.

前記路面情報取得部は、前記撮像面と前記路面との角度と、あらかじめ計測された水平面と前記撮像面との角度とに基づいて、水平面と前記路面との角度を算出してもよい。 The road surface information acquisition unit may calculate an angle between the horizontal plane and the road surface based on an angle between the imaging plane and the road surface and an angle between the horizontal plane and the imaging plane measured in advance.

また、本発明の別の観点によれば、撮像画像に基づいて路面を走行する車両を検出することと、前記車両の種別を車種として判別することと、前記車種と前記車両の所定部位の長さに関する情報とに対応する前記路面に関する情報を取得することと、複数の撮像フレームに基づいて前記車両の移動ベクトルを算出することと、前記移動ベクトルと前記路面に関する情報とに基づいて前記車両の速度を算出することと、を含み、前記車両の長さに関する情報は、前記車種に対応する車両の第1の長さと第2の長さとの比であり、前記路面に関する情報は、前記撮像画像を撮像するカメラの撮像面と前記路面との角度である、路面情報計測方法が提供される。
According to another aspect of the present invention, detecting a vehicle traveling on a road surface based on a captured image; calculating a movement vector of the vehicle based on a plurality of imaging frames; and calculating the movement vector of the vehicle based on the movement vector and the information on the road surface. calculating a speed, wherein the vehicle length information is a ratio between a first length and a second length of the vehicle corresponding to the vehicle type, and the road surface information is the captured image; A road surface information measuring method is provided , which is an angle between an imaging plane of a camera that captures an image and the road surface .

また、本発明の別の観点によれば、コンピュータを、撮像画像に基づいて路面を走行する車両を検出する車両検出部と、前記車両の種別を車種として判別する車種判別部と、前記車種と前記車両の所定部位の長さに関する情報とに対応する前記路面に関する情報を取得する路面情報取得部と、複数の撮像フレームに基づいて前記車両の移動ベクトルを算出する移動ベクトル算出部と、前記移動ベクトルと前記路面に関する情報とに基づいて前記車両の速度を算出する車速算出部と、を備え、前記車両の長さに関する情報は、前記車種に対応する車両の第1の長さと第2の長さとの比であり、前記路面に関する情報は、前記撮像画像を撮像するカメラの撮像面と前記路面との角度である、路面情報計測装置として機能させるためのプログラムが提供される。 According to another aspect of the present invention, the computer comprises a vehicle detection unit that detects a vehicle traveling on a road surface based on a captured image, a vehicle type determination unit that determines the vehicle type as a vehicle type, and a vehicle type determination unit that determines the vehicle type. a road surface information acquisition unit that acquires information on the road surface corresponding to information on the length of a predetermined portion of the vehicle; a movement vector calculation unit that calculates a movement vector of the vehicle based on a plurality of imaging frames; a vehicle speed calculation unit that calculates the speed of the vehicle based on the vector and the information about the road surface , and the information about the length of the vehicle includes a first length and a second length of the vehicle corresponding to the vehicle type. and the information on the road surface is the angle between the imaging plane of the camera that captures the captured image and the road surface .

以上説明したように本発明によれば、実空間における距離と画像における距離との対応付けをあらかじめ行わずして車速を算出することが可能な技術が提供される。 As described above, according to the present invention, there is provided a technique capable of calculating the vehicle speed without previously associating the distance in the real space with the distance in the image.

本発明の実施形態に係る路面情報計測システムの概要を説明するための図である。BRIEF DESCRIPTION OF THE DRAWINGS It is a figure for demonstrating the outline|summary of the road surface information measuring system which concerns on embodiment of this invention. 同実施形態に係る路面情報計測システムの概要を説明するための図である。It is a figure for demonstrating the outline|summary of the road surface information measuring system which concerns on the same embodiment. 同実施形態に係る路面情報計測システムの概要を説明するための図である。It is a figure for demonstrating the outline|summary of the road surface information measuring system which concerns on the same embodiment. カメラによって撮像される撮像画像の例を示す図である。It is a figure which shows the example of the captured image imaged with the camera. カメラによって撮像される撮像画像の例を示す図である。It is a figure which shows the example of the captured image imaged with the camera. カメラによって撮像される撮像画像の例を示す図である。It is a figure which shows the example of the captured image imaged with the camera. 本発明の実施形態に係る路面情報計測システムの機能構成を示すブロック図である。1 is a block diagram showing the functional configuration of a road surface information measuring system according to an embodiment of the present invention; FIG. 車両情報の例を示す図である。It is a figure which shows the example of vehicle information. 本発明の実施形態に係る路面情報計測装置の例としての情報処理装置のハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of the information processing apparatus as an example of the road surface information measuring apparatus which concerns on embodiment of this invention.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。 Preferred embodiments of the present invention will be described in detail below with reference to the accompanying drawings. In the present specification and drawings, constituent elements having substantially the same functional configuration are denoted by the same reference numerals, thereby omitting redundant description.

また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する。ただし、実質的に同一の機能構成を有する複数の構成要素等の各々を特に区別する必要がない場合、同一符号のみを付する。 In addition, in this specification and drawings, a plurality of components having substantially the same functional configuration are distinguished by attaching different numerals after the same reference numerals. In addition, similar components in different embodiments are distinguished from each other by using the same reference numerals followed by different alphabets. However, when there is no particular need to distinguish between a plurality of constituent elements having substantially the same functional configuration, only the same reference numerals are used.

<1.実施形態の詳細>
本発明の実施形態の詳細について説明する。
<1. Details of Embodiment>
Details of embodiments of the present invention will be described.

[1-1.システムの概要]
まず、本発明の実施形態に係る路面情報計測システムの概要について説明する。図1~図3は、本発明の実施形態に係る路面情報計測システムの概要を説明するための図である。図1~図3に示したように、本発明の実施形態に係る路面情報計測システム1は、路面情報計測装置10と、カメラ30とを有する。カメラ30は、無線または有線によって路面情報計測装置10に接続されている。しかし、カメラ30は、路面情報計測装置10の外部に存在しなくてもよく、路面情報計測装置10の内部に組み込まれていてもよい。
[1-1. System overview]
First, an outline of a road surface information measuring system according to an embodiment of the present invention will be described. 1 to 3 are diagrams for explaining an overview of a road surface information measuring system according to an embodiment of the present invention. As shown in FIGS. 1 to 3, the road surface information measuring system 1 according to the embodiment of the present invention has a road surface information measuring device 10 and a camera 30. FIG. The camera 30 is connected to the road surface information measuring device 10 wirelessly or by wire. However, the camera 30 may not exist outside the road surface information measuring device 10 and may be incorporated inside the road surface information measuring device 10 .

カメラ30は、時系列に沿って連続する複数の撮像フレームを撮像して動画像データを得る。本発明の実施形態では、カメラ30は、路面F1を奥側から手前側に向かって走行する車両50が所定の撮像領域に進入したときに、車両50を斜め上方から見下ろすような角度で車両50を前方から撮像する場合を主に想定する。しかし、カメラ30の撮像方向と車両50の走行方向との位置関係は限定されない。例えば、カメラ30は、路面F1を手前側から奥側に向かって走行する車両50を後方から撮像してもよい。 The camera 30 obtains moving image data by capturing a plurality of continuous imaging frames in time series. In the embodiment of the present invention, when the vehicle 50 traveling on the road surface F1 from the back side to the front side enters a predetermined imaging area, the camera 30 is positioned at an angle that looks down on the vehicle 50 from diagonally above. is mainly assumed to be imaged from the front. However, the positional relationship between the imaging direction of the camera 30 and the traveling direction of the vehicle 50 is not limited. For example, the camera 30 may capture an image of the vehicle 50 traveling from the front to the back on the road surface F1 from behind.

また、本発明の実施形態では、カメラ30が路面F1の上方に設けられている場合を主に想定する。しかし、カメラ30の設置位置は限定されない。例えば、カメラ30は道路脇に設置されていてもよい。カメラ30によって撮像された動画像データは、路面情報計測装置10に提供される。なお、以下では、説明を簡便にするため、車両50が走行する路面の傾きによらず(すなわち、車両50が水平面を走行しようが、車両50が下り坂を走行しようが、車両50が上り坂を走行しようが一律に)、等速で走行する場合を想定する。 Moreover, in the embodiment of the present invention, it is mainly assumed that the camera 30 is provided above the road surface F1. However, the installation position of the camera 30 is not limited. For example, camera 30 may be installed on the side of a road. Moving image data captured by the camera 30 is provided to the road surface information measuring device 10 . In the following description, for the sake of simplicity, the slope of the road surface on which the vehicle 50 travels does not matter (that is, whether the vehicle 50 travels on a horizontal surface, whether the vehicle 50 travels downhill, or whether the vehicle 50 travels uphill). is assumed to run at a constant speed).

ここで、路面F1は水平面と一致しており、カメラ30の撮像面(すなわち、撮像方向に垂直な面)に対して角度θ1だけ傾いている。また、図2を参照すると、路面F2を走行する車両50が示されている。路面F2は、車両50にとって下り坂となっており、カメラ30の撮像面に対して角度θ2だけ傾いている(この例では、θ2<θ1)。さらに、図3を参照すると、路面F3が示されている。路面F3は、車両50にとって上り坂となっており、カメラ30の撮像面に対して角度θ3だけ傾いている(この例では、θ3>θ1)。このように、カメラ30の設置位置によって、路面とカメラ30の撮像面との角度は異なり得る。 Here, the road surface F1 coincides with the horizontal plane, and is inclined by an angle θ1 with respect to the imaging plane of the camera 30 (that is, the plane perpendicular to the imaging direction). Also, referring to FIG. 2, a vehicle 50 traveling on a road surface F2 is shown. The road surface F2 is a downward slope for the vehicle 50, and is inclined at an angle θ2 with respect to the imaging plane of the camera 30 (in this example, θ2<θ1). Further, referring to FIG. 3, road surface F3 is shown. The road surface F3 is an uphill slope for the vehicle 50, and is inclined at an angle θ3 with respect to the imaging plane of the camera 30 (in this example, θ3>θ1). Thus, the angle between the road surface and the imaging plane of the camera 30 can vary depending on the installation position of the camera 30 .

さらに、図1を参照すると、実空間における車両50の移動ベクトルV0が示されている。さらに、図1を参照すると、実空間における車両50の車長L0が示されている。しかし、路面F1がカメラ30の撮像面に対して角度θ1だけ傾いているため、車両50がカメラ30の撮像面に射影される車両50の外接矩形K1(図4)の長辺の長さL1は、車長L0と異なっている(この例では、L1<L0)。そして、移動ベクトルV0がカメラ30の撮像面に射影される移動ベクトルV1は、移動ベクトルV0と異なっている(この例では、V1=V0・cosθ1)。 Furthermore, referring to FIG. 1, a movement vector V0 of the vehicle 50 in real space is shown. Furthermore, referring to FIG. 1, the vehicle length L0 of the vehicle 50 in real space is shown. However, since the road surface F1 is inclined at an angle θ1 with respect to the imaging plane of the camera 30, the length of the long side of the circumscribed rectangle K1 (FIG. 4) of the vehicle 50 projected onto the imaging plane of the camera 30 is L1. is different from the vehicle length L0 (L1<L0 in this example). A motion vector V1 projected onto the imaging surface of the camera 30 is different from the motion vector V0 (in this example, V1=V0·cos θ1).

また、図2を参照すると、実空間における車両50の移動ベクトルV0が示されている。さらに、図2を参照すると、実空間における車両50の車長L0が示されている。しかし、路面F2がカメラ30の撮像面に対して角度θ2だけ傾いているため、車両50がカメラ30の撮像面に射影される車両50の外接矩形K2(図5)の長辺の長さL2は、車長L0とも長辺の長さL1とも異なっている(この例では、L1<L2<L0)。そして、移動ベクトルV0がカメラ30の撮像面に射影される移動ベクトルV2は、移動ベクトルV0と異なっている(この例では、V2=V0・cosθ2)。 Also, referring to FIG. 2, a movement vector V0 of the vehicle 50 in real space is shown. Furthermore, referring to FIG. 2, the vehicle length L0 of the vehicle 50 in real space is shown. However, since the road surface F2 is inclined at an angle θ2 with respect to the imaging plane of the camera 30, the length of the long side of the circumscribed rectangle K2 (FIG. 5) of the vehicle 50 projected onto the imaging plane of the camera 30 is L2. is different from both the vehicle length L0 and the long side length L1 (in this example, L1<L2<L0). A motion vector V2 projected onto the imaging surface of the camera 30 is different from the motion vector V0 (in this example, V2=V0·cos θ2).

また、図3を参照すると、実空間における車両50の移動ベクトルV0が示されている。さらに、図3を参照すると、実空間における車両50の車長L0が示されている。しかし、路面F3がカメラ30の撮像面に対して角度θ3だけ傾いているため、車両50がカメラ30の撮像面に射影される車両50の外接矩形K3(図6)の長辺の長さL3は、車長L0とも長辺の長さL1とも長辺の長さL2とも異なっている(この例では、L3<L1<L2<L0)。そして、移動ベクトルV0がカメラ30の撮像面に射影される移動ベクトルV3は、移動ベクトルV0と異なっている(この例では、V3=V0・cosθ3)。 Also, referring to FIG. 3, a movement vector V0 of the vehicle 50 in real space is shown. Furthermore, referring to FIG. 3, the vehicle length L0 of the vehicle 50 in real space is shown. However, since the road surface F3 is inclined at an angle θ3 with respect to the imaging plane of the camera 30, the length of the long side of the circumscribed rectangle K3 (FIG. 6) of the vehicle 50 projected onto the imaging plane of the camera 30 is L3. are different from the vehicle length L0, the long side length L1, and the long side length L2 (in this example, L3<L1<L2<L0). A motion vector V3 projected onto the imaging plane of the camera 30 is different from the motion vector V0 (in this example, V3=V0·cos θ3).

図4~図6は、カメラ30によって撮像される撮像画像の例を示す図である。図4に示された撮像画像G1は、水平面と一致する路面F1(図1)を走行する車両50がカメラ30によって撮像されて得られた画像である。撮像画像G1には、車両50が写っている。しかし、上記のように、路面F1がカメラ30の撮像面に対して角度θ1だけ傾いているため、撮像画像G1に写る車両50の外接矩形K1の長辺の長さL1は、車長L0と異なっている(この例では、L1<L0)。また、撮像画像G1に写る車両50の外接矩形K1の短辺の長さB1が示されている。 4 to 6 are diagrams showing examples of captured images captured by the camera 30. FIG. A captured image G1 shown in FIG. 4 is an image captured by the camera 30 of the vehicle 50 traveling on the road surface F1 (FIG. 1) that coincides with the horizontal plane. A vehicle 50 is shown in the captured image G1. However, as described above, since the road surface F1 is inclined by the angle θ1 with respect to the imaging surface of the camera 30, the length L1 of the long side of the circumscribed rectangle K1 of the vehicle 50 captured in the captured image G1 is equal to the vehicle length L0. are different (L1<L0 in this example). Also shown is the length B1 of the short side of the circumscribed rectangle K1 of the vehicle 50 captured in the captured image G1.

また、図5に示された撮像画像G2は、下り坂である路面F2(図2)を走行する車両50がカメラ30によって撮像されて得られた画像である。撮像画像G2には、車両50が写っている。しかし、上記のように、路面F2がカメラ30の撮像面に対して角度θ2だけ傾いているため、撮像画像G2に写る車両50の外接矩形K2の長辺の長さL2は、車長L0と異なっている(この例では、L1<L2<L0)。また、撮像画像G2に写る車両50の外接矩形の短辺の長さB2は、撮像画像G1に写る車両50の外接矩形K1の短辺の長さB1(図4)と略一致している。 A captured image G2 shown in FIG. 5 is an image captured by the camera 30 of the vehicle 50 traveling on the downhill road surface F2 (FIG. 2). A vehicle 50 is shown in the captured image G2. However, as described above, since the road surface F2 is inclined by the angle θ2 with respect to the imaging surface of the camera 30, the length L2 of the long side of the circumscribed rectangle K2 of the vehicle 50 captured in the captured image G2 is equal to the vehicle length L0. are different (L1<L2<L0 in this example). Also, the short side length B2 of the circumscribing rectangle of the vehicle 50 captured in the captured image G2 substantially matches the short side length B1 (FIG. 4) of the circumscribing rectangle K1 of the vehicle 50 captured in the captured image G1.

また、図6に示された撮像画像G3は、上り坂である路面F3(図3)を走行する車両50がカメラ30によって撮像されて得られた画像である。撮像画像G3には、車両50が写っている。しかし、上記のように、路面F3がカメラ30の撮像面に対して角度θ3だけ傾いているため、撮像画像G3に写る車両50の外接矩形K3の長辺の長さL3は、車長L0と異なっている(この例では、L3<L1<L2<L0)。また、撮像画像G3に写る車両50の外接矩形K3の短辺の長さB3は、撮像画像G1に写る車両50の外接矩形K1の短辺の長さB1(図4)と略一致している。 A captured image G3 shown in FIG. 6 is an image captured by the camera 30 of the vehicle 50 traveling on the uphill road surface F3 (FIG. 3). A vehicle 50 is shown in the captured image G3. However, as described above, since the road surface F3 is inclined by the angle θ3 with respect to the imaging plane of the camera 30, the length L3 of the long side of the circumscribed rectangle K3 of the vehicle 50 captured in the captured image G3 is equal to the vehicle length L0. are different (L3<L1<L2<L0 in this example). In addition, the short side length B3 of the circumscribing rectangle K3 of the vehicle 50 captured in the captured image G3 substantially matches the short side length B1 (FIG. 4) of the circumscribing rectangle K1 of the vehicle 50 captured in the captured image G1. .

以上、本発明の実施形態に係る路面情報計測システム1の概要について説明した。 The outline of the road surface information measuring system 1 according to the embodiment of the present invention has been described above.

[1-2.路面情報計測システムの機能構成例]
続いて、本発明の実施形態に係る路面情報計測システム1の機能構成例について説明する。図7は、本発明の実施形態に係る路面情報計測システム1の機能構成を示すブロック図である。図7に示すように、本発明の実施形態に係る路面情報計測システム1は、路面情報計測装置10と、カメラ30とを備える。そして、路面情報計測装置10は、制御部110と、通信部130と、記憶部150とを備える。
[1-2. Functional configuration example of road surface information measurement system]
Next, a functional configuration example of the road surface information measuring system 1 according to the embodiment of the present invention will be described. FIG. 7 is a block diagram showing the functional configuration of the road surface information measuring system 1 according to the embodiment of the invention. As shown in FIG. 7 , the road surface information measuring system 1 according to the embodiment of the invention includes a road surface information measuring device 10 and a camera 30 . The road surface information measuring device 10 includes a control section 110 , a communication section 130 and a storage section 150 .

制御部110は、CPU(Central Processing Unit)などを含み、不揮発性の記憶装置により記憶されているプログラムがCPUによりRAM(Random Access Memory)に展開されて実行されることにより、その機能が実現され得る。このとき、当該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。あるいは、制御部110は、専用のハードウェアにより構成されていてもよいし、複数のハードウェアの組み合わせにより構成されてもよい。 Control unit 110 includes a CPU (Central Processing Unit) and the like, and its functions are realized by the CPU developing a program stored in a nonvolatile storage device in a RAM (Random Access Memory) and executing the program. obtain. At this time, a computer-readable recording medium recording the program may also be provided. Alternatively, control unit 110 may be composed of dedicated hardware, or may be composed of a combination of multiple pieces of hardware.

制御部110は、データ取得部111と、車両検出部112と、車種判別部113と、路面情報取得部114と、移動ベクトル算出部115と、車速算出部116と、出力部117とを備える。制御部110が有するこれらの各ブロックについては、後に詳細に説明する。 Control unit 110 includes data acquisition unit 111 , vehicle detection unit 112 , vehicle type determination unit 113 , road surface information acquisition unit 114 , movement vector calculation unit 115 , vehicle speed calculation unit 116 , and output unit 117 . Each block of control unit 110 will be described later in detail.

通信部130は、通信インタフェースによって構成され、通信用ケーブルを介してカメラ30との間で通信を行う。例えば、通信部130は、カメラ30によって時系列に沿って連続して撮像された複数の撮像フレーム(動画像データ)を順次に受信する。通信部130は、受信した複数の撮像フレームを順次にデータ取得部111に出力する。 The communication unit 130 is configured by a communication interface, and communicates with the camera 30 via a communication cable. For example, the communication unit 130 sequentially receives a plurality of captured frames (moving image data) continuously captured in time series by the camera 30 . The communication unit 130 sequentially outputs the received multiple imaging frames to the data acquisition unit 111 .

記憶部150は、制御部110を動作させるためのプログラムおよびデータを記憶することが可能な記憶装置である。また、記憶部150は、制御部110の動作の過程で必要となる各種データを一時的に記憶することもできる。例えば、記憶装置は、不揮発性の記憶装置であってよい。また、記憶部150は、車両情報記憶部151および処理結果記憶部152を備える。記憶部150が有するこれらの各ブロックについては、後に詳細に説明する。 Storage unit 150 is a storage device capable of storing programs and data for operating control unit 110 . In addition, the storage unit 150 can also temporarily store various data required during the operation of the control unit 110 . For example, the memory device may be a non-volatile memory device. The storage unit 150 also includes a vehicle information storage unit 151 and a processing result storage unit 152 . Each of these blocks in storage unit 150 will be described later in detail.

車両情報記憶部151は、車両情報を記憶する。ここで、車両情報は、車種とその車種に対応する車両の長さに関する情報と路面に関する情報とが対応づけられてなる情報である。本発明の実施形態では、車両の長さに関する情報が、車種に対応する車両の第1の長さと第2の長さとの比(特に、第2の長さに対する第1の長さの割合)を含む場合を主に想定する。しかし、車両の長さに関する情報は、これに限定されない。特に、本発明の実施形態では、第1の長さが、撮像画像(撮像フレーム)に写る車両の外接矩形の長辺の長さであり、第2の長さが、外接矩形の短辺の長さである場合を主に想定する。しかし、第1の長さと第2の長さもこれに限定されない。 The vehicle information storage unit 151 stores vehicle information. Here, the vehicle information is information in which the vehicle type, the information regarding the length of the vehicle corresponding to the vehicle type, and the information regarding the road surface are associated with each other. In an embodiment of the invention, the information about the length of the vehicle is the ratio of the first length to the second length of the vehicle corresponding to the vehicle type (particularly the ratio of the first length to the second length). Mainly assume the case of including However, the information about the vehicle length is not limited to this. In particular, in the embodiment of the present invention, the first length is the length of the long side of the circumscribing rectangle of the vehicle captured in the captured image (capturing frame), and the second length is the length of the short side of the circumscribing rectangle. We mainly assume the case of length. However, the first length and the second length are not limited to this either.

また、本発明の実施形態では、路面に関する情報の例として、路面と撮像面との角度を含む場合を主に想定する。しかし、路面に関する情報は、路面と撮像面との角度に限定されない。 Further, in the embodiments of the present invention, it is mainly assumed that the angle between the road surface and the imaging plane is included as an example of the information regarding the road surface. However, the information about the road surface is not limited to the angle between the road surface and the imaging plane.

図8は、車両情報の例を示す図である。図8に示されるように、車両情報は、車種と、その車種の車両の撮像画像に写る外接矩形の短辺の長さに対する当該外接矩形の長辺の長さの割合Pと、路面と撮像面との角度とが対応付けられてなる。 FIG. 8 is a diagram showing an example of vehicle information. As shown in FIG. 8, the vehicle information includes the vehicle type, the ratio P of the length of the long side of the circumscribing rectangle to the length of the short side of the circumscribing rectangle captured in the captured image of the vehicle of the vehicle type, and the road surface and the captured image. The angles with respect to the plane are associated with each other.

ここで、車両50の走行する路面が上り坂である場合(すなわち、図6に示されたように外接矩形K3の短辺の長さB3に対して外接矩形K3の長辺の長さL3の割合Pが比較的小さい場合)において、条件P<Paを満たすとする。このとき、条件P<Paには、車両50の走行する路面が上り坂である場合における路面F3と撮像面との角度θ3(図3)が対応付けられていればよい。 Here, when the road surface on which the vehicle 50 travels is an uphill (that is, as shown in FIG. In the case where the ratio P is relatively small), the condition P<Pa is satisfied. At this time, the condition P<Pa may be associated with the angle θ3 (FIG. 3) between the road surface F3 and the imaging surface when the road surface on which the vehicle 50 travels is an uphill.

同様に、車両50の走行する路面が水平面である場合(すなわち、図4に示されたように外接矩形K1の短辺の長さB1に対して外接矩形K1の長辺の長さL1の割合Pが中程度である場合)において、条件Pa≦P<Pbを満たすとする。このとき、条件Pa≦P<Pbには、車両50の走行する路面が水平面である場合における路面F1と撮像面との角度θ1(図1)が対応付けられていればよい。 Similarly, when the road surface on which the vehicle 50 travels is a horizontal surface (that is, as shown in FIG. 4, the ratio of the long side length L1 of the circumscribing rectangle K1 to the short side length B1 P is moderate), the condition Pa≦P<Pb is satisfied. At this time, the condition Pa≦P<Pb may be associated with the angle θ1 (FIG. 1) between the road surface F1 and the imaging surface when the road surface on which the vehicle 50 travels is horizontal.

また、車両50の走行する路面が下り坂である場合(すなわち、図5に示されたように外接矩形K2の短辺の長さB2に対して外接矩形K2の長辺の長さL2の割合Pが比較的大きい場合)において、条件Pb≦Pを満たすとする。このとき、条件Pb≦Pには、車両50の走行する路面が下り坂である場合における路面F2と撮像面との角度θ2(図2)が対応付けられていればよい。 Further, when the road surface on which the vehicle 50 travels is a downhill (that is, as shown in FIG. P is relatively large), the condition Pb≦P is satisfied. At this time, the condition Pb≦P may be associated with the angle θ2 ( FIG. 2 ) between the road surface F2 and the imaging surface when the road surface on which the vehicle 50 travels is downhill.

なお、本発明の実施形態では、路面の種類として、上り坂、水平面および下り坂の3種類を例として主に説明する。しかし、この3種類の分け方は、かかる例に限定されず、路面と撮像面との角度に応じて適宜に分けられればよい。例えば、1種類目が急な上り坂、2種類目が緩やかな上り坂、水平面および緩やかな下り坂、3種類目が急な下り坂といった分け方でもよい。また、路面の種類は、2種類であってもよいし、4種類以上であってもよい。路面の種類が多くなるほど、路面と撮像面との角度の検出精度が向上する。 In addition, in the embodiment of the present invention, three types of road surfaces, uphill, horizontal, and downhill, will be mainly described as examples. However, the method of dividing into three types is not limited to this example, and may be appropriately divided according to the angle between the road surface and the imaging surface. For example, the classification may be such that the first type is a steep uphill, the second type is a gentle uphill, horizontal and gentle downhill, and the third type is a steep downhill. Also, the number of road surface types may be two, or may be four or more. As the types of road surfaces increase, the detection accuracy of the angle between the road surface and the imaging surface improves.

図7に戻って説明を続ける。データ取得部111は、カメラ30によって連続して撮像された複数の撮像フレームを、通信部130を介して順次に取得する。そして、車両検出部112は、撮像画像(撮像フレーム)に基づいて路面を走行する車両の検出を試みる。ここで、車両はどのように検出されてもよい。例えば、車両は、複数の撮像フレーム間の差分によって抽出されるシルエットから特定される領域であってもよい。あるいは、背景画像と撮像画像との差分により抽出されるシルエットであってもよい。あるいは、車両はあらかじめ機械学習によって構築された検出器によって検出されてもよい。車両検出部112によって車両が検出された場合には、車両検出部112によって撮像画像における車両の外接矩形が得られる。 Returning to FIG. 7, the description continues. The data acquisition unit 111 sequentially acquires, via the communication unit 130 , a plurality of captured frames continuously captured by the camera 30 . Then, the vehicle detection unit 112 attempts to detect a vehicle traveling on the road based on the captured image (captured frame). Here, vehicles may be detected in any way. For example, the vehicle may be an area identified from silhouettes extracted by differences between multiple captured frames. Alternatively, it may be a silhouette extracted from the difference between the background image and the captured image. Alternatively, the vehicle may be detected by a detector pre-built by machine learning. When the vehicle is detected by the vehicle detection unit 112, the vehicle detection unit 112 obtains a circumscribed rectangle of the vehicle in the captured image.

車種判別部113は、車両検出部112によって検出された車両の種別を車種として判別する。ここで、車種はどのように判別されてもよい。一例として、車種判別部113は、車両検出部112によって検出された車両に基づいて、車幅と車長と車高とを推定し、推定した車幅と車長と車高とに基づいて、車種を判別してもよい。あるいは、車種はあらかじめ機械学習によって構築された判別器によって判別されてもよい。 The vehicle type determination unit 113 determines the vehicle type detected by the vehicle detection unit 112 as the vehicle type. Here, the vehicle type may be discriminated in any way. As an example, the vehicle type determination unit 113 estimates the vehicle width, vehicle length, and vehicle height based on the vehicle detected by the vehicle detection unit 112, and based on the estimated vehicle width, vehicle length, and vehicle height, You can also identify the vehicle type. Alternatively, the vehicle type may be discriminated by a discriminator constructed in advance by machine learning.

路面情報取得部114は、車両検出部112によって得られた撮像画像における車両の外接矩形に基づいて、外接矩形の長辺の長さと短辺の長さとを算出し、外接矩形の短辺の長さに対する長辺の長さの割合を算出する。そして、路面情報取得部114は、算出した外接矩形の短辺の長さに対する長辺の長さの割合と、車種判別部113によって判別された車種とに対応する、路面と撮像面との角度を、車両情報記憶部151(図8)から取得する。 The road surface information acquisition unit 114 calculates the length of the long side and the length of the short side of the circumscribing rectangle based on the circumscribing rectangle of the vehicle in the captured image obtained by the vehicle detection unit 112, and calculates the length of the short side of the circumscribing rectangle. Calculate the ratio of the length of the long side to the length. Then, the road surface information acquisition unit 114 calculates the ratio of the length of the long side to the length of the short side of the circumscribing rectangle, and the angle between the road surface and the imaging plane corresponding to the vehicle type identified by the vehicle type identification unit 113. is obtained from the vehicle information storage unit 151 (FIG. 8).

移動ベクトル算出部115は、複数の撮像フレームに基づいて車両の移動ベクトルを算出する。ここで、移動ベクトルはどのように算出されてもよい。例えば、移動ベクトル算出部115は、複数の撮像フレーム間において同一の車両を追跡することによって、複数の撮像フレームそれぞれから検出される同一の車両の位置間の差分を移動ベクトルとして算出してもよい。あるいは、移動ベクトル算出部115は、所定の時間内に撮像された複数の撮像フレームそれぞれから検出された車両の位置間の差分を移動ベクトルとして算出してもよい。 The motion vector calculation unit 115 calculates a motion vector of the vehicle based on a plurality of captured frames. Here, the motion vector may be calculated in any way. For example, the movement vector calculation unit 115 may calculate, as a movement vector, the difference between the positions of the same vehicle detected from each of the plurality of imaging frames by tracking the same vehicle between the plurality of imaging frames. . Alternatively, the motion vector calculation unit 115 may calculate, as a motion vector, the difference between the positions of the vehicle detected from each of a plurality of captured frames captured within a predetermined period of time.

車速算出部116は、移動ベクトル算出部115によって算出された移動ベクトルと路面と撮像面との角度とに基づいて車両の速度を算出する。例えば、車速算出部116は、移動ベクトル算出部115によって算出された移動ベクトルをVとし、路面と撮像面との角度をθとした場合、(V/cosθ)によって空間における車両の移動ベクトルを算出し得る。また、車速算出部116は、空間における車両の移動ベクトルに基づいて、単位時間あたりの移動ベクトルを算出することによって速度ベクトルを算出し、速度ベクトルの大きさによって車速を算出することができる。 The vehicle speed calculation unit 116 calculates the speed of the vehicle based on the movement vector calculated by the movement vector calculation unit 115 and the angle between the road surface and the imaging plane. For example, the vehicle speed calculation unit 116 calculates the movement vector of the vehicle in space by (V/cos θ), where V is the movement vector calculated by the movement vector calculation unit 115 and θ is the angle between the road surface and the imaging plane. can. Further, the vehicle speed calculation unit 116 can calculate a velocity vector by calculating a movement vector per unit time based on the movement vector of the vehicle in space, and can calculate the vehicle speed based on the magnitude of the velocity vector.

出力部117は、車速算出部116によって算出された車速を出力する。ここで、車速はどこに出力されてもよい。一例として、本発明の実施形態では、出力部117が、車速を処理結果記憶部152に記録させる場合を主に想定する。しかし、出力部117は、車速をディスプレイに出力し、ディスプレイに車速を表示させてもよい。さらに、出力部117は、路面情報取得部114によって取得された路面と撮像面との角度を処理結果記憶部152に記録させてもよい(あるいは、ディスプレイに表示させてもよい)。
Output unit 117 outputs the vehicle speed calculated by vehicle speed calculation unit 116 . Here, the vehicle speed may be output anywhere. As an example, in the embodiment of the present invention, it is mainly assumed that the output unit 117 causes the processing result storage unit 152 to record the vehicle speed. However, the output unit 117 may output the vehicle speed to the display and display the vehicle speed on the display. Furthermore, the output unit 117 may record the angle between the road surface and the imaging plane acquired by the road surface information acquisition unit 114 in the processing result storage unit 152 (or may display it on the display).

以上、本発明の実施形態に係る路面情報計測システム1の機能構成例について説明した。 The functional configuration example of the road surface information measuring system 1 according to the embodiment of the present invention has been described above.

<2.ハードウェア構成例>
続いて、本発明の実施形態に係る路面情報計測装置10のハードウェア構成例について説明する。以下では、本発明の実施形態に係る路面情報計測装置10のハードウェア構成例として、情報処理装置900のハードウェア構成例について説明する。なお、以下に説明する情報処理装置900のハードウェア構成例は、路面情報計測装置10のハードウェア構成の一例に過ぎない。したがって、路面情報計測装置10のハードウェア構成は、以下に説明する情報処理装置900のハードウェア構成から不要な構成が削除されてもよいし、新たな構成が追加されてもよい。
<2. Hardware configuration example>
Next, a hardware configuration example of the road surface information measuring device 10 according to the embodiment of the present invention will be described. An example hardware configuration of the information processing device 900 will be described below as an example hardware configuration of the road surface information measuring device 10 according to the embodiment of the present invention. Note that the hardware configuration example of the information processing device 900 described below is merely an example of the hardware configuration of the road surface information measuring device 10 . Therefore, in the hardware configuration of the road surface information measuring device 10, unnecessary configurations may be deleted from the hardware configuration of the information processing device 900 described below, or new configurations may be added.

図9は、本発明の実施形態に係る路面情報計測装置10の例としての情報処理装置900のハードウェア構成を示す図である。情報処理装置900は、CPU(Central Processing Unit)901と、ROM(Read Only Memory)902と、RAM(Random Access Memory)903と、ホストバス904と、ブリッジ905と、外部バス906と、インタフェース907と、入力装置908と、出力装置909と、ストレージ装置910と、通信装置911と、を備える。 FIG. 9 is a diagram showing the hardware configuration of an information processing device 900 as an example of the road surface information measuring device 10 according to the embodiment of the present invention. The information processing device 900 includes a CPU (Central Processing Unit) 901, a ROM (Read Only Memory) 902, a RAM (Random Access Memory) 903, a host bus 904, a bridge 905, an external bus 906, and an interface 907. , an input device 908 , an output device 909 , a storage device 910 and a communication device 911 .

CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置900内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバス等から構成されるホストバス904により相互に接続されている。 The CPU 901 functions as an arithmetic processing device and a control device, and controls general operations within the information processing device 900 according to various programs. Alternatively, the CPU 901 may be a microprocessor. The ROM 902 stores programs, calculation parameters, and the like used by the CPU 901 . The RAM 903 temporarily stores programs used in the execution of the CPU 901, parameters that change as appropriate during the execution, and the like. These are interconnected by a host bus 904 comprising a CPU bus or the like.

ホストバス904は、ブリッジ905を介して、PCI(Peripheral Component Interconnect/Interface)バス等の外部バス906に接続されている。なお、必ずしもホストバス904、ブリッジ905および外部バス906を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。 The host bus 904 is connected via a bridge 905 to an external bus 906 such as a PCI (Peripheral Component Interconnect/Interface) bus. Note that the host bus 904, the bridge 905 and the external bus 906 do not necessarily have to be configured separately, and these functions may be implemented in one bus.

入力装置908は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチおよびレバー等ユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU901に出力する入力制御回路等から構成されている。情報処理装置900を操作するユーザは、この入力装置908を操作することにより、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。 The input device 908 includes input means for the user to input information, such as a mouse, keyboard, touch panel, button, microphone, switch, and lever, and an input control circuit that generates an input signal based on the user's input and outputs it to the CPU 901 . etc. A user who operates the information processing apparatus 900 can input various data to the information processing apparatus 900 and instruct processing operations by operating the input device 908 .

出力装置909は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置、ランプ等の表示装置およびスピーカ等の音声出力装置を含む。 The output device 909 includes, for example, a CRT (Cathode Ray Tube) display device, a liquid crystal display (LCD) device, an OLED (Organic Light Emitting Diode) device, a display device such as a lamp, and an audio output device such as a speaker.

ストレージ装置910は、データ格納用の装置である。ストレージ装置910は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置等を含んでもよい。ストレージ装置910は、例えば、HDD(Hard Disk Drive)で構成される。このストレージ装置910は、ハードディスクを駆動し、CPU901が実行するプログラムや各種データを格納する。 The storage device 910 is a device for data storage. The storage device 910 may include a storage medium, a recording device that records data on the storage medium, a reading device that reads data from the storage medium, a deletion device that deletes data recorded on the storage medium, and the like. The storage device 910 is configured by, for example, an HDD (Hard Disk Drive). The storage device 910 drives a hard disk and stores programs executed by the CPU 901 and various data.

通信装置911は、例えば、ネットワークに接続するための通信デバイス等で構成された通信インタフェースである。また、通信装置911は、無線通信または有線通信のどちらに対応してもよい。 The communication device 911 is, for example, a communication interface configured with a communication device or the like for connecting to a network. Also, the communication device 911 may support either wireless communication or wired communication.

以上、本発明の実施形態に係る路面情報計測装置10のハードウェア構成例について説明した。 The hardware configuration example of the road surface information measuring device 10 according to the embodiment of the present invention has been described above.

<3.まとめ>
以上に説明したように、本発明の実施形態によれば、撮像画像に基づいて路面を走行する車両を検出する車両検出部112と、車両の種別を車種として判別する車種判別部113と、車種と車両の長さに関する情報とに対応する路面に関する情報を取得する路面情報取得部114と、複数の撮像フレームに基づいて車両の移動ベクトルを算出する移動ベクトル算出部115と、移動ベクトルと路面に関する情報とに基づいて車両の速度を算出する車速算出部116と、を備える、路面情報計測装置10が提供される。
<3. Summary>
As described above, according to the embodiment of the present invention, the vehicle detection unit 112 detects a vehicle traveling on a road surface based on a captured image, the vehicle type determination unit 113 determines the vehicle type as a vehicle type, and the vehicle type and information about the length of the vehicle, a road surface information acquisition unit 114 that acquires information about the road surface, a motion vector calculation unit 115 that calculates the motion vector of the vehicle based on a plurality of imaging frames, and a motion vector and the road surface information. and a vehicle speed calculation unit 116 that calculates the speed of the vehicle based on the information.

かかる構成によれば、実空間における距離と画像における距離との対応付けをあらかじめ行わずして車速を算出することが可能となる。 According to this configuration, it is possible to calculate the vehicle speed without previously associating the distance in the real space with the distance in the image.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。 Although the preferred embodiments of the present invention have been described in detail above with reference to the accompanying drawings, the present invention is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present invention belongs can conceive of various modifications or modifications within the scope of the technical idea described in the claims. It is understood that these also naturally belong to the technical scope of the present invention.

例えば、上記では、車両の長さに関する情報が、車種に対応する車両の第1の長さと第2の長さとの比を含む場合を説明した。そして、上記では、第1の長さが、撮像画像に写る車両の外接矩形の長辺の長さであり、第2の長さが、外接矩形の短辺の長さである場合を主に想定した。しかし、第1の長さと第2の長さは、これに限定されない。第1の長さは、撮像画像におけるナンバープレートの横の長さであり、第2の長さは、ナンバープレートの縦の長さであってもよい。 For example, in the above description, the information about the length of the vehicle includes the ratio between the first length and the second length of the vehicle corresponding to the vehicle type. In the above description, the first length is the length of the long side of the circumscribing rectangle of the vehicle captured in the captured image, and the second length is the length of the short side of the circumscribing rectangle. assumed. However, the first length and the second length are not limited to this. The first length may be the horizontal length of the license plate in the captured image, and the second length may be the vertical length of the license plate.

すなわち、車両検出部112によって検出される車両は、車両全体でなくてもよく、ナンバープレート(すなわち、車両の一部)であってもよい。このとき、車両検出部112によってナンバープレートの外接矩形が得られる。この外接矩形の大きさ(ナンバープレートのサイズ情報)から、車種判別部113によってナンバープレートの種類(大判、中板、小板)を判別させ、車種情報記憶部151に記憶させてもよい。車両検出部112が車両全体またはナンバープレートのいずれを検出するかは、検出器の学習時に選択されてよい。しかし、ナンバープレートが車両本体に取り付けられる角度によって、ナンバープレート検出率は大きく変動することが予想される。そこで、車両検出部112は、主に車両全体を検出し、ナンバープレートの検出結果に基づいて、車両全体の検出結果を補正してもよい。 That is, the vehicle detected by the vehicle detection unit 112 may not be the entire vehicle, but may be a license plate (that is, part of the vehicle). At this time, the circumscribing rectangle of the license plate is obtained by the vehicle detection unit 112 . Based on the size of the circumscribing rectangle (license plate size information), the vehicle type determination unit 113 may determine the type of license plate (large, medium plate, small plate) and store it in the vehicle type information storage unit 151 . Whether the vehicle detector 112 detects the entire vehicle or the license plate may be selected when the detector is trained. However, it is expected that the license plate detection rate will vary greatly depending on the angle at which the license plate is attached to the vehicle body. Therefore, the vehicle detection unit 112 may mainly detect the entire vehicle and correct the detection result of the entire vehicle based on the detection result of the license plate.

上記では、路面情報取得部114が、撮像面と路面との角度を得る場合を主に説明した。しかし、水平面と撮像面との角度は、カメラ30の設置時にあらかじめ計測されていることが想定される。そこで、路面情報取得部114は、撮像面と路面との角度と、あらかじめ計測された水平面と撮像面との角度とに基づいて、水平面と路面との角度を算出してもよい。そして、出力部117は、水平面と路面との角度を出力してもよい。例えば、水平面と路面との角度は、空間における路面の傾きとして使用され得る。 A case where the road surface information acquisition unit 114 obtains the angle between the imaging surface and the road surface has been mainly described above. However, it is assumed that the angle between the horizontal plane and the imaging plane is measured in advance when the camera 30 is installed. Therefore, the road surface information acquisition unit 114 may calculate the angle between the horizontal plane and the road surface based on the angle between the imaging plane and the road surface and the angle between the horizontal plane and the imaging plane measured in advance. Then, the output unit 117 may output the angle between the horizontal plane and the road surface. For example, the angle between the horizontal plane and the road surface can be used as the slope of the road surface in space.

また、路面情報取得部114は、撮像面と路面との角度を得る手法と同様の手法によって、路面の方角を算出することも可能である。さらに、路面情報取得部114は、路面の凹凸に関する情報も得ることができる。例えば、路面情報取得部114は、車速が閾値よりも小さい場所、または、移動ベクトルが突発的な変化が生じた場所が存在する場合には、当該場所を異常個所(例えば、窪みまたは段差がある場所など)として特定することが可能である。 The road surface information acquisition unit 114 can also calculate the direction of the road surface by the same method as the method for obtaining the angle between the imaging surface and the road surface. Furthermore, the road surface information acquisition unit 114 can also obtain information about unevenness of the road surface. For example, if there is a location where the vehicle speed is lower than the threshold value or a location where the movement vector suddenly changes, the road surface information acquisition unit 114 identifies the location as an abnormal location (for example, a depression or step). location, etc.).

あるいは、路面情報取得部114は、路面の時系列的な変化を検知してもよい。例えば、路面情報取得部114は、同一の場所における過去の移動ベクトルと現在の移動ベクトルデータとの外積を計算し、外積が非零となる場合は、当該場所の路面に何らかの変化(例えば、路面の歪み)が生じていると判断してもよい。 Alternatively, the road surface information acquisition unit 114 may detect time-series changes in the road surface. For example, the road surface information acquisition unit 114 calculates the outer product of the past movement vector and the current movement vector data at the same location, and if the outer product is non-zero, there is some change in the road surface at that location (for example, the road surface distortion) is occurring.

1 路面情報計測システム
10 路面情報計測装置
110 制御部
111 データ取得部
112 車両検出部
113 車種判別部
114 路面情報取得部
115 移動ベクトル算出部
116 車速算出部
117 出力部
130 通信部
150 記憶部
151 車両情報記憶部
152 処理結果記憶部
30 カメラ
50 車両
1 road surface information measurement system 10 road surface information measurement device 110 control unit 111 data acquisition unit 112 vehicle detection unit 113 vehicle type determination unit 114 road surface information acquisition unit 115 movement vector calculation unit 116 vehicle speed calculation unit 117 output unit 130 communication unit 150 storage unit 151 vehicle Information storage unit 152 Processing result storage unit 30 Camera 50 Vehicle

Claims (7)

撮像画像に基づいて路面を走行する車両を検出する車両検出部と、
前記車両の種別を車種として判別する車種判別部と、
前記車種と前記車両の長さに関する情報とに対応する前記路面に関する情報を取得する路面情報取得部と、
複数の撮像フレームに基づいて前記車両の移動ベクトルを算出する移動ベクトル算出部と、
前記移動ベクトルと前記路面に関する情報とに基づいて前記車両の速度を算出する車速算出部と、
を備え
前記車両の長さに関する情報は、前記車種に対応する車両の第1の長さと第2の長さとの比であり、
前記路面に関する情報は、前記撮像画像を撮像するカメラの撮像面と前記路面との角度である、
路面情報計測装置。
a vehicle detection unit that detects a vehicle traveling on a road surface based on the captured image;
a vehicle type determination unit that determines the type of the vehicle as a vehicle type;
a road surface information acquisition unit that acquires information about the road surface corresponding to the vehicle type and information about the length of the vehicle;
a motion vector calculation unit that calculates a motion vector of the vehicle based on a plurality of imaging frames;
a vehicle speed calculation unit that calculates the speed of the vehicle based on the movement vector and information about the road surface;
with
the information about the length of the vehicle is a ratio between a first length and a second length of the vehicle corresponding to the vehicle type;
The information about the road surface is an angle between the imaging plane of a camera that captures the captured image and the road surface,
Road surface information measuring device.
前記車速算出部は、
前記移動ベクトルと前記路面に関する情報とから空間における移動ベクトルを算出し、前記空間における移動ベクトルから単位時間当たりの移動ベクトルを算出して前記車両の速度を算出する、
請求項1に記載の路面情報計測装置。
The vehicle speed calculation unit
calculating a movement vector in space from the movement vector and the information about the road surface, calculating a movement vector per unit time from the movement vector in the space, and calculating the speed of the vehicle;
The road surface information measuring device according to claim 1.
前記第1の長さは、前記撮像画像における前記車両の外接矩形の長辺の長さであり、前記第2の長さは、前記外接矩形の短辺の長さである、
請求項1または2に記載の路面情報計測装置。
The first length is the length of the long side of the circumscribing rectangle of the vehicle in the captured image, and the second length is the length of the short side of the circumscribing rectangle.
The road surface information measuring device according to claim 1 or 2.
前記第1の長さは、前記撮像画像におけるナンバープレートの横の長さであり、前記第2の長さは、前記ナンバープレートの縦の長さである、
請求項1または2に記載の路面情報計測装置。
The first length is the horizontal length of the license plate in the captured image, and the second length is the vertical length of the license plate.
The road surface information measuring device according to claim 1 or 2.
前記路面情報取得部は、前記撮像面と前記路面との角度と、あらかじめ計測された水平面と前記撮像面との角度とに基づいて、水平面と前記路面との角度を算出する、
請求項1または2に記載の路面情報計測装置。
The road surface information acquisition unit calculates the angle between the horizontal plane and the road surface based on the angle between the imaging plane and the road surface and the angle between the horizontal plane and the imaging plane measured in advance.
The road surface information measuring device according to claim 1 or 2 .
撮像画像に基づいて路面を走行する車両を検出することと、
前記車両の種別を車種として判別することと、
前記車種と前記車両の所定部位の長さに関する情報とに対応する前記路面に関する情報を取得することと、
複数の撮像フレームに基づいて前記車両の移動ベクトルを算出することと、
前記移動ベクトルと前記路面に関する情報とに基づいて前記車両の速度を算出することと、
を含み、
前記車両の長さに関する情報は、前記車種に対応する車両の第1の長さと第2の長さとの比であり、
前記路面に関する情報は、前記撮像画像を撮像するカメラの撮像面と前記路面との角度である、
路面情報計測方法。
Detecting a vehicle traveling on a road surface based on the captured image;
determining the type of the vehicle as a vehicle type;
obtaining information about the road surface corresponding to the vehicle type and information about the length of a predetermined portion of the vehicle;
calculating a movement vector of the vehicle based on a plurality of imaging frames;
calculating the speed of the vehicle based on the movement vector and information about the road surface;
including
the information about the length of the vehicle is a ratio between a first length and a second length of the vehicle corresponding to the vehicle type;
The information about the road surface is an angle between the imaging plane of a camera that captures the captured image and the road surface,
Road surface information measurement method.
コンピュータを、
撮像画像に基づいて路面を走行する車両を検出する車両検出部と、
前記車両の種別を車種として判別する車種判別部と、
前記車種と前記車両の所定部位の長さに関する情報とに対応する前記路面に関する情報を取得する路面情報取得部と、
複数の撮像フレームに基づいて前記車両の移動ベクトルを算出する移動ベクトル算出部と、
前記移動ベクトルと前記路面に関する情報とに基づいて前記車両の速度を算出する車速算出部と、
を備え
前記車両の長さに関する情報は、前記車種に対応する車両の第1の長さと第2の長さとの比であり、
前記路面に関する情報は、前記撮像画像を撮像するカメラの撮像面と前記路面との角度である、
路面情報計測装置として機能させるためのプログラム。
the computer,
a vehicle detection unit that detects a vehicle traveling on a road surface based on the captured image;
a vehicle type determination unit that determines the type of the vehicle as a vehicle type;
a road surface information acquisition unit that acquires information about the road surface corresponding to the vehicle type and information about the length of a predetermined portion of the vehicle;
a motion vector calculation unit that calculates a motion vector of the vehicle based on a plurality of imaging frames;
a vehicle speed calculation unit that calculates the speed of the vehicle based on the movement vector and information about the road surface;
with
the information about the length of the vehicle is a ratio between a first length and a second length of the vehicle corresponding to the vehicle type;
The information about the road surface is an angle between the imaging plane of a camera that captures the captured image and the road surface,
A program for functioning as a road surface information measuring device.
JP2019157348A 2019-08-29 2019-08-29 Road surface information measuring device, road surface information measuring method and program Active JP7334541B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019157348A JP7334541B2 (en) 2019-08-29 2019-08-29 Road surface information measuring device, road surface information measuring method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019157348A JP7334541B2 (en) 2019-08-29 2019-08-29 Road surface information measuring device, road surface information measuring method and program

Publications (2)

Publication Number Publication Date
JP2021033970A JP2021033970A (en) 2021-03-01
JP7334541B2 true JP7334541B2 (en) 2023-08-29

Family

ID=74675966

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019157348A Active JP7334541B2 (en) 2019-08-29 2019-08-29 Road surface information measuring device, road surface information measuring method and program

Country Status (1)

Country Link
JP (1) JP7334541B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002008017A (en) 2000-06-16 2002-01-11 Mitsubishi Electric Corp Movable body detection system
JP2012037965A (en) 2010-08-04 2012-02-23 Toyota Motor Corp Inter-vehicle distance detecting device and inter-vehicle distance detecting method
US20120206602A1 (en) 2009-08-17 2012-08-16 Pips Technology Limited method and system for measuring the speed of a vehicle
JP2014137321A (en) 2013-01-18 2014-07-28 Nec Corp Position coordinate conversion system, position coordinate conversion method, on-vehicle device, global coordinate measurement device and position coordinate conversion program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63289700A (en) * 1987-05-21 1988-11-28 Mitsubishi Electric Corp Vehicle discriminating device
JPH11353581A (en) * 1998-06-09 1999-12-24 Anritsu Corp Method and device for discriminating vehicle kind in the daytime

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002008017A (en) 2000-06-16 2002-01-11 Mitsubishi Electric Corp Movable body detection system
US20120206602A1 (en) 2009-08-17 2012-08-16 Pips Technology Limited method and system for measuring the speed of a vehicle
JP2012037965A (en) 2010-08-04 2012-02-23 Toyota Motor Corp Inter-vehicle distance detecting device and inter-vehicle distance detecting method
JP2014137321A (en) 2013-01-18 2014-07-28 Nec Corp Position coordinate conversion system, position coordinate conversion method, on-vehicle device, global coordinate measurement device and position coordinate conversion program

Also Published As

Publication number Publication date
JP2021033970A (en) 2021-03-01

Similar Documents

Publication Publication Date Title
WO2015052896A1 (en) Passenger counting device, passenger counting method, and program recording medium
EP0878965A2 (en) Method for tracking entering object and apparatus for tracking and monitoring entering object
KR102074857B1 (en) Proximity sensor and proximity sensing method using design vision sensor
KR102203810B1 (en) User interfacing apparatus and method using an event corresponding a user input
JP4288428B2 (en) Video analysis system and video analysis method
WO2014132490A1 (en) Vehicle specifications measurement processing device, vehicle specifications measuring method, and recording medium
JP6292540B2 (en) Information processing system, information processing method, and program
JP4239621B2 (en) Congestion survey device
KR101840042B1 (en) Multi-Imaginary Fence Line Setting Method and Trespassing Sensing System
KR101760261B1 (en) Around view monitoring system having function of black box and operating method
JP7225993B2 (en) Same vehicle determination device, same vehicle determination method and program
US10488981B2 (en) System and method of measuring continuous touch controller latency
TW201211941A (en) Analyzing device for vehicle dynamic behavior and analyzing program for vehicle dynamic behavior
JP7334541B2 (en) Road surface information measuring device, road surface information measuring method and program
US20140037141A1 (en) Method for evaluating a plurality of time-offset pictures, device for evaluating pictures, and monitoring system
KR100942431B1 (en) Complementary metal oxide semiconductor, source of light using the touch coordinates preception method and the touch screen system
JP3360163B2 (en) Traffic flow monitoring device
JP6962365B2 (en) Object detection system and program
JP2021047538A (en) Image processing device, image processing method, and program
EP3905113A1 (en) Camera height calculation method and image processing apparatus
JP4947592B2 (en) Vehicle detection device
JP4697761B2 (en) Queue detection method and queue detection apparatus
JP2020008924A (en) License plate recognition device, license plate recognition method, and program
JP5487648B2 (en) Moving object measuring system, moving object measuring apparatus, moving object measuring method and program
JP2020038486A (en) Traffic volume measurement device, program, and traffic volume measurement system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220510

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230718

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230731

R150 Certificate of patent or registration of utility model

Ref document number: 7334541

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150