JP2020118575A - Inter-vehicle distance measurement device, error model generation device, learning model generation device, and method and program thereof - Google Patents

Inter-vehicle distance measurement device, error model generation device, learning model generation device, and method and program thereof Download PDF

Info

Publication number
JP2020118575A
JP2020118575A JP2019010808A JP2019010808A JP2020118575A JP 2020118575 A JP2020118575 A JP 2020118575A JP 2019010808 A JP2019010808 A JP 2019010808A JP 2019010808 A JP2019010808 A JP 2019010808A JP 2020118575 A JP2020118575 A JP 2020118575A
Authority
JP
Japan
Prior art keywords
vehicle
inter
error
camera
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019010808A
Other languages
Japanese (ja)
Other versions
JP7145770B2 (en
Inventor
哲平 鈴木
Teppei Suzuki
哲平 鈴木
育郎 佐藤
Ikuro Sato
育郎 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2019010808A priority Critical patent/JP7145770B2/en
Publication of JP2020118575A publication Critical patent/JP2020118575A/en
Application granted granted Critical
Publication of JP7145770B2 publication Critical patent/JP7145770B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Abstract

To provide an inter-vehicle distance measurement device that can estimate an inter-vehicle distance to a preceding vehicle as well as an error of the distance.SOLUTION: An inter-vehicle distance measurement device comprises: a camera 10 installed on a vehicle; a GPS/IMU11; a distance calculation unit 12 for calculating an inter-vehicle distance to a preceding vehicle when the vehicle is in a first position by identifying a lower end of the preceding vehicle in an image of the preceding vehicle imaged when the vehicle is in the first position while obtaining a straight line connecting an optical center of the camera and the lower end, obtaining a shape of a road based on position information sequentially obtained by the vehicle's traveling, and obtaining a second position where the straight line crosses the road; an error model storage unit for storing a scale of an error using as variables length from the optical center of the camera to the lower end of the preceding vehicle reflected in the image and displacement in a pitch angle of the camera between the first position and the second position; and an error scale calculation unit 13 for calculating the scale of the error in the inter-vehicle distance based on a coordinate of the lower end of the preceding vehicle reflected in the image and the displacement in the pitch angle of the camera.SELECTED DRAWING: Figure 1

Description

本発明は、車間距離測定装置、誤差モデル生成装置および学習モデル生成装置等に関する。 The present invention relates to an inter-vehicle distance measuring device, an error model generating device, a learning model generating device, and the like.

Adaptive Cruise Control(以下、「ACC」)による運転支援機能は現在多くの車に搭載されており、重要なシステムとなっている。ACCの要素技術として先行車両までの距離推定システムが挙げられ、距離センサやステレオカメラを用いた測距方法が使われている(非特許文献1)。近年では、コスト等の面から単眼カメラにおける距離推定技術が注目されており、自車両から先行車両までの路面を平面と仮定することで三角測量により先行車両までの距離を推定するSteinらが提案した手法などがある(非特許文献2)。また、Deep Neural Networks (以下、「DNN」)を利用した学習に基づく距離推定手法も提案されており(非特許文献3)、従来の幾何学的アプローチと比較して良好な結果を示している。 The driving support function by Adaptive Cruise Control (hereinafter referred to as “ACC”) is currently installed in many vehicles and is an important system. A distance estimation system to a preceding vehicle is mentioned as an elemental technology of ACC, and a distance measuring method using a distance sensor or a stereo camera is used (Non-Patent Document 1). In recent years, distance estimation technology in monocular cameras has attracted attention from the viewpoint of cost, etc. Stein et al. proposes the distance to the preceding vehicle by triangulation by assuming the road surface from the own vehicle to the preceding vehicle as a plane. There is a method (Non-Patent Document 2). Also, a distance estimation method based on learning using Deep Neural Networks (hereinafter, “DNN”) has been proposed (Non-Patent Document 3), and shows good results as compared with the conventional geometric approach. ..

特開2015−79388号公報JP, 2005-79388, A

Saneyoshi, K. (1996, September)「Drive assist system using stereo image recognition」In Intelligent Vehicles Symposium, 1996., Proceedings of the 1996 IEEE (pp. 230-235). IEEE.Saneyoshi, K. (1996, September) ``Drive assist system using stereo image recognition'' In Intelligent Vehicles Symposium, 1996., Proceedings of the 1996 IEEE (pp. 230-235).IEEE. Stein, G. P., Mano, O., & Shashua, A. (2003, June)「Vision-based ACC with a single camera: bounds on range and range rate accuracy」 In Intelligent vehicles symposium, 2003. Proceedings. IEEE (pp. 120125). IEEE.Stein, GP, Mano, O., & Shashua, A. (2003, June) ``Vision-based ACC with a single camera: bounds on range and range rate accuracy'' In Intelligent vehicles symposium, 2003. Proceedings.IEEE (pp. 120125).IEEE. Laina, Iro, et al. 「Deeper depth prediction with fully convolutional residual networks.」3D Vision (3DV), 2016 Fourth International Conference on. IEEE, 2016.Laina, Iro, et al. ``Deeper depth prediction with fully convolutional residual networks.''3D Vision (3DV), 2016 Fourth International Conference on.IEEE, 2016.

距離センサやステレオカメラを使った方法は、コストが高いという産業的なデメリットが存在する。そのため、現在、単眼カメラによる距離推定器の需要が広がっている。非特許文献2等のように、幾何学的な拘束に基づく単眼カメラを用いた距離推定手法は、多くの仮定の元で成り立っているため、走行環境に依存して推定精度が変化する。例えば、道路形状を平面と仮定しているため、曲率を持った路面に対しては正確な推定ができない。 The method using a distance sensor or a stereo camera has an industrial disadvantage that the cost is high. Therefore, the demand for a distance estimator using a monocular camera is currently increasing. Since a distance estimation method using a monocular camera based on a geometric constraint as in Non-Patent Document 2 is based on many assumptions, the estimation accuracy changes depending on the traveling environment. For example, since the road shape is assumed to be a plane, accurate estimation cannot be performed on a road surface having a curvature.

また、機械学習手法を使った学習に基づく方法は、道路の勾配や周辺の環境に依存しない推定を行うことができる可能性を持つ。しかし、学習に基づく推定器は、学習データに存在するバイアスなどの影響を受け、学習データと異なる環境では推定精度が下がることが知られている。さらに、誤差の解析や推定結果の安定性などの評価を行うことは難しいという側面もある。 In addition, a method based on learning using a machine learning method has a possibility of performing estimation that does not depend on the gradient of the road or the surrounding environment. However, it is known that the learning-based estimator is affected by the bias existing in the learning data and the estimation accuracy is reduced in an environment different from the learning data. Furthermore, it is difficult to analyze errors and evaluate the stability of estimation results.

本発明者らは、特許文献1にて、単眼カメラにて車間距離を推定する方法を提案した。特許文献1で提案した手法では、路面の形状に依存しない距離推定が可能であるが、路面の形状復元に用いるVisual Odometryの精度が距離の推定精度に依存する。 The present inventors proposed in Patent Document 1 a method for estimating an inter-vehicle distance with a monocular camera. With the method proposed in Patent Document 1, it is possible to perform distance estimation that does not depend on the shape of the road surface, but the accuracy of Visual Odometry used to restore the shape of the road surface depends on the accuracy of distance estimation.

本発明は、上記背景に鑑み、先行車両との車間距離と共にその誤差をも推定できる車間距離測定装置を提供することを目的とする。 The present invention has been made in view of the above background, and an object of the present invention is to provide an inter-vehicle distance measuring device capable of estimating an inter-vehicle distance to a preceding vehicle and an error thereof.

本発明の車間距離測定装置は、車両に搭載されたカメラと、前記車両の位置情報を検出する位置情報検出部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、前記車間距離および誤差のスケールを出力する出力部とを備える。この構成により、車間距離だけでなく、その誤差のスケールを求めることができる。誤差のスケールを求めることにより、例えば、車間距離を用いたアプリケーションにおいて、適切な処理を行える。 An inter-vehicle distance measuring device of the present invention includes a camera mounted on a vehicle, a position information detection unit that detects position information of the vehicle, and an image of a preceding vehicle when the vehicle is at the first position. A straight line connecting the optical center of the camera and the lower end is determined while identifying the lower end of the vehicle, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the straight line intersects with the road. A distance calculation unit that obtains an inter-vehicle distance between the vehicle and the preceding vehicle when the vehicle is at the first position, and the image from the optical center of the camera to the lower end of the preceding vehicle. An error model storage unit that stores a model of an error scale having a variable in length and a displacement of the pitch angle of the camera between the first position and the second position, and the error. Referring to the model of the error scale stored in the model storage unit, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, the inter-vehicle distance of An error scale calculation unit that calculates an error scale and an output unit that outputs the inter-vehicle distance and the error scale are provided. With this configuration, not only the inter-vehicle distance but also the scale of the error can be obtained. By obtaining the scale of the error, for example, appropriate processing can be performed in an application using the inter-vehicle distance.

本発明の車間距離測定装置において、前記誤差モデル記憶部には、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに、前記車間距離の誤差のスケールを関連付けたルックアップテーブルの形式で、前記誤差のスケールのモデルを記憶しておいてもよい。この構成により、誤差のスケールの計算負荷を軽減することができる。 In the inter-vehicle distance measuring device of the present invention, the error model storage unit includes an error of the inter-vehicle distance in a length from the optical center of the camera to a lower end of the preceding vehicle in the image and a displacement of a pitch angle of the camera. The model of the error scale may be stored in the form of a look-up table in which the scales are associated. With this configuration, the calculation load of the error scale can be reduced.

本発明の車間距離測定装置は、車両に搭載されたカメラと、前記車両の位置情報を検出する位置情報検出部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、前記車間距離および誤差のスケールを出力する出力部とを備える。この構成により、車間距離だけでなく、その誤差のスケールを求めることができる。誤差のスケールを求めることにより、例えば、車間距離を用いたアプリケーションにおいて、適切な処理を行える。 An inter-vehicle distance measuring device of the present invention includes a camera mounted on a vehicle, a position information detection unit that detects position information of the vehicle, and an image of a preceding vehicle when the vehicle is at the first position. A straight line connecting the optical center of the camera and the lower end is determined while identifying the lower end of the vehicle, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the straight line intersects with the road. And a second position relative to a road surface at the first position, and a distance calculation unit that obtains an inter-vehicle distance between the preceding vehicle when the vehicle is at the first position. An error scale calculator that calculates an error scale based on the inclination of the road surface and the length in the image from the optical center of the camera to the lower end of the preceding vehicle, and an output that outputs the inter-vehicle distance and the error scale. And a section. With this configuration, not only the inter-vehicle distance but also the scale of the error can be obtained. By obtaining the scale of the error, for example, appropriate processing can be performed in an application using the inter-vehicle distance.

本発明の誤差モデル生成装置は、車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルの生成装置であって、道路の構造情報を入力する道路構造情報入力部と、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するシミュレーション部と、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと前記カメラのピッチ角の変位とを変数として、前記車間距離の誤差のスケールを解析する誤差解析部とを備える。 The error model generation device of the present invention identifies the lower end of the preceding vehicle in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and obtains a straight line connecting the optical center of the camera and the lower end, By determining the shape of the road based on the position information sequentially obtained by the traveling of the vehicle and determining the second position where the straight line intersects the road, An inter-vehicle distance measuring apparatus for obtaining an inter-vehicle distance from a preceding vehicle, which is an error model generation apparatus for estimating an error in the inter-vehicle distance, and a road structure information input unit for inputting road structure information, The position of the vehicle and the position of the preceding vehicle is determined at random, and by using the road structure information, the true value of the inter-vehicle distance to the preceding vehicle is calculated, and the rotation angle of the camera determined by the road structure and the position of the vehicle are determined. A simulation unit that calculates a vehicle-to-vehicle distance by sequentially adding randomly generated errors to the true value to obtain the second position, and calculates an error of the calculated vehicle-to-vehicle distance with respect to the true value. An error analysis unit that analyzes the scale of the error in the inter-vehicle distance with the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera as variables.

本発明らの研究により、車間距離の誤差のスケールは、複数の変数のうち、カメラの光学中心から先行車両の下端までの画像内での長さとカメラのピッチ角の変位との相関が強いことが分かった。本発明の構成により、シミュレーションによって、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとピッチ角の変位とに基づいて誤差のスケールを求める誤差モデルを生成することができる。 According to the research conducted by the present inventors, the scale of the error of the inter-vehicle distance has a strong correlation between the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera among a plurality of variables. I understood. With the configuration of the present invention, it is possible to generate an error model for obtaining an error scale based on the length in the image and the displacement of the pitch angle from the optical center of the camera to the lower end of the preceding vehicle by simulation.

本発明の学習モデル生成装置は、カメラにて撮影した画像から車間距離を推定する学習モデルを生成する生成装置であって、先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部とを備える。 A learning model generation device of the present invention is a generation device that generates a learning model for estimating an inter-vehicle distance from an image captured by a camera, and is a video of a preceding vehicle and vehicle position information corresponding to each frame of the video. And an input section for inputting the vehicle, a lower end of the preceding vehicle is identified in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and a straight line connecting the optical center of the camera and the lower end is obtained. When the vehicle is at the first position, the shape of the road is obtained based on the position information sequentially obtained by driving the vehicle, and the second position where the straight line intersects the road is obtained. A distance calculation unit for obtaining an inter-vehicle distance, a length in the image from the optical center of the camera to the lower end of the preceding vehicle, and the camera between the first position and the second position. The error model storage unit that stores a model of the error scale having the displacement of the pitch angle of the variable and the model of the error scale stored in the error model storage unit are referred to, and the preceding vehicle is detected from the optical center of the camera. Based on the length in the image to the lower end of the and the displacement of the pitch angle of the camera, an error scale calculation unit that calculates the scale of the error of the inter-vehicle distance, and the inter-vehicle distance and the error of the plurality of images obtained. A model generation unit that generates a learning model for obtaining an inter-vehicle distance from an image using the scale as teacher data.

本発明の学習モデル生成装置は、カメラにて撮影した画像から車間距離を推定する学習モデルを生成する生成装置であって、先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部とを備える。 A learning model generation device of the present invention is a generation device that generates a learning model for estimating an inter-vehicle distance from an image captured by a camera, and is a video of a preceding vehicle and vehicle position information corresponding to each frame of the video. And an input section for inputting the vehicle, a lower end of the preceding vehicle is identified in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and a straight line connecting the optical center of the camera and the lower end is obtained. When the vehicle is in the first position, the shape of the road is obtained based on the position information sequentially obtained by driving the vehicle, and the second position where the straight line intersects the road is obtained. A distance calculation unit for obtaining an inter-vehicle distance to the vehicle, an inclination of the road surface at the second position with respect to the road surface at the first position, and a length in the image from the optical center of the camera to the lower end of the preceding vehicle. And an error scale calculation unit that calculates an error scale, and a model generation unit that generates a learning model that obtains the inter-vehicle distance from the images, using the inter-vehicle distance and the error scale obtained for the plurality of images as teacher data. ..

本発明によれば、先行車両が映る映像と対応する位置情報から教師データを生成するので、大量の教師データを容易に準備できる。また、車間距離と誤差のスケールとを教師データとして学習を行うので、誤差のスケールに応じて学習モデルの学習の強さを変えることができ、適切な学習モデルを生成することができる。一つの態様として、前記モデル生成部は、前記誤差のスケールが大きいほど、損失関数に与える影響を小さくして学習を行ってもよい。 According to the present invention, since the teacher data is generated from the position information corresponding to the image of the preceding vehicle, a large amount of teacher data can be easily prepared. Further, since learning is performed using the inter-vehicle distance and the scale of the error as teacher data, the learning strength of the learning model can be changed according to the scale of the error, and an appropriate learning model can be generated. As one aspect, the model generation unit may perform learning with a smaller influence on the loss function as the scale of the error is larger.

本発明の車間距離測定方法は、車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定する方法であって、車間距離測定装置に前記カメラにて撮影された画像を入力するステップと、前記車間距離測定装置に前記車両の位置情報を検出するステップと、前記車間距離測定装置が、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、前記車間距離測定装置が、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、前記車間距離測定装置が、前記車間距離および誤差のスケールを出力するステップとを備える。また、誤差のスケールを算出するステップは、誤差モデル記憶部のデータを参照する方法に代えて、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出してもよい。 An inter-vehicle distance measuring method of the present invention is a method for measuring an inter-vehicle distance with a preceding vehicle on the basis of an image captured by a camera mounted on a vehicle and position information of the vehicle. The step of inputting an image taken by the camera, the step of detecting positional information of the vehicle in the inter-vehicle distance measuring apparatus, and the inter-vehicle distance measuring apparatus when the vehicle is at the first position. The lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and based on the position information sequentially obtained by the traveling of the vehicle. Determining the shape of the road and determining the second position where the straight line intersects the road to determine the inter-vehicle distance with the preceding vehicle when the vehicle is in the first position; and the inter-vehicle distance. A measuring device varies the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position. With reference to an error model storage unit that stores a model of an error scale, the distance between the vehicles based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera. The method further includes a step of calculating a scale of a distance error, and a step of the inter-vehicle distance measuring device outputting the scale of the inter-vehicle distance and the error. Further, the step of calculating the scale of the error is preceded by the inclination of the road surface at the second position with respect to the road surface at the first position and the optical center of the camera instead of the method of referring to the data in the error model storage unit. The error scale may be calculated based on the length up to the lower end of the vehicle in the image.

本発明の誤差モデル生成方法は、車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルの生成方法であって、誤差モデル生成装置に道路の構造情報を入力するステップと、前記誤差モデル生成装置が、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、前記誤差モデル生成装置が、前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップとを備える。 The error model generation method of the present invention identifies a lower end of a preceding vehicle in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and connects a straight line connecting the optical center of the camera and the lower end in the world coordinate system. Is obtained, the shape of the road is obtained based on the position information sequentially obtained by the vehicle traveling, and the second position at which the straight line intersects the road is obtained. A method of generating an error model for estimating an error of the inter-vehicle distance in an inter-vehicle distance measuring apparatus for obtaining an inter-vehicle distance with a preceding vehicle when there is a situation, and inputting road structure information to the error model generating apparatus. Step, the error model generation device randomly determines the first position and the position of the preceding vehicle, and calculates the true value of the inter-vehicle distance to the preceding vehicle using the structure information of the road, and The inter-vehicle distance is calculated by adding the randomly generated error to the true value of the camera rotation angle and the vehicle position determined by the road structure, and calculating the second position. A step of calculating an error with respect to a true value of the inter-vehicle distance, the error model generation device, the displacement in the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle as variables. And analyzing the scale of the error of the inter-vehicle distance.

本発明の車間距離測定のプログラムは、車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定するためのプログラムであって、コンピュータに、前記カメラにて撮影された画像を入力するステップと、前記車両の位置情報を入力するステップと、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、前記車間距離および誤差のスケールを出力するステップとを実行させる。また、誤差のスケールを算出するステップは、誤差モデル記憶部のデータを参照する方法に代えて、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出してもよい。 The inter-vehicle distance measuring program of the present invention is a program for measuring an inter-vehicle distance to a preceding vehicle based on an image taken by a camera mounted on the vehicle and position information of the vehicle, and a computer In the step of inputting an image taken by the camera, the step of inputting position information of the vehicle, and the lower end of the preceding vehicle in the image of the preceding vehicle taken when the vehicle is in the first position. Identify and determine a straight line that connects the optical center of the camera and the lower end in the world coordinate system, and determine the shape of the road based on the position information that is sequentially obtained by traveling of the vehicle, and the straight line is the road. Determining a second position at which the vehicle intersects with the preceding vehicle when the vehicle is at the first position; and in the image from the optical center of the camera to the lower end of the preceding vehicle. With reference to an error model storage unit that stores a model of an error scale having a variable of the length at, and a displacement of the pitch angle of the camera between the first position and the second position, Based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, calculating the scale of the error of the inter-vehicle distance, and the scale of the inter-vehicle distance and the error. Perform the output step and. Further, the step of calculating the scale of the error is preceded by the inclination of the road surface at the second position with respect to the road surface at the first position and the optical center of the camera instead of the method of referring to the data in the error model storage unit. The error scale may be calculated based on the length up to the lower end of the vehicle in the image.

本発明の誤差モデル生成のプログラムは、車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルを生成するためのプログラムであって、コンピュータに、道路の構造情報を入力するステップと、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップと、を実行させる。 The error model generation program of the present invention identifies the lower end of the preceding vehicle in the image of the preceding vehicle when the vehicle is at the first position, and connects the optical center of the camera and the lower end in the world coordinate system. By obtaining the straight line, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the second position at which the straight line intersects the road is obtained, whereby the vehicle is In a vehicle-to-vehicle distance measuring device that obtains the vehicle-to-vehicle distance when the vehicle is in a position, the program is for generating an error model for estimating an error in the vehicle-to-vehicle distance. A step of inputting, randomly determining the first position and the position of the preceding vehicle, calculating the true value of the inter-vehicle distance to the preceding vehicle using the road structure information, and determining the camera according to the road structure. The rotation angle and the true value of the vehicle position are sequentially added with errors randomly generated to obtain the second position, thereby calculating the inter-vehicle distance, and calculating the true value of the inter-vehicle distance. And a step of analyzing the scale of the error of the inter-vehicle distance with the displacement in the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle as variables. And execute.

本発明によれば、車間距離だけでなく、その誤差のスケールを求めることができる。 According to the present invention, not only the inter-vehicle distance but also the scale of the error can be obtained.

第1の実施の形態の車間距離測定装置の構成を示す図である。It is a figure which shows the structure of the vehicle distance measuring apparatus of 1st Embodiment. カメラの設置位置を示す図である。It is a figure which shows the installation position of a camera. 自車両の軌跡と地面点の軌跡を示す図である。It is a figure which shows the locus|trajectory of the own vehicle and the locus|trajectory of the ground point. (a)カメラの光学中心と先行車両の下端とを結ぶ直線Lを示す図である。(b)カメラの光学中心と先行車両の下端とを結ぶ直線Lを示す図である。(A) It is a figure which shows the straight line L which connects the optical center of a camera and the lower end of a preceding vehicle. (B) It is a figure which shows the straight line L which connects the optical center of a camera and the lower end of a preceding vehicle. (a)地面点の軌跡、および直線Lを、世界座標系にプロットした図である。(b)地面点の軌跡、および直線Lを、世界座標系にプロットした図である。(A) It is the figure which plotted the locus|trajectory of the ground point, and the straight line L in the world coordinate system. (B) It is the figure which plotted the locus|trajectory of the ground point, and the straight line L in the world coordinate system. 第1の実施の形態の車間距離測定方法の動作を示すフローチャートである。It is a flow chart which shows operation of an inter-vehicle distance measuring method of a 1st embodiment. 画像から検出された車両の左端、右端、下端の座標の算出例を示す図である。It is a figure which shows the example of calculation of the coordinate of the left edge, right edge, and lower edge of the vehicle detected from the image. 車間距離測定装置で用いる誤差モデルを生成する誤差モデル生成装置の構成を示す図である。It is a figure which shows the structure of the error model production|generation apparatus which produces|generates the error model used with an inter-vehicle distance measuring apparatus. 車間距離Dを求める際に用いる主なセンサ値を示す図である。It is a figure which shows the main sensor value used when calculating the inter-vehicle distance D. 誤差モデル生成装置の動作を示すフローチャートである。It is a flowchart which shows operation|movement of an error model production|generation apparatus. 第2の実施の形態の車間距離測定装置の構成を示す図である。It is a figure which shows the structure of the vehicle distance measuring apparatus of 2nd Embodiment. 第2の実施の形態において先行車両の下端を求める原理を示す図である。It is a figure which shows the principle which calculates|requires the lower end of a preceding vehicle in 2nd Embodiment. 第3の実施の形態の学習モデル生成装置の構成を示す図である。It is a figure which shows the structure of the learning model production|generation apparatus of 3rd Embodiment. 第3の実施の形態の学習モデル生成装置の動作を示すフローチャートである。It is a flowchart which shows operation|movement of the learning model production|generation apparatus of 3rd Embodiment.

以下、本発明の実施の形態に係る車間距離測定装置について図面を参照しながら詳細に説明する。
(第1の実施の形態)
[車間距離測定装置の構成]
図1は、第1の実施の形態の車間距離測定装置1の構成を示す図である。車間距離測定装置1は、車両に搭載されたカメラ10と、車両の現在位置を検出して位置情報を取得するGPS/IMU11と、カメラ10にて撮影した画像とGPS/IMU11からの位置情報とに基づいて先行車両までの車間距離を推定する距離算出部12と、距離算出部12にて推定した車間距離の誤差のスケールを算出する誤差スケール算出部13と、誤差スケールの算出に用いられる誤差モデルを記憶した誤差モデル記憶部14と、求めた車間距離および誤差のスケールを出力する出力部15とを備えている。カメラ10は、例えば、CCDカメラ10である。
Hereinafter, an inter-vehicle distance measuring device according to an embodiment of the present invention will be described in detail with reference to the drawings.
(First embodiment)
[Configuration of inter-vehicle distance measuring device]
FIG. 1 is a diagram showing a configuration of an inter-vehicle distance measuring device 1 according to the first embodiment. The inter-vehicle distance measuring device 1 includes a camera 10 mounted on a vehicle, a GPS/IMU 11 that detects the current position of the vehicle and acquires position information, an image captured by the camera 10, and position information from the GPS/IMU 11. The distance calculation unit 12 that estimates the inter-vehicle distance to the preceding vehicle, the error scale calculation unit 13 that calculates the scale of the inter-vehicle distance error estimated by the distance calculation unit 12, and the error used to calculate the error scale. An error model storage unit 14 that stores a model and an output unit 15 that outputs the obtained inter-vehicle distance and error scale are provided. The camera 10 is, for example, a CCD camera 10.

図2は、カメラ10の設置位置を示す図である。カメラ10は、車両の先端(フロントバンパー)に設置される。カメラ10の地面からの高さをHとし、本書では、カメラ10の光学中心の鉛直下方向の地面を地面点という。 FIG. 2 is a diagram showing the installation position of the camera 10. The camera 10 is installed at the tip (front bumper) of the vehicle. The height of the camera 10 from the ground is H, and in this document, the ground vertically below the optical center of the camera 10 is called the ground point.

カメラ10の車両への設置に際して、カメラ10の光軸(Z軸)が車両の進行方向と一致し、カメラ10によって撮影された画像の横軸(X軸)が地面と平行になるように、カメラ10の設置角度等が調整される。この結果、画像の縦軸(Y軸)は、地面に垂直な方向に一致する。このカメラ10は、車両が走行している間に画像を撮影して、その撮影した画像を距離算出部12に入力する。 When the camera 10 is installed in the vehicle, the optical axis (Z axis) of the camera 10 matches the traveling direction of the vehicle, and the horizontal axis (X axis) of the image captured by the camera 10 is parallel to the ground. The installation angle and the like of the camera 10 are adjusted. As a result, the vertical axis (Y axis) of the image coincides with the direction perpendicular to the ground. The camera 10 captures an image while the vehicle is traveling and inputs the captured image to the distance calculation unit 12.

距離算出部12は、GPS/IMU11から入力された車両の位置情報に基づいて、車両の移動軌跡を求める。これにより、車両が通過した道路の起伏が求まる。 The distance calculation unit 12 obtains the movement trajectory of the vehicle based on the vehicle position information input from the GPS/IMU 11. As a result, the undulation of the road on which the vehicle has passed can be obtained.

図3は、自車両の軌跡と地面点の軌跡を示す図である。図3においては、初期の時刻におけるカメラ10の位置を原点、光軸方向をZ軸、地面方向をY軸とし、X軸は右手座標系によって定めている(世界座標系)。YZ平面上で記述された地面点の軌跡は、地面の起伏を示しており、これにより、車両が通過した道路の起伏が分かる。 FIG. 3 is a diagram showing the trajectory of the host vehicle and the trajectory of the ground point. In FIG. 3, the position of the camera 10 at the initial time is the origin, the optical axis direction is the Z axis, the ground direction is the Y axis, and the X axis is defined by the right-hand coordinate system (world coordinate system). The locus of the ground point described on the YZ plane shows the undulations of the ground, and thus the undulations of the road on which the vehicle has passed can be known.

また、距離算出部12は、カメラ10にて撮影した画像から、先行車両の下端を識別し、その画像座標を求める。画像座標の原点は、カメラの光学中心である。この画像座標を用いて、図4(a)に示すように、カメラ10の光学中心と先行車両の下端とを結ぶ直線Lを求める。この直線Lは世界座標系における直線である。 The distance calculation unit 12 also identifies the lower end of the preceding vehicle from the image captured by the camera 10 and obtains the image coordinates thereof. The origin of the image coordinates is the optical center of the camera. Using these image coordinates, as shown in FIG. 4A, a straight line L connecting the optical center of the camera 10 and the lower end of the preceding vehicle is obtained. This straight line L is a straight line in the world coordinate system.

続いて、カメラ10にて撮影した次のフレームの画像から、同様に、カメラ10の光学中心と先行車両の下端とを結ぶ直線Lを求める。図4(b)に示すように、自車両および先行車両が前方に進んでいるので、先に求めた直線Lとは異なる直線が求まる。 Subsequently, a straight line L connecting the optical center of the camera 10 and the lower end of the preceding vehicle is similarly obtained from the image of the next frame taken by the camera 10. As shown in FIG. 4(b), since the host vehicle and the preceding vehicle are moving forward, a straight line different from the previously obtained straight line L can be obtained.

図5(a)及び図5(b)は、地面点の軌跡、および直線Lを、世界座標系にプロットした図である。図5(a)に示す状態では、先行車両の下端がある方向は分かるものの、何m先の位置に先行車両があるのかを確定することはできない。 5A and 5B are diagrams in which the locus of the ground point and the straight line L are plotted in the world coordinate system. In the state shown in FIG. 5A, the direction in which the lower end of the preceding vehicle is located is known, but it is not possible to determine how many meters ahead the vehicle is ahead.

図5(b)に示すように、時刻t1までに記述された地面点の軌跡と、過去の時刻t0における直線Lとが交差したとすると、この交点は、時刻t0で観測された先行車両の下端があった位置であることが分かる。したがって、距離算出部12は、時刻t1に求められた交点の位置と、時刻t0におけるカメラ10の光学中心の位置とに基づいて車間距離を求めることができる。 As shown in FIG. 5(b), if the locus of the ground point described up to time t1 and the straight line L at the past time t0 intersect, this intersection is the point of the preceding vehicle observed at time t0. It can be seen that it is the position where the lower end was. Therefore, the distance calculation unit 12 can calculate the inter-vehicle distance based on the position of the intersection obtained at the time t1 and the position of the optical center of the camera 10 at the time t0.

図5(b)から分かるように、本実施の形態の車間距離測定の原理は、地面を「測量」しつつ進むことで、過去の(時刻t0における)車間距離を測定するというものである。時刻t0に先行車両を撮影したときの自車両の位置を「第1の位置」、時刻t1に求まった直線と地面点の軌跡との交点を「第2の位置」という。 As can be seen from FIG. 5B, the principle of the inter-vehicle distance measurement of the present embodiment is that the inter-vehicle distance in the past (at time t0) is measured by proceeding while "surveying" the ground. The position of the host vehicle when the preceding vehicle is photographed at time t0 is referred to as a "first position", and the intersection of the straight line obtained at time t1 and the locus of the ground point is referred to as a "second position".

なお、車間距離を求める処理は、車両が直線区間を走行している間に行うことが好ましい。直線区間においては、道路の起伏を「測量」する方向と、先行車両の下端を臨む方向が一致するためである。 The process of obtaining the inter-vehicle distance is preferably performed while the vehicle is traveling in a straight section. This is because, in the straight section, the direction of “surveying” the undulations of the road coincides with the direction of the lower end of the preceding vehicle.

誤差スケール算出部13は、誤差モデル記憶部14に記憶された誤差モデルを参照して、距離算出部12にて求めた車間距離の誤差を算出する機能を有する。誤差モデル記憶部14に記憶された誤差モデルは、画像に映る先行車両の下端までの長さ(光学中心を原点とすると下端のy座標値)とカメラ10のピッチ角の変位とに車間距離の誤差スケールを関連付けたルックアップテーブルである。誤差モデル記憶部14に記憶される誤差モデルの生成の仕方については、後述する。 The error scale calculation unit 13 has a function of referring to the error model stored in the error model storage unit 14 and calculating the error of the inter-vehicle distance obtained by the distance calculation unit 12. The error model stored in the error model storage unit 14 includes the distance to the lower end of the preceding vehicle shown in the image (the y coordinate value of the lower end when the optical center is the origin) and the displacement of the pitch angle of the camera 10. It is a look-up table which linked|related the error scale. How to generate the error model stored in the error model storage unit 14 will be described later.

誤差スケール算出部13は、(i)第1の位置にて撮影した画像内に映る先行車両の下端座標、(ii)第1の位置と第2の位置との間でのカメラ10のピッチ角の変位、に対応する誤差のスケールをルックアップテーブルから読み出し、誤差のスケールを求める。 The error scale calculator 13 (i) the lower end coordinates of the preceding vehicle appearing in the image captured at the first position, and (ii) the pitch angle of the camera 10 between the first position and the second position. The error scale corresponding to the displacement of is read from the look-up table to obtain the error scale.

出力部15は、距離算出部12にて求めた先行車両との車間距離と、誤差スケール算出部13にて求めた誤差スケールのデータを出力する機能を有する。出力部15は、例えば、ユーザに対して車間距離のデータを表示するモニタであってもよいし、他の車載機器に対して車間距離のデータを出力する通信インターフェースであってもよい。 The output unit 15 has a function of outputting the inter-vehicle distance to the preceding vehicle obtained by the distance calculation unit 12 and the error scale data obtained by the error scale calculation unit 13. The output unit 15 may be, for example, a monitor that displays the inter-vehicle distance data to the user, or a communication interface that outputs the inter-vehicle distance data to other in-vehicle devices.

以上、実施の形態の車間距離測定装置1について説明したが、車間距離測定装置1は、図示しないCPU、ROM、RAM等からなるマイクロコンピュータによって構成される。車間距離測定装置1は、例えば、ROMに記憶されているプログラムに従って、カメラ10にて撮影された画像に基づき、先行車両との車間距離を算出する。このようなプログラムも本発明の範囲に含まれる。 Although the inter-vehicle distance measuring apparatus 1 according to the embodiment has been described above, the inter-vehicle distance measuring apparatus 1 is composed of a microcomputer including a CPU, a ROM, a RAM, and the like (not shown). The inter-vehicle distance measuring device 1 calculates the inter-vehicle distance to the preceding vehicle based on the image captured by the camera 10 according to the program stored in the ROM, for example. Such a program is also included in the scope of the present invention.

[車間距離測定装置の動作]
図6は、本実施の形態の車間距離測定装置の動作を示すフローチャートである。
車間距離測定装置1は、カメラ10にて進行方向の画像を撮影し、その画像を距離算出部12に入力する(S10)。同時に、車間距離測定部は、GPS/IMU11にて自車両の位置情報を取得し、距離算出部12に入力する(S11)。
[Operation of inter-vehicle distance measuring device]
FIG. 6 is a flowchart showing the operation of the inter-vehicle distance measuring device according to the present embodiment.
The inter-vehicle distance measuring device 1 captures an image in the traveling direction with the camera 10, and inputs the image to the distance calculation unit 12 (S10). At the same time, the inter-vehicle distance measuring unit acquires the position information of the own vehicle by GPS/IMU 11 and inputs it to the distance calculating unit 12 (S11).

車間距離測定装置1は、入力された画像から先行車両を識別する。例えば、画像からHOG特徴を抽出し、得られた特徴量に対してサポートベクトルマシンなどのパターン識別器を適応する。HOG特徴は、N. Dalal and B. Triggs「Histograms of oriented gradients for human detection」CVPR 2005.に詳しく紹介されている。 The inter-vehicle distance measuring device 1 identifies the preceding vehicle from the input image. For example, a HOG feature is extracted from an image, and a pattern discriminator such as a support vector machine is applied to the obtained feature amount. The HOG features are introduced in detail in N. Dalal and B. Triggs "Histograms of oriented gradients for human detection" CVPR 2005.

次に、図7に示すように、画像から検出された車両の左端のx座標、右端のx座標、下端のy座標を算出する(S12)。画像座標は、横方向をx、縦方向をy、単位をピクセル、原点を光軸の通過点とする。左端の求め方は、例えば、識別器を当てた窓の左の端の近傍のうち、輝度勾配の変化の最も大きな箇所としてよい。または、前のフレームと現在のフレームの間の、先行車両の画像平面上の移動量(オプティカルフロー)を求めることにより、前のフレームの左端の座標を現在のフレームに移動させてもよい。車間距離測定装置1は、世界座標系において第1の位置におけるカメラ10の光学中心から先行車両の下端までの直線Lを算出する(S13)。 Next, as shown in FIG. 7, the x coordinate of the left end, the x coordinate of the right end, and the y coordinate of the lower end of the vehicle detected from the image are calculated (S12). The image coordinates are x in the horizontal direction, y in the vertical direction, the unit is pixel, and the origin is the passing point of the optical axis. The method for obtaining the left edge may be, for example, a location in the vicinity of the left edge of the window to which the discriminator is applied, where the change in the brightness gradient is the largest. Alternatively, the coordinates of the left end of the previous frame may be moved to the current frame by obtaining the amount of movement (optical flow) on the image plane of the preceding vehicle between the previous frame and the current frame. The inter-vehicle distance measuring device 1 calculates a straight line L from the optical center of the camera 10 at the first position in the world coordinate system to the lower end of the preceding vehicle (S13).

車両の左端および右端を検出することにより先行車両の実車幅が分かるので、車幅を確定した後は、画像に映る先行車両の車幅と実車幅とに基づいて車間距離を直ちに求めることができるようになる。なお、このような処理を行わない場合には、車両の左右端を検出しなくてもよい。 Since the actual vehicle width of the preceding vehicle can be known by detecting the left edge and the right edge of the vehicle, after the vehicle width is determined, the inter-vehicle distance can be immediately obtained based on the vehicle width and the actual vehicle width of the preceding vehicle shown in the image. Like If such processing is not performed, the left and right ends of the vehicle may not be detected.

車間距離測定装置1は、車両の進行とともにGPS/IMU11にて逐次検出される位置情報に基づいて道路の起伏のデータを求め(S14)、求めたデータを用いて直線Lと道路とが交差したか否かを判定する(S15)。道路が直線Lと交差していない場合には(S15でNO)、車間距離測定装置1は、GPS/IMU11にて検出した位置情報を用いて道路の起伏のデータを求める処理を行う。 The inter-vehicle distance measuring device 1 obtains road undulation data based on the position information sequentially detected by the GPS/IMU 11 as the vehicle advances (S14), and the straight line L and the road intersect using the obtained data. It is determined whether or not (S15). When the road does not intersect the straight line L (NO in S15), the inter-vehicle distance measuring device 1 performs a process of obtaining road undulation data using the position information detected by the GPS/IMU 11.

直線Lと道路とが交差した場合には、交差した位置と最初に先行車両を識別したとき(自車両が第1の位置にあるとき)のカメラ10の位置に基づいて、先行車両との車間距離を求める(S16)。本実施の形態では、最初に先行車両を検知した位置(第1の位置)を世界座標の原点としているので、直線Lと道路とが交差した位置のZ座標値を車間距離とする(図5(b)参照)。 When the straight line L and the road intersect, the distance between the preceding vehicle and the preceding vehicle is determined based on the intersecting position and the position of the camera 10 when the preceding vehicle is first identified (when the host vehicle is at the first position). The distance is calculated (S16). In the present embodiment, the position where the preceding vehicle is first detected (first position) is the origin of the world coordinates, so the Z coordinate value of the position where the straight line L and the road intersect is the inter-vehicle distance (FIG. 5). (See (b)).

また、車間距離測定装置1は、第1の位置にて検出した先行車両の下端位置Lyと、第1の位置と第2の位置との間でのカメラ10のピッチ角Opitchの変位に対応する誤差スケールを誤差モデル記憶部14に記憶されたルックアップテーブルから読み出し、誤差スケールを算出する(S17)。車間距離測定装置1は、算出した車間距離と誤差スケールとを出力する(S18)。 Further, the inter-vehicle distance measuring device 1 corresponds to the lower end position Ly of the preceding vehicle detected at the first position and the displacement of the pitch angle Opitch of the camera 10 between the first position and the second position. The error scale is read from the look-up table stored in the error model storage unit 14 and the error scale is calculated (S17). The inter-vehicle distance measuring device 1 outputs the calculated inter-vehicle distance and the error scale (S18).

[誤差モデル生成装置]
図8は、車間距離測定装置1で用いる誤差モデルを生成する誤差モデル生成装置20の構成を示す図である。まず、誤差モデル生成装置20の概要について説明する。図9は、車間距離Dを求める際に用いる主なセンサ値を示す図である。自車両の位置(X,Y,Z)と、カメラ10のピッチ角φと、画像に映る先行車両の下端の位置座標yがある。なお、fは焦点距離、Hはカメラ10の高さである。
[Error model generator]
FIG. 8 is a diagram showing a configuration of an error model generation device 20 that generates an error model used in the inter-vehicle distance measuring device 1. First, the outline of the error model generation device 20 will be described. FIG. 9 is a diagram showing main sensor values used when obtaining the inter-vehicle distance D. There are the position (X, Y, Z) of the host vehicle, the pitch angle φ of the camera 10, and the position coordinate y of the lower end of the preceding vehicle shown in the image. Note that f is the focal length, and H is the height of the camera 10.

上記した車間距離の測定に対する誤差要因としては、自車両位置(X,Y,Z)の誤差(Mx,My,Mz)、自車両のロール角、ピッチ角、ヨー角の誤差(Oroll,Opitch,Oyaw)、先行車両の下端検出位置(x,y)の誤差(Lx,Ly)の8要素の誤差が考えられる。誤差モデル生成装置20は、モンテカルロシミュレーションによって、それぞれの誤差、路面の曲率、自車速度等を擬似的に与えて誤差推定を繰り返し、得られた誤差の推定結果に基づいて、誤差解析を行う。 The error factors for the above-described measurement of the inter-vehicle distance include the error (Mx, My, Mz) in the vehicle position (X, Y, Z), the roll angle, the pitch angle, and the yaw angle error (Oroll, Opitch, Oyaw) and the error (Lx, Ly) in the lower end detection position (x, y) of the preceding vehicle can be considered as an eight-element error. The error model generation device 20 repeats the error estimation by pseudo giving each error, the curvature of the road surface, the vehicle speed, etc. by Monte Carlo simulation, and performs the error analysis based on the obtained error estimation result.

本発明者らは、これらの8要素のうち、車間距離に対する誤差の支配項は、自車両のピッチ角Opitchと下端検出位置Lyの誤差であることを見出した。そこで、誤差解析を行う際には、ピッチ角Opitchと先行車両の下端検出位置Lyを変数として誤差解析を行う。これにより、誤差のスケールをピッチ角Opitchと先行車両の下端検出位置Lyによってモデル化する。以下、誤差モデル生成装置20の構成について具体的に説明する。 The present inventors have found that, among these eight elements, the governing term of the error with respect to the inter-vehicle distance is the error between the pitch angle Opitch of the host vehicle and the lower end detection position Ly. Therefore, when performing the error analysis, the error analysis is performed using the pitch angle Opitch and the lower end detection position Ly of the preceding vehicle as variables. Thereby, the scale of the error is modeled by the pitch angle Opitch and the lower end detection position Ly of the preceding vehicle. The configuration of the error model generation device 20 will be specifically described below.

図8に示すように、誤差モデル生成装置20は、道路構造の情報を入力する道路構造情報入力部21と、入力された道路構造上に自車両と先行車両をランダムに配置してその車間距離と誤差のシミュレーションを行うシミュレーション部22と、シミュレーションによって求めた車間距離と誤差のデータを用いて誤差解析を行う誤差解析部28と、誤差解析部28による解析結果に基づいて生成した誤差モデルを記憶する記憶部29とを有している。 As shown in FIG. 8, the error model generation device 20 includes a road structure information input unit 21 for inputting road structure information, a vehicle and a preceding vehicle at random on the input road structure, and an inter-vehicle distance between them. And a simulation unit 22 for simulating the error, an error analysis unit 28 for performing an error analysis using the inter-vehicle distance and the error data obtained by the simulation, and an error model generated based on the analysis result by the error analysis unit 28 are stored. It has a storage unit 29 for performing.

シミュレーション部22は、車両配置部23と、真値計算部24と、誤差設定部25と、距離算出部26と、誤差スケール算出部27とを有している。車両配置部23は、道路構造上に自車両と先行車両をランダムに配置する機能を有する。真値計算部24は、ランダムに配置された自車両と先行車両の車間距離の真値を計算する機能を有する。距離算出部26は、車間距離測定装置1の距離算出部12と同様に自車両を先行車両の位置にまで移動させるシミュレーションを行い、自車両と先行車両との車間距離を計算する機能を有する。 The simulation unit 22 includes a vehicle placement unit 23, a true value calculation unit 24, an error setting unit 25, a distance calculation unit 26, and an error scale calculation unit 27. The vehicle arranging unit 23 has a function of randomly arranging the own vehicle and the preceding vehicle on the road structure. The true value calculation unit 24 has a function of calculating the true value of the inter-vehicle distance between the own vehicle and the preceding vehicle that are randomly arranged. The distance calculation unit 26 has a function of performing a simulation of moving the host vehicle to the position of the preceding vehicle, similarly to the distance calculation unit 12 of the inter-vehicle distance measuring device 1, and calculating the inter-vehicle distance between the own vehicle and the preceding vehicle.

距離算出部26は、車間距離の計算において自車両が先行車両の位置まで移動する間の自車両位置(X,Y,Z)、自車両の姿勢(Oroll,Opitch,Oyaw)、先行車両の下端検出位置(Lx,Ly)の真値に対してランダムな誤差を設定し、誤差が付加された値を用いて車間距離を算出する。誤差設定部25は、ランダムな誤差を発生し、距離算出部12に入力する機能を有する。車間距離を自車両の速度と車間時間とに基づいて決定する場合には、誤差設定部25は、各センサ値の誤差だけでなく、自車両の速度、車間時間もランダムに設定してもよい。 In the calculation of the inter-vehicle distance, the distance calculation unit 26 determines the position of the host vehicle (X, Y, Z) while the host vehicle moves to the position of the preceding vehicle, the attitude (Oroll, Opitch, Oyaw) of the host vehicle, and the lower end of the preceding vehicle. A random error is set for the true value of the detection position (Lx, Ly), and the inter-vehicle distance is calculated using the value with the error added. The error setting unit 25 has a function of generating a random error and inputting it to the distance calculation unit 12. When the inter-vehicle distance is determined based on the speed of the host vehicle and the inter-vehicle time, the error setting unit 25 may randomly set not only the error of each sensor value but also the speed of the host vehicle and the inter-vehicle time. ..

誤差スケール算出部27は、距離算出部26にて算出された車間距離と真値との差によって誤差を算出する機能を有する。シミュレーション部22は、付加する誤差を変えて、距離算出部26により車間距離の算出を繰り返し行って、多数のシミュレーション結果を得る。また、車両配置部23にて車両の位置をランダムに変えて多数のシミュレーション結果を得る。 The error scale calculation unit 27 has a function of calculating an error based on the difference between the inter-vehicle distance calculated by the distance calculation unit 26 and the true value. The simulation unit 22 changes the added error and repeatedly calculates the inter-vehicle distance by the distance calculation unit 26 to obtain a large number of simulation results. In addition, the vehicle placement unit 23 randomly changes the position of the vehicle to obtain a large number of simulation results.

誤差解析部28は、車間距離とそれに対する誤差のシミュレーション結果に基づいて、誤差モデルを生成する機能を有する。誤差解析部28は、得られたシミュレーション結果に対し、自車両のピッチ角Opitchの変位と下端の検出位置Lyを入力変数として、次式に示すように、誤差の分散の回帰問題から誤差の分散をモデル化する。

Figure 2020118575
The error analysis unit 28 has a function of generating an error model based on the inter-vehicle distance and the simulation result of the error for the inter-vehicle distance. The error analysis unit 28 uses the displacement of the pitch angle Opitch of the vehicle and the detection position Ly of the lower end as input variables for the obtained simulation result, as shown in the following equation, from the error dispersion regression problem to the error dispersion. To model.
Figure 2020118575

図10は、誤差モデル生成装置20の動作を示すフローチャートである。誤差モデル生成装置20は、まず、シミュレーションを行う道路構造の情報の入力を受け付ける(S20)。道路構造の情報としては、道路構造令の規定に準拠した構造の情報を入力する。誤差モデル生成装置20は、自車両及び先行車両の位置をランダムに決定し(S21)、その車間距離の真値を計算する(S22)。 FIG. 10 is a flowchart showing the operation of the error model generation device 20. The error model generation device 20 first receives an input of information on a road structure to be simulated (S20). As the road structure information, information on the structure conforming to the regulations of the Road Structure Ordinance is input. The error model generation device 20 randomly determines the positions of the own vehicle and the preceding vehicle (S21), and calculates the true value of the inter-vehicle distance (S22).

次に、誤差モデル生成装置20は、自車両の位置から先行車両の位置まで移動させるシミュレーションを行って車間距離を算出する。具体的には、自車両の位置から先行車両の位置まで移動する間における各センサ値の真値に対して、ランダムに発生した誤差を付加して車間距離を算出し、算出した車間距離の真値からの誤差を算出する(S23)。 Next, the error model generation device 20 calculates the inter-vehicle distance by performing a simulation of moving from the position of the own vehicle to the position of the preceding vehicle. Specifically, a random error is added to the true value of each sensor value while moving from the position of the own vehicle to the position of the preceding vehicle, the inter-vehicle distance is calculated, and the calculated inter-vehicle distance is calculated. An error from the value is calculated (S23).

誤差モデル生成装置20は、車両配置部23にてランダムに設定した配置でのシミュレーションを終了するか否かを判定する(S24)。設定された配置でのシミュレーションを終了しない場合には(S24でNO)、誤差モデル生成装置20は、ランダムな誤差を設定して車間距離及び誤差の計算を繰り返し行う。設定された配置でのシミュレーションを終了する場合には(S24でYES)、自車両及び先行車両を別の位置に設定して計算を行うか否かを判定する(S25)。 The error model generation device 20 determines whether or not to end the simulation with the placement randomly set by the vehicle placement unit 23 (S24). When the simulation with the set arrangement is not ended (NO in S24), the error model generation device 20 sets a random error and repeatedly calculates the inter-vehicle distance and the error. When the simulation with the set arrangement is ended (YES in S24), it is determined whether or not the own vehicle and the preceding vehicle are set to different positions and calculation is performed (S25).

別の配置でのシミュレーションを行う場合には(S25でYES)、誤差モデル生成装置20は、自車両及び先行車両の位置をランダムに決定し(S21)、上記したシミュレーションを行って車間距離及び誤差のデータを求める(S22〜S24)。別の配置でのシミュレーションを行わない場合には、別の道路構造でシミュレーションを行うか否かを判定する(S26)。別の道路構造でシミュレーションを行う場合には(S26でYES)、道路の構造情報の入力(S20)に戻って、新たな道路構造情報の入力を受け付け、上記したシミュレーションを行う(S21〜S25)。別の道路構造でのシミュレーションを行わない場合には(S26でNO)、シミュレーションによって求めた車間距離及び誤差を解析して誤差モデルを生成し、生成した誤差モデルを記憶する(S27)。 When performing a simulation with another arrangement (YES in S25), the error model generation device 20 randomly determines the positions of the own vehicle and the preceding vehicle (S21), and performs the above-described simulation to perform the inter-vehicle distance and the error. Is obtained (S22 to S24). If the simulation is not performed in another arrangement, it is determined whether or not the simulation is performed in another road structure (S26). When a simulation is performed with another road structure (YES in S26), the process returns to the input of road structure information (S20), the input of new road structure information is accepted, and the above-described simulation is performed (S21 to S25). .. When the simulation with another road structure is not performed (NO in S26), the inter-vehicle distance and the error obtained by the simulation are analyzed to generate an error model, and the generated error model is stored (S27).

ここで、一例として、誤差モデルの多項式回帰の例を示す。

Figure 2020118575
Here, as an example, an example of polynomial regression of an error model will be shown.
Figure 2020118575

上述したように車間距離測定装置1では、誤差モデル記憶部14は、画像に映る先行車両の下端位置とカメラ10のピッチ角の変位とに車間距離の誤差のスケールを関連付けたルックアップテーブルの形式の誤差モデルを記憶している。それに合わせて、誤差モデル生成装置20は、誤差モデルをルックアップテーブルに加工してもよい。以上、第1の実施の形態の車間距離測定装置1および車間距離測定装置1で用いられる誤差モデルを生成する誤差モデル生成装置20とそれらの動作について説明した。 As described above, in the inter-vehicle distance measuring device 1, the error model storage unit 14 is a lookup table format in which the scale of the inter-vehicle distance error is associated with the lower end position of the preceding vehicle and the pitch angle displacement of the camera 10 shown in the image. It stores the error model of. In accordance therewith, the error model generation device 20 may process the error model into a look-up table. The inter-vehicle distance measuring apparatus 1 of the first embodiment, the error model generating apparatus 20 that generates an error model used in the inter-vehicle distance measuring apparatus 1, and their operations have been described above.

第1の実施の形態の車間距離測定装置1は、先行車両との車間距離だけでなく、その誤差のスケールを求めることができる。誤差のスケールは、車間距離の信頼度を示すものであり、距離推定を行う上での補助的な情報を得ることが可能となる。例えば、測定された車間距離をカルマンフィルタに適用する際に、誤差のスケールを入力することにより、信頼度の低い測定結果はカルマンフィルタの更新に用いないという処理をすることができる。 The inter-vehicle distance measuring device 1 according to the first embodiment can obtain not only the inter-vehicle distance to the preceding vehicle but also the scale of the error. The error scale indicates the reliability of the inter-vehicle distance, and it is possible to obtain auxiliary information for distance estimation. For example, when applying the measured inter-vehicle distance to the Kalman filter, by inputting the error scale, it is possible to perform processing such that the measurement result with low reliability is not used for updating the Kalman filter.

誤差モデル生成装置20では、シミュレーションによる擬似的な距離推定を繰り返して車間距離の測定結果のサンプルを収集することで、各サンプルと解析的に特定された誤差の支配項を使った多項式回帰による誤差のモデリングが可能である。 The error model generation device 20 collects the samples of the measurement results of the inter-vehicle distance by repeating the pseudo distance estimation by simulation, and thereby the error by the polynomial regression using the dominant term of each sample and the error analytically specified. Can be modeled.

(第2の実施の形態)
図11は、第2の実施の形態の車間距離測定装置2の構成を示す図である。第2の実施の形態の基本的な構成は、第1の実施の形態の車間距離測定装置1と同じであり、車間距離とその誤差スケールを求める。第2の実施の形態の車間距離測定装置2による車間距離の測定の仕方は第1の実施の形態の車間距離測定装置1と同じである。第2の実施の形態の車間距離測定装置2では、誤差スケール算出部16が誤差スケール算出式を用いて誤差のスケールを算出する点が異なる。
(Second embodiment)
FIG. 11 is a diagram showing a configuration of an inter-vehicle distance measuring device 2 according to the second embodiment. The basic configuration of the second embodiment is the same as that of the inter-vehicle distance measuring apparatus 1 of the first embodiment, and the inter-vehicle distance and its error scale are obtained. The method of measuring the inter-vehicle distance by the inter-vehicle distance measuring apparatus 2 of the second embodiment is the same as that of the inter-vehicle distance measuring apparatus 1 of the first embodiment. The inter-vehicle distance measuring apparatus 2 according to the second embodiment is different in that the error scale calculation unit 16 calculates an error scale using an error scale calculation formula.

最初に、第2の実施の形態における誤差スケール算出の考え方を説明する。自車両と先行車両との間の路面が曲率を有する場合であっても、自車両および先行車両が載っている路面は局所的にみれば平面である。本発明者らは、車間距離の誤差は、自車両が載っている路面から見た先行車両が載っている路面の傾きに依存することに着目した。 First, the concept of error scale calculation in the second embodiment will be described. Even when the road surface between the host vehicle and the preceding vehicle has a curvature, the road surface on which the host vehicle and the preceding vehicle are mounted is a plane when viewed locally. The inventors of the present invention have noticed that the error in the inter-vehicle distance depends on the inclination of the road surface on which the preceding vehicle is mounted as viewed from the road surface on which the host vehicle is mounted.

図12は、第2の実施の形態において先行車両の下端を求める原理を示す図である。自車両が載っている平面に対する先行車両が載っている平面の傾きは「a」である。先行車両の下端は、(i)自車両のカメラの光学中心と下端とを結ぶ直線と、(ii)先行車両が載っている路面との交点である。(i)自車両のカメラの光学中心と下端とを結ぶ直線は、カメラの焦点距離をfとすると次式(1)で表され、(ii)路面は次式(2)で表される。

Figure 2020118575
これをZについて解くと、
Figure 2020118575
となる。先行車両の下端の観測誤差を
Figure 2020118575
とすれば、1次のテイラー展開により、車間距離の誤差のスケールは、次式(4)で表される。
Figure 2020118575
FIG. 12 is a diagram showing the principle of obtaining the lower end of the preceding vehicle in the second embodiment. The inclination of the plane on which the preceding vehicle is mounted with respect to the plane on which the host vehicle is mounted is “a”. The lower end of the preceding vehicle is the intersection of (i) the straight line connecting the optical center of the camera of the own vehicle and the lower end, and (ii) the road surface on which the preceding vehicle is mounted. (I) A straight line connecting the optical center and the lower end of the camera of the vehicle is represented by the following equation (1), where f is the focal length of the camera, and (ii) the road surface is represented by the following equation (2).
Figure 2020118575
Solving this for Z,
Figure 2020118575
Becomes The observation error at the bottom of the preceding vehicle
Figure 2020118575
Then, the scale of the error of the inter-vehicle distance is expressed by the following equation (4) by the first-order Taylor expansion.
Figure 2020118575

第2の実施の形態の車間距離測定装置2は、式(4)で示される誤差スケールの算式を記憶部17に記憶している。誤差スケール算出部16は、記憶部17から誤差スケールの算式を読み出し、誤差スケールを計算する。 In the inter-vehicle distance measuring device 2 of the second embodiment, the storage unit 17 stores the formula of the error scale represented by the formula (4). The error scale calculation unit 16 reads the error scale formula from the storage unit 17 and calculates the error scale.

第2の実施の形態の車間距離測定装置2において、カメラ画像及びGPS/IMU11からの位置情報に基づいて先行車両との車間距離を算出する距離算出部12の構成、および、車間距離と誤差スケールを出力する出力部15の構成は、第1の実施の形態の車間距離測定装置1と同じである。 In the inter-vehicle distance measuring device 2 according to the second embodiment, the configuration of the distance calculation unit 12 that calculates the inter-vehicle distance to the preceding vehicle based on the camera image and the position information from the GPS/IMU 11, and the inter-vehicle distance and the error scale. The configuration of the output unit 15 that outputs is the same as that of the inter-vehicle distance measuring device 1 of the first embodiment.

第2の実施の形態の車間距離測定装置2は、第1の実施の形態の車間距離測定装置1と同様に、先行車両との車間距離だけでなく、その誤差のスケールを求めることができる。また、シミュレーションを行って誤差モデルを生成することなく誤差スケールを計算できるので、車間距離測定装置2を容易に構成することができる。 The inter-vehicle distance measuring apparatus 2 of the second embodiment can obtain not only the inter-vehicle distance to the preceding vehicle but also the scale of the error thereof, as in the inter-vehicle distance measuring apparatus 1 of the first embodiment. Further, since the error scale can be calculated without performing the simulation to generate the error model, the inter-vehicle distance measuring device 2 can be easily configured.

なお、本実施の形態では、ピンホールカメラモデルを採用した例を挙げて説明したが、ピンホールカメラ以外のカメラにおいても上記と同様に誤差のスケールを求めることが可能である。 In the present embodiment, an example in which the pinhole camera model is adopted has been described, but it is possible to obtain the error scale in a camera other than the pinhole camera in the same manner as above.

(第3の実施の形態)
第3の実施の形態では、カメラで撮影した画像から車間距離を推定する装置で用いられる学習モデルを生成する学習モデル生成装置3について説明する。学習モデルを生成するためには、教師データとして、カメラ画像とそのカメラ画像に映る先行車両までの車間距離の正解データのセットが必要であるが、一般的に、大量の教師データを準備することは容易なことではない。第3の実施の形態の学習モデル生成装置3では、道路を走行した際に前方を撮影した映像と当該映像の各フレームに対応する自車両の位置情報とを用いて、学習モデルを生成する。
(Third Embodiment)
In the third embodiment, a learning model generation device 3 that generates a learning model used in a device that estimates an inter-vehicle distance from an image captured by a camera will be described. In order to generate a learning model, it is necessary to prepare a set of correct answer data for the vehicle image and the distance to the preceding vehicle in the camera image as teacher data. Generally, prepare a large amount of teacher data. Is not easy. The learning model generation device 3 according to the third embodiment generates a learning model using a video image of the front taken while traveling on a road and the position information of the own vehicle corresponding to each frame of the video image.

図13は、第3の実施の形態の学習モデル生成装置3の構成を示す図である。学習モデル生成装置3は、入力部30と、距離算出部31と、誤差スケール算出部32と、誤差モデル記憶部33と、モデル生成部34と、学習モデル記憶部35とを有している。入力部30は、道路を走行した際に前方を撮影した映像と当該映像の各フレームに対応する自車両の位置情報の入力を受け付ける。距離算出部31および誤差スケール算出部32は、第1の実施の形態の車両測定装置で説明した距離算出部31および誤差スケール算出部32と同じ構成を有し、動画の各フレームに映る先行車両までの車間距離を求める。これにより、動画の各フレームの画像と、車間距離及びその誤差スケールとをセットにした教師データを生成する。 FIG. 13 is a diagram showing the configuration of the learning model generation device 3 according to the third embodiment. The learning model generation device 3 includes an input unit 30, a distance calculation unit 31, an error scale calculation unit 32, an error model storage unit 33, a model generation unit 34, and a learning model storage unit 35. The input unit 30 receives an input of a video image of the front taken when the vehicle travels on a road and position information of the host vehicle corresponding to each frame of the video image. The distance calculation unit 31 and the error scale calculation unit 32 have the same configurations as the distance calculation unit 31 and the error scale calculation unit 32 described in the vehicle measurement device according to the first embodiment, and the preceding vehicle shown in each frame of the moving image. Find the inter-vehicle distance to. As a result, the teacher data including the image of each frame of the moving image, the inter-vehicle distance and the error scale thereof is generated.

モデル生成部34は、先行車両が映る画像と、車間距離及びその誤差スケールとを教師データとして学習モデルを生成し、生成した学習モデルを学習モデル記憶部35に記憶する。学習パラメータθを持つ推定器を関数fθ(・)で表し、入力変数をxとし、車間距離のターゲット値をZとすれば、回帰問題として以下の定式化が可能である。

Figure 2020118575
The model generation unit 34 generates a learning model using the image of the preceding vehicle, the inter-vehicle distance and its error scale as teacher data, and stores the generated learning model in the learning model storage unit 35. If the estimator having the learning parameter θ is represented by the function f θ (·), the input variable is x, and the target value of the inter-vehicle distance is Z, the following formulation as a regression problem is possible.
Figure 2020118575

距離算出部31で算出した車間距離を正解として扱うが、上述したとおり距離算出部31にて求めた車間距離には誤差が含まれる。モデル生成部34は、誤差のスケールが大きいほど、損失関数に与える影響を小さくして学習を行う。具体的には、本実施の形態では、誤差スケールの大きい車間距離は重要視しないように、次式を用いて学習を行う。

Figure 2020118575
Although the inter-vehicle distance calculated by the distance calculating unit 31 is treated as a correct answer, the inter-vehicle distance calculated by the distance calculating unit 31 includes an error as described above. The model generation unit 34 performs learning by reducing the influence on the loss function as the error scale increases. Specifically, in the present embodiment, learning is performed using the following equation so that the inter-vehicle distance having a large error scale is not considered important.
Figure 2020118575

図14は、第3の実施の形態の学習モデル生成装置3の動作を示すフローチャートである。学習モデル生成装置3は、車両が走行して撮影した動画と各フレームでの位置情報の入力を受け付ける(S30)。学習モデル生成装置3は、各フレームにおいて先行車両を識別し、先行車両までの車間距離および誤差スケールを算出する(S31)。この処理は、第1の実施の形態の車間距離測定装置1における車間距離の測定の動作(図6参照)と同じである。これにより、学習モデル生成装置3は、教師データを生成する。学習モデル生成装置3は、生成された教師データを用いて学習モデルを生成する(S32)。 FIG. 14 is a flowchart showing the operation of the learning model generation device 3 according to the third embodiment. The learning model generation device 3 receives the input of the moving image captured by the vehicle traveling and the position information in each frame (S30). The learning model generation device 3 identifies the preceding vehicle in each frame, and calculates the inter-vehicle distance to the preceding vehicle and the error scale (S31). This processing is the same as the operation of measuring the inter-vehicle distance in the inter-vehicle distance measuring apparatus 1 of the first embodiment (see FIG. 6). As a result, the learning model generation device 3 generates teacher data. The learning model generation device 3 generates a learning model using the generated teacher data (S32).

第3の実施の形態の学習モデル生成装置3は、走行中の映像とそれに対応する位置情報を用いて、画像に対応する車間距離を計算して教師データとして用いるので、教師データの作成にかかるコストを大幅に下げることができる。 The learning model generation device 3 according to the third embodiment calculates the inter-vehicle distance corresponding to the image by using the moving image and the position information corresponding to the moving image, and uses the calculated inter-vehicle distance as the teacher data. The cost can be reduced significantly.

また、車間距離のデータだけでなく、その誤差のスケールを用いて学習を行うので、精度の良い学習モデルを生成することができる。このようにして生成された学習モデルを用いることにより、車間距離を推定する際には、先行車両が映った画像から直ちに車間距離を推定することができる。 Moreover, since learning is performed using not only the data of the inter-vehicle distance but also the scale of the error, a highly accurate learning model can be generated. By using the learning model generated in this way, when estimating the inter-vehicle distance, the inter-vehicle distance can be estimated immediately from the image showing the preceding vehicle.

なお、第3の実施の形態では、車間距離および誤差スケールの算出に、第1の実施の形態の車間距離測定装置1で説明した方法を採用する例を説明したが、第2の実施の形態の車間距離測定装置2で説明した方法を採用することももちろん可能である。 In addition, in the third embodiment, an example in which the method described in the inter-vehicle distance measuring apparatus 1 of the first embodiment is adopted for calculation of the inter-vehicle distance and the error scale has been described, but the second embodiment is described. Of course, it is also possible to adopt the method described in the inter-vehicle distance measuring device 2 of FIG.

以上、本発明の車間距離測定装置、誤差モデル生成装置および学習モデル生成装置について説明したが、本発明は上記した実施の形態に限定されるものではない。 Although the inter-vehicle distance measuring device, the error model generating device, and the learning model generating device of the present invention have been described above, the present invention is not limited to the above-described embodiments.

上記した実施の形態においては、GPS/IMUから車両の位置情報を取得する例について説明したが、車両の位置情報は、特許文献1で説明したように、Visual Odometryによって計測することとしてもよい。 In the above-described embodiment, an example in which the vehicle position information is acquired from the GPS/IMU has been described, but the vehicle position information may be measured by Visual Odometry as described in Patent Document 1.

本発明は、先行車両との車間距離を測定する車間距離測定装置として有用である。 INDUSTRIAL APPLICABILITY The present invention is useful as an inter-vehicle distance measuring device that measures an inter-vehicle distance from a preceding vehicle.

1,2 車間距離測定装置
3 学習モデル生成装置
10 カメラ
11 GPS/IMU
12 距離算出部
13,16 誤差スケール算出部
14,17 誤差モデル記憶部
15 出力部
20 誤差モデル生成装置
21 道路構造情報入力部
22 シミュレーション部
23 車両配置部
24 真値計算部
25 誤差設定部
26 距離算出部
27 誤差スケール算出部
28 誤差解析部
29 誤差モデル記憶部
30 入力部
31 距離算出部
32 誤差スケール算出部
33 誤差モデル記憶部
34 モデル生成部
35 学習モデル記憶部
1 and 2 distance measurement device 3 learning model generation device 10 camera 11 GPS/IMU
12 distance calculation unit 13, 16 error scale calculation unit 14, 17 error model storage unit 15 output unit 20 error model generation device 21 road structure information input unit 22 simulation unit 23 vehicle placement unit 24 true value calculation unit 25 error setting unit 26 distance Calculation unit 27 Error scale calculation unit 28 Error analysis unit 29 Error model storage unit 30 Input unit 31 Distance calculation unit 32 Error scale calculation unit 33 Error model storage unit 34 Model generation unit 35 Learning model storage unit

Claims (13)

車両に搭載されたカメラと、
前記車両の位置情報を検出する位置情報検出部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、
前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、
前記車間距離および誤差のスケールを出力する出力部と、
を備える車間距離測定装置。
A camera mounted on the vehicle,
A position information detection unit that detects the position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that calculates the following distance between
The error in which the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position are variables. An error model storage unit that stores a scale model,
Referring to the model of the error scale stored in the error model storage unit, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, An error scale calculator that calculates the scale of the distance error,
An output unit that outputs the inter-vehicle distance and the scale of the error,
An inter-vehicle distance measuring device equipped with.
前記誤差モデル記憶部には、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに、前記車間距離の誤差のスケールを関連付けたルックアップテーブルの形式で、前記誤差のスケールのモデルが記憶されている請求項1に記載の車間距離測定装置。 The error model storage unit stores a look-up table in which the scale in the inter-vehicle distance error is associated with the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera. The inter-vehicle distance measuring device according to claim 1, wherein the model of the error scale is stored in a format. 車両に搭載されたカメラと、
前記車両の位置情報を検出する位置情報検出部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、
前記車間距離および誤差のスケールを出力する出力部と、
を備える車間距離測定装置。
A camera mounted on the vehicle,
A position information detection unit that detects the position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that calculates the following distance between
Error scale calculation for calculating a scale of error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle Department,
An output unit that outputs the inter-vehicle distance and the scale of the error,
An inter-vehicle distance measuring device equipped with.
車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルの生成装置であって、
道路の構造情報を入力する道路構造情報入力部と、
前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するシミュレーション部と、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと前記カメラのピッチ角の変位とを変数として、前記車間距離の誤差のスケールを解析する誤差解析部と、
を備える誤差モデル生成装置。
When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. In an inter-vehicle distance measuring device that obtains an inter-vehicle distance, a device for generating an error model for estimating an error in the inter-vehicle distance,
A road structure information input section for inputting road structure information;
The first position and the position of the preceding vehicle are randomly determined, the true value of the inter-vehicle distance to the preceding vehicle is calculated using the road structure information, and the rotation angle of the camera determined by the road structure, the vehicle The error generated at random is sequentially added to the true value of the position, and the inter-vehicle distance is calculated by obtaining the second position, and the error with respect to the true value of the calculated inter-vehicle distance is calculated. The simulation part,
An error analysis unit that analyzes the scale of the error in the inter-vehicle distance, with the variable length and displacement of the pitch angle of the camera in the image from the optical center of the camera to the lower end of the preceding vehicle,
An error model generation device comprising:
カメラにて撮影した画像から車間距離を推定する学習モデルを生成する生成装置であって、
先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系における前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、
前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、
複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部と、
を備える学習モデル生成装置。
A generation device for generating a learning model for estimating an inter-vehicle distance from an image captured by a camera,
An input unit for inputting an image of the preceding vehicle and vehicle position information corresponding to each frame of the image,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle when the vehicle is at the first position, a straight line connecting the optical center of the camera and the lower end in the world coordinate system is obtained, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that calculates the following distance between
The error in which the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position are variables. An error model storage unit that stores a scale model,
Referring to the model of the error scale stored in the error model storage unit, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, An error scale calculator that calculates the scale of the distance error,
A model generation unit that generates a learning model for obtaining the inter-vehicle distance from the image, using the inter-vehicle distance and the scale of the error obtained for the plurality of images as teacher data,
A learning model generation device including.
カメラにて撮影した画像から車間距離を推定する学習モデルを生成する生成装置であって、
先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系における前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、
複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部と、
を備える学習モデル生成装置。
A generation device for generating a learning model for estimating an inter-vehicle distance from an image captured by a camera,
An input unit for inputting an image of the preceding vehicle and vehicle position information corresponding to each frame of the image,
When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end in the world coordinate system is obtained, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that obtains an inter-vehicle distance,
Error scale calculation for calculating a scale of error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle Department,
A model generation unit that generates a learning model for obtaining the inter-vehicle distance from the image, using the inter-vehicle distance and the scale of the error obtained for the plurality of images as teacher data,
A learning model generation device including.
前記モデル生成部は、前記誤差のスケールが大きいほど、損失関数に与える影響を小さくして学習を行う請求項5または6に記載の学習モデル生成装置。 The learning model generation device according to claim 5 or 6, wherein the model generation unit performs learning by reducing the influence on the loss function as the scale of the error increases. 車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定する方法であって、
車間距離測定装置に前記カメラにて撮影された画像を入力するステップと、
前記車間距離測定装置に前記車両の位置情報を検出するステップと、
前記車間距離測定装置が、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記車間距離測定装置が、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、
前記車間距離測定装置が、前記車間距離および誤差のスケールを出力するステップと、
を備える車間距離測定方法。
A method for measuring an inter-vehicle distance with a preceding vehicle based on an image taken by a camera mounted on the vehicle and position information of the vehicle,
A step of inputting an image taken by the camera to the inter-vehicle distance measuring device,
Detecting the position information of the vehicle in the inter-vehicle distance measuring device,
The inter-vehicle distance measuring device identifies the lower end of the preceding vehicle in the image of the preceding vehicle when the vehicle is at the first position, and defines a straight line connecting the optical center of the camera and the lower end in the world coordinate system. In addition to the above, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the second position where the straight line intersects the road is obtained, so that the vehicle is located at the first position. The step of obtaining the inter-vehicle distance with the preceding vehicle when there is,
The inter-vehicle distance measuring device has a length in the image from the optical center of the camera to the lower end of the preceding vehicle, and a displacement of the pitch angle of the camera between the first position and the second position. With reference to an error model storage unit that stores a model of error scale with and as variables, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera. A step of calculating a scale of the error of the inter-vehicle distance,
The inter-vehicle distance measuring device outputs the inter-vehicle distance and an error scale,
An inter-vehicle distance measuring method including.
車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定する方法であって、
車間距離測定装置に前記カメラにて撮影された画像を入力するステップと、
前記車間距離測定装置に前記車両の位置情報を検出するステップと、
前記車間距離測定装置が、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記車間距離測定装置が、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出するステップと、
前記車間距離測定装置が、前記車間距離および誤差のスケールを出力するステップと、
を備える車間距離測定方法。
A method for measuring an inter-vehicle distance with a preceding vehicle based on an image taken by a camera mounted on the vehicle and position information of the vehicle,
A step of inputting an image taken by the camera to the inter-vehicle distance measuring device,
Detecting the position information of the vehicle in the inter-vehicle distance measuring device,
The inter-vehicle distance measuring device identifies the lower end of the preceding vehicle in the image of the preceding vehicle when the vehicle is at the first position, and defines a straight line connecting the optical center of the camera and the lower end in the world coordinate system. In addition to the above, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the second position where the straight line intersects the road is obtained, so that the vehicle is located at the first position. The step of obtaining the inter-vehicle distance with the preceding vehicle when there is,
The inter-vehicle distance measuring device detects an error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle. A step of calculating a scale,
The inter-vehicle distance measuring device outputs the inter-vehicle distance and an error scale,
An inter-vehicle distance measuring method including.
車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルの生成方法であって、
誤差モデル生成装置に道路の構造情報を入力するステップと、
前記誤差モデル生成装置が、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、
前記誤差モデル生成装置が、前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップと、
を備える誤差モデル生成方法。
When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. A method for generating an error model for estimating an error of the inter-vehicle distance in an inter-vehicle distance measuring device for obtaining an inter-vehicle distance,
Inputting road structure information to the error model generator,
The error model generation device randomly determines the first position and the position of the preceding vehicle, calculates the true value of the inter-vehicle distance to the preceding vehicle using the road structure information, and An error generated at random is sequentially added to the determined rotation angle of the camera and the true value of the vehicle position, and the inter-vehicle distance is calculated by obtaining the second position. Calculating the error with respect to the true value,
The error model generation device, the displacement of the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle in the image as a variable, analyzing the scale of the error of the inter-vehicle distance, ,
An error model generation method comprising:
車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定するためのプログラムであって、コンピュータに、
前記カメラにて撮影された画像を入力するステップと、
前記車両の位置情報を入力するステップと、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、
前記車間距離および誤差のスケールを出力するステップと、
を実行させるプログラム。
A program for measuring an inter-vehicle distance to a preceding vehicle on the basis of an image taken by a camera mounted on the vehicle and position information of the vehicle, the computer including:
Inputting an image taken by the camera,
Inputting position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. The step of obtaining the inter-vehicle distance of
The error in which the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position are variables. Referring to an error model storage unit that stores a model of the scale, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, the error of the inter-vehicle distance A step of calculating a scale,
Outputting the inter-vehicle distance and error scale,
A program to execute.
車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定するためのプログラムであって、コンピュータに、
前記カメラにて撮影された画像を入力するステップと、
前記車両の位置情報を入力するステップと、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出するステップと、
前記車間距離および誤差のスケールを出力するステップと、
を実行させるプログラム。
A program for measuring an inter-vehicle distance to a preceding vehicle on the basis of an image taken by a camera mounted on the vehicle and position information of the vehicle, the computer including:
Inputting an image taken by the camera,
Inputting position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. The step of obtaining the inter-vehicle distance of
Calculating a scale of the error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle,
Outputting the inter-vehicle distance and error scale,
A program to execute.
車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルを生成するためのプログラムであって、コンピュータに、
道路の構造情報を入力するステップと、
前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、
前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップと、
を実行させるプログラム。
When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. In a vehicle-to-vehicle distance measuring apparatus that obtains a vehicle-to-vehicle distance, a program for generating an error model for estimating an error of the vehicle-to-vehicle distance,
The step of inputting road structure information,
The first position and the position of the preceding vehicle are randomly determined, the true value of the inter-vehicle distance to the preceding vehicle is calculated using the road structure information, and the rotation angle of the camera determined by the road structure, the vehicle The error generated at random is sequentially added to the true value of the position, and the inter-vehicle distance is calculated by obtaining the second position, and the error with respect to the true value of the calculated inter-vehicle distance is calculated. Steps,
Displacement of the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle as a variable, analyzing the scale of the error of the inter-vehicle distance,
A program to execute.
JP2019010808A 2019-01-25 2019-01-25 Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor Active JP7145770B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019010808A JP7145770B2 (en) 2019-01-25 2019-01-25 Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019010808A JP7145770B2 (en) 2019-01-25 2019-01-25 Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor

Publications (2)

Publication Number Publication Date
JP2020118575A true JP2020118575A (en) 2020-08-06
JP7145770B2 JP7145770B2 (en) 2022-10-03

Family

ID=71891977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019010808A Active JP7145770B2 (en) 2019-01-25 2019-01-25 Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor

Country Status (1)

Country Link
JP (1) JP7145770B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111899525A (en) * 2020-08-18 2020-11-06 重庆紫光华山智安科技有限公司 Distance measuring method, distance measuring device, electronic device, and storage medium
KR102365554B1 (en) * 2021-10-18 2022-02-18 김창원 Method and apparatus for providing windows replacement platform using artificial intelligence algorithm
WO2022204953A1 (en) * 2021-03-30 2022-10-06 深圳市锐明技术股份有限公司 Method and apparatus for determining pitch angle, and terminal device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003237509A (en) * 2002-02-13 2003-08-27 Nissan Motor Co Ltd Outside acknowledging device for vehicle
JP2013109455A (en) * 2011-11-18 2013-06-06 Clarion Co Ltd Image processing device, vehicle system, and image processing method
JP2015079388A (en) * 2013-10-17 2015-04-23 株式会社デンソーアイティーラボラトリ Inter-vehicle distance measurement apparatus, inter-vehicle distance measurement method, and program
JP2016050832A (en) * 2014-08-29 2016-04-11 株式会社デンソー Light-flight-type distance measuring device
JP2018190045A (en) * 2017-04-28 2018-11-29 日立オートモティブシステムズ株式会社 Vehicle electronic control apparatus

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003237509A (en) * 2002-02-13 2003-08-27 Nissan Motor Co Ltd Outside acknowledging device for vehicle
JP2013109455A (en) * 2011-11-18 2013-06-06 Clarion Co Ltd Image processing device, vehicle system, and image processing method
JP2015079388A (en) * 2013-10-17 2015-04-23 株式会社デンソーアイティーラボラトリ Inter-vehicle distance measurement apparatus, inter-vehicle distance measurement method, and program
JP2016050832A (en) * 2014-08-29 2016-04-11 株式会社デンソー Light-flight-type distance measuring device
JP2018190045A (en) * 2017-04-28 2018-11-29 日立オートモティブシステムズ株式会社 Vehicle electronic control apparatus

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111899525A (en) * 2020-08-18 2020-11-06 重庆紫光华山智安科技有限公司 Distance measuring method, distance measuring device, electronic device, and storage medium
WO2022204953A1 (en) * 2021-03-30 2022-10-06 深圳市锐明技术股份有限公司 Method and apparatus for determining pitch angle, and terminal device
KR102365554B1 (en) * 2021-10-18 2022-02-18 김창원 Method and apparatus for providing windows replacement platform using artificial intelligence algorithm

Also Published As

Publication number Publication date
JP7145770B2 (en) 2022-10-03

Similar Documents

Publication Publication Date Title
EP2858008B1 (en) Target detecting method and system
JP5804185B2 (en) Moving object position / orientation estimation apparatus and moving object position / orientation estimation method
JP6770393B2 (en) Tracking device and program
JP5588812B2 (en) Image processing apparatus and imaging apparatus using the same
JP6197388B2 (en) Distance measuring device, distance measuring method, and program
JP2007263669A (en) Three-dimensional coordinates acquisition system
US9898669B2 (en) Traveling road surface detection device and traveling road surface detection method
JP7145770B2 (en) Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor
JP2017138660A (en) Object detection method, object detection device and program
JP2009198445A (en) Device and method for object detection
JP2010085240A (en) Image processing device for vehicle
JP6552448B2 (en) Vehicle position detection device, vehicle position detection method, and computer program for vehicle position detection
KR20180066618A (en) Registration method of distance data and 3D scan data for autonomous vehicle and method thereof
JP2019066302A (en) Object estimation device
JP6115429B2 (en) Own vehicle position recognition device
JP2010039617A (en) Object tracking device and program
JP6398218B2 (en) Self-position calculation device and self-position calculation method
JP2009139325A (en) Travel road surface detecting apparatus for vehicle
JP6488226B2 (en) Runway parameter estimation apparatus and program
WO2019188704A1 (en) Self-position estimation device, self-position estimation method, program, and recording medium
US11461928B2 (en) Location estimation apparatus
JP2015069288A (en) Own vehicle position recognition device
JP2004038760A (en) Traveling lane recognition device for vehicle
Höber et al. Phenomenological modelling of lane detection sensors for validating performance of lane keeping assist systems
JP2020126394A (en) Object motion estimation method and object motion estimation apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210416

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220920

R150 Certificate of patent or registration of utility model

Ref document number: 7145770

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150