JP2020118575A - Inter-vehicle distance measurement device, error model generation device, learning model generation device, and method and program thereof - Google Patents
Inter-vehicle distance measurement device, error model generation device, learning model generation device, and method and program thereof Download PDFInfo
- Publication number
- JP2020118575A JP2020118575A JP2019010808A JP2019010808A JP2020118575A JP 2020118575 A JP2020118575 A JP 2020118575A JP 2019010808 A JP2019010808 A JP 2019010808A JP 2019010808 A JP2019010808 A JP 2019010808A JP 2020118575 A JP2020118575 A JP 2020118575A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- inter
- error
- camera
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Abstract
Description
本発明は、車間距離測定装置、誤差モデル生成装置および学習モデル生成装置等に関する。 The present invention relates to an inter-vehicle distance measuring device, an error model generating device, a learning model generating device, and the like.
Adaptive Cruise Control(以下、「ACC」)による運転支援機能は現在多くの車に搭載されており、重要なシステムとなっている。ACCの要素技術として先行車両までの距離推定システムが挙げられ、距離センサやステレオカメラを用いた測距方法が使われている(非特許文献1)。近年では、コスト等の面から単眼カメラにおける距離推定技術が注目されており、自車両から先行車両までの路面を平面と仮定することで三角測量により先行車両までの距離を推定するSteinらが提案した手法などがある(非特許文献2)。また、Deep Neural Networks (以下、「DNN」)を利用した学習に基づく距離推定手法も提案されており(非特許文献3)、従来の幾何学的アプローチと比較して良好な結果を示している。 The driving support function by Adaptive Cruise Control (hereinafter referred to as “ACC”) is currently installed in many vehicles and is an important system. A distance estimation system to a preceding vehicle is mentioned as an elemental technology of ACC, and a distance measuring method using a distance sensor or a stereo camera is used (Non-Patent Document 1). In recent years, distance estimation technology in monocular cameras has attracted attention from the viewpoint of cost, etc. Stein et al. proposes the distance to the preceding vehicle by triangulation by assuming the road surface from the own vehicle to the preceding vehicle as a plane. There is a method (Non-Patent Document 2). Also, a distance estimation method based on learning using Deep Neural Networks (hereinafter, “DNN”) has been proposed (Non-Patent Document 3), and shows good results as compared with the conventional geometric approach. ..
距離センサやステレオカメラを使った方法は、コストが高いという産業的なデメリットが存在する。そのため、現在、単眼カメラによる距離推定器の需要が広がっている。非特許文献2等のように、幾何学的な拘束に基づく単眼カメラを用いた距離推定手法は、多くの仮定の元で成り立っているため、走行環境に依存して推定精度が変化する。例えば、道路形状を平面と仮定しているため、曲率を持った路面に対しては正確な推定ができない。
The method using a distance sensor or a stereo camera has an industrial disadvantage that the cost is high. Therefore, the demand for a distance estimator using a monocular camera is currently increasing. Since a distance estimation method using a monocular camera based on a geometric constraint as in Non-Patent
また、機械学習手法を使った学習に基づく方法は、道路の勾配や周辺の環境に依存しない推定を行うことができる可能性を持つ。しかし、学習に基づく推定器は、学習データに存在するバイアスなどの影響を受け、学習データと異なる環境では推定精度が下がることが知られている。さらに、誤差の解析や推定結果の安定性などの評価を行うことは難しいという側面もある。 In addition, a method based on learning using a machine learning method has a possibility of performing estimation that does not depend on the gradient of the road or the surrounding environment. However, it is known that the learning-based estimator is affected by the bias existing in the learning data and the estimation accuracy is reduced in an environment different from the learning data. Furthermore, it is difficult to analyze errors and evaluate the stability of estimation results.
本発明者らは、特許文献1にて、単眼カメラにて車間距離を推定する方法を提案した。特許文献1で提案した手法では、路面の形状に依存しない距離推定が可能であるが、路面の形状復元に用いるVisual Odometryの精度が距離の推定精度に依存する。 The present inventors proposed in Patent Document 1 a method for estimating an inter-vehicle distance with a monocular camera. With the method proposed in Patent Document 1, it is possible to perform distance estimation that does not depend on the shape of the road surface, but the accuracy of Visual Odometry used to restore the shape of the road surface depends on the accuracy of distance estimation.
本発明は、上記背景に鑑み、先行車両との車間距離と共にその誤差をも推定できる車間距離測定装置を提供することを目的とする。 The present invention has been made in view of the above background, and an object of the present invention is to provide an inter-vehicle distance measuring device capable of estimating an inter-vehicle distance to a preceding vehicle and an error thereof.
本発明の車間距離測定装置は、車両に搭載されたカメラと、前記車両の位置情報を検出する位置情報検出部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、前記車間距離および誤差のスケールを出力する出力部とを備える。この構成により、車間距離だけでなく、その誤差のスケールを求めることができる。誤差のスケールを求めることにより、例えば、車間距離を用いたアプリケーションにおいて、適切な処理を行える。 An inter-vehicle distance measuring device of the present invention includes a camera mounted on a vehicle, a position information detection unit that detects position information of the vehicle, and an image of a preceding vehicle when the vehicle is at the first position. A straight line connecting the optical center of the camera and the lower end is determined while identifying the lower end of the vehicle, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the straight line intersects with the road. A distance calculation unit that obtains an inter-vehicle distance between the vehicle and the preceding vehicle when the vehicle is at the first position, and the image from the optical center of the camera to the lower end of the preceding vehicle. An error model storage unit that stores a model of an error scale having a variable in length and a displacement of the pitch angle of the camera between the first position and the second position, and the error. Referring to the model of the error scale stored in the model storage unit, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, the inter-vehicle distance of An error scale calculation unit that calculates an error scale and an output unit that outputs the inter-vehicle distance and the error scale are provided. With this configuration, not only the inter-vehicle distance but also the scale of the error can be obtained. By obtaining the scale of the error, for example, appropriate processing can be performed in an application using the inter-vehicle distance.
本発明の車間距離測定装置において、前記誤差モデル記憶部には、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに、前記車間距離の誤差のスケールを関連付けたルックアップテーブルの形式で、前記誤差のスケールのモデルを記憶しておいてもよい。この構成により、誤差のスケールの計算負荷を軽減することができる。 In the inter-vehicle distance measuring device of the present invention, the error model storage unit includes an error of the inter-vehicle distance in a length from the optical center of the camera to a lower end of the preceding vehicle in the image and a displacement of a pitch angle of the camera. The model of the error scale may be stored in the form of a look-up table in which the scales are associated. With this configuration, the calculation load of the error scale can be reduced.
本発明の車間距離測定装置は、車両に搭載されたカメラと、前記車両の位置情報を検出する位置情報検出部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、前記車間距離および誤差のスケールを出力する出力部とを備える。この構成により、車間距離だけでなく、その誤差のスケールを求めることができる。誤差のスケールを求めることにより、例えば、車間距離を用いたアプリケーションにおいて、適切な処理を行える。 An inter-vehicle distance measuring device of the present invention includes a camera mounted on a vehicle, a position information detection unit that detects position information of the vehicle, and an image of a preceding vehicle when the vehicle is at the first position. A straight line connecting the optical center of the camera and the lower end is determined while identifying the lower end of the vehicle, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the straight line intersects with the road. And a second position relative to a road surface at the first position, and a distance calculation unit that obtains an inter-vehicle distance between the preceding vehicle when the vehicle is at the first position. An error scale calculator that calculates an error scale based on the inclination of the road surface and the length in the image from the optical center of the camera to the lower end of the preceding vehicle, and an output that outputs the inter-vehicle distance and the error scale. And a section. With this configuration, not only the inter-vehicle distance but also the scale of the error can be obtained. By obtaining the scale of the error, for example, appropriate processing can be performed in an application using the inter-vehicle distance.
本発明の誤差モデル生成装置は、車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルの生成装置であって、道路の構造情報を入力する道路構造情報入力部と、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するシミュレーション部と、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと前記カメラのピッチ角の変位とを変数として、前記車間距離の誤差のスケールを解析する誤差解析部とを備える。 The error model generation device of the present invention identifies the lower end of the preceding vehicle in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and obtains a straight line connecting the optical center of the camera and the lower end, By determining the shape of the road based on the position information sequentially obtained by the traveling of the vehicle and determining the second position where the straight line intersects the road, An inter-vehicle distance measuring apparatus for obtaining an inter-vehicle distance from a preceding vehicle, which is an error model generation apparatus for estimating an error in the inter-vehicle distance, and a road structure information input unit for inputting road structure information, The position of the vehicle and the position of the preceding vehicle is determined at random, and by using the road structure information, the true value of the inter-vehicle distance to the preceding vehicle is calculated, and the rotation angle of the camera determined by the road structure and the position of the vehicle are determined. A simulation unit that calculates a vehicle-to-vehicle distance by sequentially adding randomly generated errors to the true value to obtain the second position, and calculates an error of the calculated vehicle-to-vehicle distance with respect to the true value. An error analysis unit that analyzes the scale of the error in the inter-vehicle distance with the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera as variables.
本発明らの研究により、車間距離の誤差のスケールは、複数の変数のうち、カメラの光学中心から先行車両の下端までの画像内での長さとカメラのピッチ角の変位との相関が強いことが分かった。本発明の構成により、シミュレーションによって、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとピッチ角の変位とに基づいて誤差のスケールを求める誤差モデルを生成することができる。 According to the research conducted by the present inventors, the scale of the error of the inter-vehicle distance has a strong correlation between the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera among a plurality of variables. I understood. With the configuration of the present invention, it is possible to generate an error model for obtaining an error scale based on the length in the image and the displacement of the pitch angle from the optical center of the camera to the lower end of the preceding vehicle by simulation.
本発明の学習モデル生成装置は、カメラにて撮影した画像から車間距離を推定する学習モデルを生成する生成装置であって、先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部とを備える。 A learning model generation device of the present invention is a generation device that generates a learning model for estimating an inter-vehicle distance from an image captured by a camera, and is a video of a preceding vehicle and vehicle position information corresponding to each frame of the video. And an input section for inputting the vehicle, a lower end of the preceding vehicle is identified in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and a straight line connecting the optical center of the camera and the lower end is obtained. When the vehicle is at the first position, the shape of the road is obtained based on the position information sequentially obtained by driving the vehicle, and the second position where the straight line intersects the road is obtained. A distance calculation unit for obtaining an inter-vehicle distance, a length in the image from the optical center of the camera to the lower end of the preceding vehicle, and the camera between the first position and the second position. The error model storage unit that stores a model of the error scale having the displacement of the pitch angle of the variable and the model of the error scale stored in the error model storage unit are referred to, and the preceding vehicle is detected from the optical center of the camera. Based on the length in the image to the lower end of the and the displacement of the pitch angle of the camera, an error scale calculation unit that calculates the scale of the error of the inter-vehicle distance, and the inter-vehicle distance and the error of the plurality of images obtained. A model generation unit that generates a learning model for obtaining an inter-vehicle distance from an image using the scale as teacher data.
本発明の学習モデル生成装置は、カメラにて撮影した画像から車間距離を推定する学習モデルを生成する生成装置であって、先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別すると共に前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部とを備える。 A learning model generation device of the present invention is a generation device that generates a learning model for estimating an inter-vehicle distance from an image captured by a camera, and is a video of a preceding vehicle and vehicle position information corresponding to each frame of the video. And an input section for inputting the vehicle, a lower end of the preceding vehicle is identified in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and a straight line connecting the optical center of the camera and the lower end is obtained. When the vehicle is in the first position, the shape of the road is obtained based on the position information sequentially obtained by driving the vehicle, and the second position where the straight line intersects the road is obtained. A distance calculation unit for obtaining an inter-vehicle distance to the vehicle, an inclination of the road surface at the second position with respect to the road surface at the first position, and a length in the image from the optical center of the camera to the lower end of the preceding vehicle. And an error scale calculation unit that calculates an error scale, and a model generation unit that generates a learning model that obtains the inter-vehicle distance from the images, using the inter-vehicle distance and the error scale obtained for the plurality of images as teacher data. ..
本発明によれば、先行車両が映る映像と対応する位置情報から教師データを生成するので、大量の教師データを容易に準備できる。また、車間距離と誤差のスケールとを教師データとして学習を行うので、誤差のスケールに応じて学習モデルの学習の強さを変えることができ、適切な学習モデルを生成することができる。一つの態様として、前記モデル生成部は、前記誤差のスケールが大きいほど、損失関数に与える影響を小さくして学習を行ってもよい。 According to the present invention, since the teacher data is generated from the position information corresponding to the image of the preceding vehicle, a large amount of teacher data can be easily prepared. Further, since learning is performed using the inter-vehicle distance and the scale of the error as teacher data, the learning strength of the learning model can be changed according to the scale of the error, and an appropriate learning model can be generated. As one aspect, the model generation unit may perform learning with a smaller influence on the loss function as the scale of the error is larger.
本発明の車間距離測定方法は、車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定する方法であって、車間距離測定装置に前記カメラにて撮影された画像を入力するステップと、前記車間距離測定装置に前記車両の位置情報を検出するステップと、前記車間距離測定装置が、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、前記車間距離測定装置が、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、前記車間距離測定装置が、前記車間距離および誤差のスケールを出力するステップとを備える。また、誤差のスケールを算出するステップは、誤差モデル記憶部のデータを参照する方法に代えて、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出してもよい。 An inter-vehicle distance measuring method of the present invention is a method for measuring an inter-vehicle distance with a preceding vehicle on the basis of an image captured by a camera mounted on a vehicle and position information of the vehicle. The step of inputting an image taken by the camera, the step of detecting positional information of the vehicle in the inter-vehicle distance measuring apparatus, and the inter-vehicle distance measuring apparatus when the vehicle is at the first position. The lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and based on the position information sequentially obtained by the traveling of the vehicle. Determining the shape of the road and determining the second position where the straight line intersects the road to determine the inter-vehicle distance with the preceding vehicle when the vehicle is in the first position; and the inter-vehicle distance. A measuring device varies the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position. With reference to an error model storage unit that stores a model of an error scale, the distance between the vehicles based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera. The method further includes a step of calculating a scale of a distance error, and a step of the inter-vehicle distance measuring device outputting the scale of the inter-vehicle distance and the error. Further, the step of calculating the scale of the error is preceded by the inclination of the road surface at the second position with respect to the road surface at the first position and the optical center of the camera instead of the method of referring to the data in the error model storage unit. The error scale may be calculated based on the length up to the lower end of the vehicle in the image.
本発明の誤差モデル生成方法は、車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルの生成方法であって、誤差モデル生成装置に道路の構造情報を入力するステップと、前記誤差モデル生成装置が、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、前記誤差モデル生成装置が、前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップとを備える。 The error model generation method of the present invention identifies a lower end of a preceding vehicle in an image obtained by photographing the preceding vehicle when the vehicle is at the first position, and connects a straight line connecting the optical center of the camera and the lower end in the world coordinate system. Is obtained, the shape of the road is obtained based on the position information sequentially obtained by the vehicle traveling, and the second position at which the straight line intersects the road is obtained. A method of generating an error model for estimating an error of the inter-vehicle distance in an inter-vehicle distance measuring apparatus for obtaining an inter-vehicle distance with a preceding vehicle when there is a situation, and inputting road structure information to the error model generating apparatus. Step, the error model generation device randomly determines the first position and the position of the preceding vehicle, and calculates the true value of the inter-vehicle distance to the preceding vehicle using the structure information of the road, and The inter-vehicle distance is calculated by adding the randomly generated error to the true value of the camera rotation angle and the vehicle position determined by the road structure, and calculating the second position. A step of calculating an error with respect to a true value of the inter-vehicle distance, the error model generation device, the displacement in the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle as variables. And analyzing the scale of the error of the inter-vehicle distance.
本発明の車間距離測定のプログラムは、車両に搭載されたカメラにて撮影された画像と前記車両の位置情報とに基づいて、先行車両との車間距離を測定するためのプログラムであって、コンピュータに、前記カメラにて撮影された画像を入力するステップと、前記車両の位置情報を入力するステップと、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、前記車間距離および誤差のスケールを出力するステップとを実行させる。また、誤差のスケールを算出するステップは、誤差モデル記憶部のデータを参照する方法に代えて、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出してもよい。 The inter-vehicle distance measuring program of the present invention is a program for measuring an inter-vehicle distance to a preceding vehicle based on an image taken by a camera mounted on the vehicle and position information of the vehicle, and a computer In the step of inputting an image taken by the camera, the step of inputting position information of the vehicle, and the lower end of the preceding vehicle in the image of the preceding vehicle taken when the vehicle is in the first position. Identify and determine a straight line that connects the optical center of the camera and the lower end in the world coordinate system, and determine the shape of the road based on the position information that is sequentially obtained by traveling of the vehicle, and the straight line is the road. Determining a second position at which the vehicle intersects with the preceding vehicle when the vehicle is at the first position; and in the image from the optical center of the camera to the lower end of the preceding vehicle. With reference to an error model storage unit that stores a model of an error scale having a variable of the length at, and a displacement of the pitch angle of the camera between the first position and the second position, Based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, calculating the scale of the error of the inter-vehicle distance, and the scale of the inter-vehicle distance and the error. Perform the output step and. Further, the step of calculating the scale of the error is preceded by the inclination of the road surface at the second position with respect to the road surface at the first position and the optical center of the camera instead of the method of referring to the data in the error model storage unit. The error scale may be calculated based on the length up to the lower end of the vehicle in the image.
本発明の誤差モデル生成のプログラムは、車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める車間距離測定装置において、当該車間距離の誤差を推定するための誤差モデルを生成するためのプログラムであって、コンピュータに、道路の構造情報を入力するステップと、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップと、を実行させる。 The error model generation program of the present invention identifies the lower end of the preceding vehicle in the image of the preceding vehicle when the vehicle is at the first position, and connects the optical center of the camera and the lower end in the world coordinate system. By obtaining the straight line, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the second position at which the straight line intersects the road is obtained, whereby the vehicle is In a vehicle-to-vehicle distance measuring device that obtains the vehicle-to-vehicle distance when the vehicle is in a position, the program is for generating an error model for estimating an error in the vehicle-to-vehicle distance. A step of inputting, randomly determining the first position and the position of the preceding vehicle, calculating the true value of the inter-vehicle distance to the preceding vehicle using the road structure information, and determining the camera according to the road structure. The rotation angle and the true value of the vehicle position are sequentially added with errors randomly generated to obtain the second position, thereby calculating the inter-vehicle distance, and calculating the true value of the inter-vehicle distance. And a step of analyzing the scale of the error of the inter-vehicle distance with the displacement in the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle as variables. And execute.
本発明によれば、車間距離だけでなく、その誤差のスケールを求めることができる。 According to the present invention, not only the inter-vehicle distance but also the scale of the error can be obtained.
以下、本発明の実施の形態に係る車間距離測定装置について図面を参照しながら詳細に説明する。
(第1の実施の形態)
[車間距離測定装置の構成]
図1は、第1の実施の形態の車間距離測定装置1の構成を示す図である。車間距離測定装置1は、車両に搭載されたカメラ10と、車両の現在位置を検出して位置情報を取得するGPS/IMU11と、カメラ10にて撮影した画像とGPS/IMU11からの位置情報とに基づいて先行車両までの車間距離を推定する距離算出部12と、距離算出部12にて推定した車間距離の誤差のスケールを算出する誤差スケール算出部13と、誤差スケールの算出に用いられる誤差モデルを記憶した誤差モデル記憶部14と、求めた車間距離および誤差のスケールを出力する出力部15とを備えている。カメラ10は、例えば、CCDカメラ10である。
Hereinafter, an inter-vehicle distance measuring device according to an embodiment of the present invention will be described in detail with reference to the drawings.
(First embodiment)
[Configuration of inter-vehicle distance measuring device]
FIG. 1 is a diagram showing a configuration of an inter-vehicle distance measuring device 1 according to the first embodiment. The inter-vehicle distance measuring device 1 includes a
図2は、カメラ10の設置位置を示す図である。カメラ10は、車両の先端(フロントバンパー)に設置される。カメラ10の地面からの高さをHとし、本書では、カメラ10の光学中心の鉛直下方向の地面を地面点という。
FIG. 2 is a diagram showing the installation position of the
カメラ10の車両への設置に際して、カメラ10の光軸(Z軸)が車両の進行方向と一致し、カメラ10によって撮影された画像の横軸(X軸)が地面と平行になるように、カメラ10の設置角度等が調整される。この結果、画像の縦軸(Y軸)は、地面に垂直な方向に一致する。このカメラ10は、車両が走行している間に画像を撮影して、その撮影した画像を距離算出部12に入力する。
When the
距離算出部12は、GPS/IMU11から入力された車両の位置情報に基づいて、車両の移動軌跡を求める。これにより、車両が通過した道路の起伏が求まる。
The
図3は、自車両の軌跡と地面点の軌跡を示す図である。図3においては、初期の時刻におけるカメラ10の位置を原点、光軸方向をZ軸、地面方向をY軸とし、X軸は右手座標系によって定めている(世界座標系)。YZ平面上で記述された地面点の軌跡は、地面の起伏を示しており、これにより、車両が通過した道路の起伏が分かる。
FIG. 3 is a diagram showing the trajectory of the host vehicle and the trajectory of the ground point. In FIG. 3, the position of the
また、距離算出部12は、カメラ10にて撮影した画像から、先行車両の下端を識別し、その画像座標を求める。画像座標の原点は、カメラの光学中心である。この画像座標を用いて、図4(a)に示すように、カメラ10の光学中心と先行車両の下端とを結ぶ直線Lを求める。この直線Lは世界座標系における直線である。
The
続いて、カメラ10にて撮影した次のフレームの画像から、同様に、カメラ10の光学中心と先行車両の下端とを結ぶ直線Lを求める。図4(b)に示すように、自車両および先行車両が前方に進んでいるので、先に求めた直線Lとは異なる直線が求まる。
Subsequently, a straight line L connecting the optical center of the
図5(a)及び図5(b)は、地面点の軌跡、および直線Lを、世界座標系にプロットした図である。図5(a)に示す状態では、先行車両の下端がある方向は分かるものの、何m先の位置に先行車両があるのかを確定することはできない。 5A and 5B are diagrams in which the locus of the ground point and the straight line L are plotted in the world coordinate system. In the state shown in FIG. 5A, the direction in which the lower end of the preceding vehicle is located is known, but it is not possible to determine how many meters ahead the vehicle is ahead.
図5(b)に示すように、時刻t1までに記述された地面点の軌跡と、過去の時刻t0における直線Lとが交差したとすると、この交点は、時刻t0で観測された先行車両の下端があった位置であることが分かる。したがって、距離算出部12は、時刻t1に求められた交点の位置と、時刻t0におけるカメラ10の光学中心の位置とに基づいて車間距離を求めることができる。
As shown in FIG. 5(b), if the locus of the ground point described up to time t1 and the straight line L at the past time t0 intersect, this intersection is the point of the preceding vehicle observed at time t0. It can be seen that it is the position where the lower end was. Therefore, the
図5(b)から分かるように、本実施の形態の車間距離測定の原理は、地面を「測量」しつつ進むことで、過去の(時刻t0における)車間距離を測定するというものである。時刻t0に先行車両を撮影したときの自車両の位置を「第1の位置」、時刻t1に求まった直線と地面点の軌跡との交点を「第2の位置」という。 As can be seen from FIG. 5B, the principle of the inter-vehicle distance measurement of the present embodiment is that the inter-vehicle distance in the past (at time t0) is measured by proceeding while "surveying" the ground. The position of the host vehicle when the preceding vehicle is photographed at time t0 is referred to as a "first position", and the intersection of the straight line obtained at time t1 and the locus of the ground point is referred to as a "second position".
なお、車間距離を求める処理は、車両が直線区間を走行している間に行うことが好ましい。直線区間においては、道路の起伏を「測量」する方向と、先行車両の下端を臨む方向が一致するためである。 The process of obtaining the inter-vehicle distance is preferably performed while the vehicle is traveling in a straight section. This is because, in the straight section, the direction of “surveying” the undulations of the road coincides with the direction of the lower end of the preceding vehicle.
誤差スケール算出部13は、誤差モデル記憶部14に記憶された誤差モデルを参照して、距離算出部12にて求めた車間距離の誤差を算出する機能を有する。誤差モデル記憶部14に記憶された誤差モデルは、画像に映る先行車両の下端までの長さ(光学中心を原点とすると下端のy座標値)とカメラ10のピッチ角の変位とに車間距離の誤差スケールを関連付けたルックアップテーブルである。誤差モデル記憶部14に記憶される誤差モデルの生成の仕方については、後述する。
The error
誤差スケール算出部13は、(i)第1の位置にて撮影した画像内に映る先行車両の下端座標、(ii)第1の位置と第2の位置との間でのカメラ10のピッチ角の変位、に対応する誤差のスケールをルックアップテーブルから読み出し、誤差のスケールを求める。
The error scale calculator 13 (i) the lower end coordinates of the preceding vehicle appearing in the image captured at the first position, and (ii) the pitch angle of the
出力部15は、距離算出部12にて求めた先行車両との車間距離と、誤差スケール算出部13にて求めた誤差スケールのデータを出力する機能を有する。出力部15は、例えば、ユーザに対して車間距離のデータを表示するモニタであってもよいし、他の車載機器に対して車間距離のデータを出力する通信インターフェースであってもよい。
The
以上、実施の形態の車間距離測定装置1について説明したが、車間距離測定装置1は、図示しないCPU、ROM、RAM等からなるマイクロコンピュータによって構成される。車間距離測定装置1は、例えば、ROMに記憶されているプログラムに従って、カメラ10にて撮影された画像に基づき、先行車両との車間距離を算出する。このようなプログラムも本発明の範囲に含まれる。
Although the inter-vehicle distance measuring apparatus 1 according to the embodiment has been described above, the inter-vehicle distance measuring apparatus 1 is composed of a microcomputer including a CPU, a ROM, a RAM, and the like (not shown). The inter-vehicle distance measuring device 1 calculates the inter-vehicle distance to the preceding vehicle based on the image captured by the
[車間距離測定装置の動作]
図6は、本実施の形態の車間距離測定装置の動作を示すフローチャートである。
車間距離測定装置1は、カメラ10にて進行方向の画像を撮影し、その画像を距離算出部12に入力する(S10)。同時に、車間距離測定部は、GPS/IMU11にて自車両の位置情報を取得し、距離算出部12に入力する(S11)。
[Operation of inter-vehicle distance measuring device]
FIG. 6 is a flowchart showing the operation of the inter-vehicle distance measuring device according to the present embodiment.
The inter-vehicle distance measuring device 1 captures an image in the traveling direction with the
車間距離測定装置1は、入力された画像から先行車両を識別する。例えば、画像からHOG特徴を抽出し、得られた特徴量に対してサポートベクトルマシンなどのパターン識別器を適応する。HOG特徴は、N. Dalal and B. Triggs「Histograms of oriented gradients for human detection」CVPR 2005.に詳しく紹介されている。 The inter-vehicle distance measuring device 1 identifies the preceding vehicle from the input image. For example, a HOG feature is extracted from an image, and a pattern discriminator such as a support vector machine is applied to the obtained feature amount. The HOG features are introduced in detail in N. Dalal and B. Triggs "Histograms of oriented gradients for human detection" CVPR 2005.
次に、図7に示すように、画像から検出された車両の左端のx座標、右端のx座標、下端のy座標を算出する(S12)。画像座標は、横方向をx、縦方向をy、単位をピクセル、原点を光軸の通過点とする。左端の求め方は、例えば、識別器を当てた窓の左の端の近傍のうち、輝度勾配の変化の最も大きな箇所としてよい。または、前のフレームと現在のフレームの間の、先行車両の画像平面上の移動量(オプティカルフロー)を求めることにより、前のフレームの左端の座標を現在のフレームに移動させてもよい。車間距離測定装置1は、世界座標系において第1の位置におけるカメラ10の光学中心から先行車両の下端までの直線Lを算出する(S13)。
Next, as shown in FIG. 7, the x coordinate of the left end, the x coordinate of the right end, and the y coordinate of the lower end of the vehicle detected from the image are calculated (S12). The image coordinates are x in the horizontal direction, y in the vertical direction, the unit is pixel, and the origin is the passing point of the optical axis. The method for obtaining the left edge may be, for example, a location in the vicinity of the left edge of the window to which the discriminator is applied, where the change in the brightness gradient is the largest. Alternatively, the coordinates of the left end of the previous frame may be moved to the current frame by obtaining the amount of movement (optical flow) on the image plane of the preceding vehicle between the previous frame and the current frame. The inter-vehicle distance measuring device 1 calculates a straight line L from the optical center of the
車両の左端および右端を検出することにより先行車両の実車幅が分かるので、車幅を確定した後は、画像に映る先行車両の車幅と実車幅とに基づいて車間距離を直ちに求めることができるようになる。なお、このような処理を行わない場合には、車両の左右端を検出しなくてもよい。 Since the actual vehicle width of the preceding vehicle can be known by detecting the left edge and the right edge of the vehicle, after the vehicle width is determined, the inter-vehicle distance can be immediately obtained based on the vehicle width and the actual vehicle width of the preceding vehicle shown in the image. Like If such processing is not performed, the left and right ends of the vehicle may not be detected.
車間距離測定装置1は、車両の進行とともにGPS/IMU11にて逐次検出される位置情報に基づいて道路の起伏のデータを求め(S14)、求めたデータを用いて直線Lと道路とが交差したか否かを判定する(S15)。道路が直線Lと交差していない場合には(S15でNO)、車間距離測定装置1は、GPS/IMU11にて検出した位置情報を用いて道路の起伏のデータを求める処理を行う。
The inter-vehicle distance measuring device 1 obtains road undulation data based on the position information sequentially detected by the GPS/
直線Lと道路とが交差した場合には、交差した位置と最初に先行車両を識別したとき(自車両が第1の位置にあるとき)のカメラ10の位置に基づいて、先行車両との車間距離を求める(S16)。本実施の形態では、最初に先行車両を検知した位置(第1の位置)を世界座標の原点としているので、直線Lと道路とが交差した位置のZ座標値を車間距離とする(図5(b)参照)。
When the straight line L and the road intersect, the distance between the preceding vehicle and the preceding vehicle is determined based on the intersecting position and the position of the
また、車間距離測定装置1は、第1の位置にて検出した先行車両の下端位置Lyと、第1の位置と第2の位置との間でのカメラ10のピッチ角Opitchの変位に対応する誤差スケールを誤差モデル記憶部14に記憶されたルックアップテーブルから読み出し、誤差スケールを算出する(S17)。車間距離測定装置1は、算出した車間距離と誤差スケールとを出力する(S18)。
Further, the inter-vehicle distance measuring device 1 corresponds to the lower end position Ly of the preceding vehicle detected at the first position and the displacement of the pitch angle Opitch of the
[誤差モデル生成装置]
図8は、車間距離測定装置1で用いる誤差モデルを生成する誤差モデル生成装置20の構成を示す図である。まず、誤差モデル生成装置20の概要について説明する。図9は、車間距離Dを求める際に用いる主なセンサ値を示す図である。自車両の位置(X,Y,Z)と、カメラ10のピッチ角φと、画像に映る先行車両の下端の位置座標yがある。なお、fは焦点距離、Hはカメラ10の高さである。
[Error model generator]
FIG. 8 is a diagram showing a configuration of an error
上記した車間距離の測定に対する誤差要因としては、自車両位置(X,Y,Z)の誤差(Mx,My,Mz)、自車両のロール角、ピッチ角、ヨー角の誤差(Oroll,Opitch,Oyaw)、先行車両の下端検出位置(x,y)の誤差(Lx,Ly)の8要素の誤差が考えられる。誤差モデル生成装置20は、モンテカルロシミュレーションによって、それぞれの誤差、路面の曲率、自車速度等を擬似的に与えて誤差推定を繰り返し、得られた誤差の推定結果に基づいて、誤差解析を行う。
The error factors for the above-described measurement of the inter-vehicle distance include the error (Mx, My, Mz) in the vehicle position (X, Y, Z), the roll angle, the pitch angle, and the yaw angle error (Oroll, Opitch, Oyaw) and the error (Lx, Ly) in the lower end detection position (x, y) of the preceding vehicle can be considered as an eight-element error. The error
本発明者らは、これらの8要素のうち、車間距離に対する誤差の支配項は、自車両のピッチ角Opitchと下端検出位置Lyの誤差であることを見出した。そこで、誤差解析を行う際には、ピッチ角Opitchと先行車両の下端検出位置Lyを変数として誤差解析を行う。これにより、誤差のスケールをピッチ角Opitchと先行車両の下端検出位置Lyによってモデル化する。以下、誤差モデル生成装置20の構成について具体的に説明する。
The present inventors have found that, among these eight elements, the governing term of the error with respect to the inter-vehicle distance is the error between the pitch angle Opitch of the host vehicle and the lower end detection position Ly. Therefore, when performing the error analysis, the error analysis is performed using the pitch angle Opitch and the lower end detection position Ly of the preceding vehicle as variables. Thereby, the scale of the error is modeled by the pitch angle Opitch and the lower end detection position Ly of the preceding vehicle. The configuration of the error
図8に示すように、誤差モデル生成装置20は、道路構造の情報を入力する道路構造情報入力部21と、入力された道路構造上に自車両と先行車両をランダムに配置してその車間距離と誤差のシミュレーションを行うシミュレーション部22と、シミュレーションによって求めた車間距離と誤差のデータを用いて誤差解析を行う誤差解析部28と、誤差解析部28による解析結果に基づいて生成した誤差モデルを記憶する記憶部29とを有している。
As shown in FIG. 8, the error
シミュレーション部22は、車両配置部23と、真値計算部24と、誤差設定部25と、距離算出部26と、誤差スケール算出部27とを有している。車両配置部23は、道路構造上に自車両と先行車両をランダムに配置する機能を有する。真値計算部24は、ランダムに配置された自車両と先行車両の車間距離の真値を計算する機能を有する。距離算出部26は、車間距離測定装置1の距離算出部12と同様に自車両を先行車両の位置にまで移動させるシミュレーションを行い、自車両と先行車両との車間距離を計算する機能を有する。
The
距離算出部26は、車間距離の計算において自車両が先行車両の位置まで移動する間の自車両位置(X,Y,Z)、自車両の姿勢(Oroll,Opitch,Oyaw)、先行車両の下端検出位置(Lx,Ly)の真値に対してランダムな誤差を設定し、誤差が付加された値を用いて車間距離を算出する。誤差設定部25は、ランダムな誤差を発生し、距離算出部12に入力する機能を有する。車間距離を自車両の速度と車間時間とに基づいて決定する場合には、誤差設定部25は、各センサ値の誤差だけでなく、自車両の速度、車間時間もランダムに設定してもよい。
In the calculation of the inter-vehicle distance, the
誤差スケール算出部27は、距離算出部26にて算出された車間距離と真値との差によって誤差を算出する機能を有する。シミュレーション部22は、付加する誤差を変えて、距離算出部26により車間距離の算出を繰り返し行って、多数のシミュレーション結果を得る。また、車両配置部23にて車両の位置をランダムに変えて多数のシミュレーション結果を得る。
The error
誤差解析部28は、車間距離とそれに対する誤差のシミュレーション結果に基づいて、誤差モデルを生成する機能を有する。誤差解析部28は、得られたシミュレーション結果に対し、自車両のピッチ角Opitchの変位と下端の検出位置Lyを入力変数として、次式に示すように、誤差の分散の回帰問題から誤差の分散をモデル化する。
図10は、誤差モデル生成装置20の動作を示すフローチャートである。誤差モデル生成装置20は、まず、シミュレーションを行う道路構造の情報の入力を受け付ける(S20)。道路構造の情報としては、道路構造令の規定に準拠した構造の情報を入力する。誤差モデル生成装置20は、自車両及び先行車両の位置をランダムに決定し(S21)、その車間距離の真値を計算する(S22)。
FIG. 10 is a flowchart showing the operation of the error
次に、誤差モデル生成装置20は、自車両の位置から先行車両の位置まで移動させるシミュレーションを行って車間距離を算出する。具体的には、自車両の位置から先行車両の位置まで移動する間における各センサ値の真値に対して、ランダムに発生した誤差を付加して車間距離を算出し、算出した車間距離の真値からの誤差を算出する(S23)。
Next, the error
誤差モデル生成装置20は、車両配置部23にてランダムに設定した配置でのシミュレーションを終了するか否かを判定する(S24)。設定された配置でのシミュレーションを終了しない場合には(S24でNO)、誤差モデル生成装置20は、ランダムな誤差を設定して車間距離及び誤差の計算を繰り返し行う。設定された配置でのシミュレーションを終了する場合には(S24でYES)、自車両及び先行車両を別の位置に設定して計算を行うか否かを判定する(S25)。
The error
別の配置でのシミュレーションを行う場合には(S25でYES)、誤差モデル生成装置20は、自車両及び先行車両の位置をランダムに決定し(S21)、上記したシミュレーションを行って車間距離及び誤差のデータを求める(S22〜S24)。別の配置でのシミュレーションを行わない場合には、別の道路構造でシミュレーションを行うか否かを判定する(S26)。別の道路構造でシミュレーションを行う場合には(S26でYES)、道路の構造情報の入力(S20)に戻って、新たな道路構造情報の入力を受け付け、上記したシミュレーションを行う(S21〜S25)。別の道路構造でのシミュレーションを行わない場合には(S26でNO)、シミュレーションによって求めた車間距離及び誤差を解析して誤差モデルを生成し、生成した誤差モデルを記憶する(S27)。
When performing a simulation with another arrangement (YES in S25), the error
ここで、一例として、誤差モデルの多項式回帰の例を示す。
上述したように車間距離測定装置1では、誤差モデル記憶部14は、画像に映る先行車両の下端位置とカメラ10のピッチ角の変位とに車間距離の誤差のスケールを関連付けたルックアップテーブルの形式の誤差モデルを記憶している。それに合わせて、誤差モデル生成装置20は、誤差モデルをルックアップテーブルに加工してもよい。以上、第1の実施の形態の車間距離測定装置1および車間距離測定装置1で用いられる誤差モデルを生成する誤差モデル生成装置20とそれらの動作について説明した。
As described above, in the inter-vehicle distance measuring device 1, the error
第1の実施の形態の車間距離測定装置1は、先行車両との車間距離だけでなく、その誤差のスケールを求めることができる。誤差のスケールは、車間距離の信頼度を示すものであり、距離推定を行う上での補助的な情報を得ることが可能となる。例えば、測定された車間距離をカルマンフィルタに適用する際に、誤差のスケールを入力することにより、信頼度の低い測定結果はカルマンフィルタの更新に用いないという処理をすることができる。 The inter-vehicle distance measuring device 1 according to the first embodiment can obtain not only the inter-vehicle distance to the preceding vehicle but also the scale of the error. The error scale indicates the reliability of the inter-vehicle distance, and it is possible to obtain auxiliary information for distance estimation. For example, when applying the measured inter-vehicle distance to the Kalman filter, by inputting the error scale, it is possible to perform processing such that the measurement result with low reliability is not used for updating the Kalman filter.
誤差モデル生成装置20では、シミュレーションによる擬似的な距離推定を繰り返して車間距離の測定結果のサンプルを収集することで、各サンプルと解析的に特定された誤差の支配項を使った多項式回帰による誤差のモデリングが可能である。
The error
(第2の実施の形態)
図11は、第2の実施の形態の車間距離測定装置2の構成を示す図である。第2の実施の形態の基本的な構成は、第1の実施の形態の車間距離測定装置1と同じであり、車間距離とその誤差スケールを求める。第2の実施の形態の車間距離測定装置2による車間距離の測定の仕方は第1の実施の形態の車間距離測定装置1と同じである。第2の実施の形態の車間距離測定装置2では、誤差スケール算出部16が誤差スケール算出式を用いて誤差のスケールを算出する点が異なる。
(Second embodiment)
FIG. 11 is a diagram showing a configuration of an inter-vehicle
最初に、第2の実施の形態における誤差スケール算出の考え方を説明する。自車両と先行車両との間の路面が曲率を有する場合であっても、自車両および先行車両が載っている路面は局所的にみれば平面である。本発明者らは、車間距離の誤差は、自車両が載っている路面から見た先行車両が載っている路面の傾きに依存することに着目した。 First, the concept of error scale calculation in the second embodiment will be described. Even when the road surface between the host vehicle and the preceding vehicle has a curvature, the road surface on which the host vehicle and the preceding vehicle are mounted is a plane when viewed locally. The inventors of the present invention have noticed that the error in the inter-vehicle distance depends on the inclination of the road surface on which the preceding vehicle is mounted as viewed from the road surface on which the host vehicle is mounted.
図12は、第2の実施の形態において先行車両の下端を求める原理を示す図である。自車両が載っている平面に対する先行車両が載っている平面の傾きは「a」である。先行車両の下端は、(i)自車両のカメラの光学中心と下端とを結ぶ直線と、(ii)先行車両が載っている路面との交点である。(i)自車両のカメラの光学中心と下端とを結ぶ直線は、カメラの焦点距離をfとすると次式(1)で表され、(ii)路面は次式(2)で表される。
第2の実施の形態の車間距離測定装置2は、式(4)で示される誤差スケールの算式を記憶部17に記憶している。誤差スケール算出部16は、記憶部17から誤差スケールの算式を読み出し、誤差スケールを計算する。
In the inter-vehicle
第2の実施の形態の車間距離測定装置2において、カメラ画像及びGPS/IMU11からの位置情報に基づいて先行車両との車間距離を算出する距離算出部12の構成、および、車間距離と誤差スケールを出力する出力部15の構成は、第1の実施の形態の車間距離測定装置1と同じである。
In the inter-vehicle
第2の実施の形態の車間距離測定装置2は、第1の実施の形態の車間距離測定装置1と同様に、先行車両との車間距離だけでなく、その誤差のスケールを求めることができる。また、シミュレーションを行って誤差モデルを生成することなく誤差スケールを計算できるので、車間距離測定装置2を容易に構成することができる。
The inter-vehicle
なお、本実施の形態では、ピンホールカメラモデルを採用した例を挙げて説明したが、ピンホールカメラ以外のカメラにおいても上記と同様に誤差のスケールを求めることが可能である。 In the present embodiment, an example in which the pinhole camera model is adopted has been described, but it is possible to obtain the error scale in a camera other than the pinhole camera in the same manner as above.
(第3の実施の形態)
第3の実施の形態では、カメラで撮影した画像から車間距離を推定する装置で用いられる学習モデルを生成する学習モデル生成装置3について説明する。学習モデルを生成するためには、教師データとして、カメラ画像とそのカメラ画像に映る先行車両までの車間距離の正解データのセットが必要であるが、一般的に、大量の教師データを準備することは容易なことではない。第3の実施の形態の学習モデル生成装置3では、道路を走行した際に前方を撮影した映像と当該映像の各フレームに対応する自車両の位置情報とを用いて、学習モデルを生成する。
(Third Embodiment)
In the third embodiment, a learning
図13は、第3の実施の形態の学習モデル生成装置3の構成を示す図である。学習モデル生成装置3は、入力部30と、距離算出部31と、誤差スケール算出部32と、誤差モデル記憶部33と、モデル生成部34と、学習モデル記憶部35とを有している。入力部30は、道路を走行した際に前方を撮影した映像と当該映像の各フレームに対応する自車両の位置情報の入力を受け付ける。距離算出部31および誤差スケール算出部32は、第1の実施の形態の車両測定装置で説明した距離算出部31および誤差スケール算出部32と同じ構成を有し、動画の各フレームに映る先行車両までの車間距離を求める。これにより、動画の各フレームの画像と、車間距離及びその誤差スケールとをセットにした教師データを生成する。
FIG. 13 is a diagram showing the configuration of the learning
モデル生成部34は、先行車両が映る画像と、車間距離及びその誤差スケールとを教師データとして学習モデルを生成し、生成した学習モデルを学習モデル記憶部35に記憶する。学習パラメータθを持つ推定器を関数fθ(・)で表し、入力変数をxとし、車間距離のターゲット値をZとすれば、回帰問題として以下の定式化が可能である。
距離算出部31で算出した車間距離を正解として扱うが、上述したとおり距離算出部31にて求めた車間距離には誤差が含まれる。モデル生成部34は、誤差のスケールが大きいほど、損失関数に与える影響を小さくして学習を行う。具体的には、本実施の形態では、誤差スケールの大きい車間距離は重要視しないように、次式を用いて学習を行う。
図14は、第3の実施の形態の学習モデル生成装置3の動作を示すフローチャートである。学習モデル生成装置3は、車両が走行して撮影した動画と各フレームでの位置情報の入力を受け付ける(S30)。学習モデル生成装置3は、各フレームにおいて先行車両を識別し、先行車両までの車間距離および誤差スケールを算出する(S31)。この処理は、第1の実施の形態の車間距離測定装置1における車間距離の測定の動作(図6参照)と同じである。これにより、学習モデル生成装置3は、教師データを生成する。学習モデル生成装置3は、生成された教師データを用いて学習モデルを生成する(S32)。
FIG. 14 is a flowchart showing the operation of the learning
第3の実施の形態の学習モデル生成装置3は、走行中の映像とそれに対応する位置情報を用いて、画像に対応する車間距離を計算して教師データとして用いるので、教師データの作成にかかるコストを大幅に下げることができる。
The learning
また、車間距離のデータだけでなく、その誤差のスケールを用いて学習を行うので、精度の良い学習モデルを生成することができる。このようにして生成された学習モデルを用いることにより、車間距離を推定する際には、先行車両が映った画像から直ちに車間距離を推定することができる。 Moreover, since learning is performed using not only the data of the inter-vehicle distance but also the scale of the error, a highly accurate learning model can be generated. By using the learning model generated in this way, when estimating the inter-vehicle distance, the inter-vehicle distance can be estimated immediately from the image showing the preceding vehicle.
なお、第3の実施の形態では、車間距離および誤差スケールの算出に、第1の実施の形態の車間距離測定装置1で説明した方法を採用する例を説明したが、第2の実施の形態の車間距離測定装置2で説明した方法を採用することももちろん可能である。
In addition, in the third embodiment, an example in which the method described in the inter-vehicle distance measuring apparatus 1 of the first embodiment is adopted for calculation of the inter-vehicle distance and the error scale has been described, but the second embodiment is described. Of course, it is also possible to adopt the method described in the inter-vehicle
以上、本発明の車間距離測定装置、誤差モデル生成装置および学習モデル生成装置について説明したが、本発明は上記した実施の形態に限定されるものではない。 Although the inter-vehicle distance measuring device, the error model generating device, and the learning model generating device of the present invention have been described above, the present invention is not limited to the above-described embodiments.
上記した実施の形態においては、GPS/IMUから車両の位置情報を取得する例について説明したが、車両の位置情報は、特許文献1で説明したように、Visual Odometryによって計測することとしてもよい。 In the above-described embodiment, an example in which the vehicle position information is acquired from the GPS/IMU has been described, but the vehicle position information may be measured by Visual Odometry as described in Patent Document 1.
本発明は、先行車両との車間距離を測定する車間距離測定装置として有用である。 INDUSTRIAL APPLICABILITY The present invention is useful as an inter-vehicle distance measuring device that measures an inter-vehicle distance from a preceding vehicle.
1,2 車間距離測定装置
3 学習モデル生成装置
10 カメラ
11 GPS/IMU
12 距離算出部
13,16 誤差スケール算出部
14,17 誤差モデル記憶部
15 出力部
20 誤差モデル生成装置
21 道路構造情報入力部
22 シミュレーション部
23 車両配置部
24 真値計算部
25 誤差設定部
26 距離算出部
27 誤差スケール算出部
28 誤差解析部
29 誤差モデル記憶部
30 入力部
31 距離算出部
32 誤差スケール算出部
33 誤差モデル記憶部
34 モデル生成部
35 学習モデル記憶部
1 and 2
12
Claims (13)
前記車両の位置情報を検出する位置情報検出部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、
前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、
前記車間距離および誤差のスケールを出力する出力部と、
を備える車間距離測定装置。 A camera mounted on the vehicle,
A position information detection unit that detects the position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that calculates the following distance between
The error in which the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position are variables. An error model storage unit that stores a scale model,
Referring to the model of the error scale stored in the error model storage unit, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, An error scale calculator that calculates the scale of the distance error,
An output unit that outputs the inter-vehicle distance and the scale of the error,
An inter-vehicle distance measuring device equipped with.
前記車両の位置情報を検出する位置情報検出部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、
前記車間距離および誤差のスケールを出力する出力部と、
を備える車間距離測定装置。 A camera mounted on the vehicle,
A position information detection unit that detects the position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that calculates the following distance between
Error scale calculation for calculating a scale of error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle Department,
An output unit that outputs the inter-vehicle distance and the scale of the error,
An inter-vehicle distance measuring device equipped with.
道路の構造情報を入力する道路構造情報入力部と、
前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するシミュレーション部と、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと前記カメラのピッチ角の変位とを変数として、前記車間距離の誤差のスケールを解析する誤差解析部と、
を備える誤差モデル生成装置。 When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. In an inter-vehicle distance measuring device that obtains an inter-vehicle distance, a device for generating an error model for estimating an error in the inter-vehicle distance,
A road structure information input section for inputting road structure information;
The first position and the position of the preceding vehicle are randomly determined, the true value of the inter-vehicle distance to the preceding vehicle is calculated using the road structure information, and the rotation angle of the camera determined by the road structure, the vehicle The error generated at random is sequentially added to the true value of the position, and the inter-vehicle distance is calculated by obtaining the second position, and the error with respect to the true value of the calculated inter-vehicle distance is calculated. The simulation part,
An error analysis unit that analyzes the scale of the error in the inter-vehicle distance, with the variable length and displacement of the pitch angle of the camera in the image from the optical center of the camera to the lower end of the preceding vehicle,
An error model generation device comprising:
先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系における前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部と、
前記誤差モデル記憶部に記憶された誤差のスケールのモデルを参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出する誤差スケール算出部と、
複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部と、
を備える学習モデル生成装置。 A generation device for generating a learning model for estimating an inter-vehicle distance from an image captured by a camera,
An input unit for inputting an image of the preceding vehicle and vehicle position information corresponding to each frame of the image,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle when the vehicle is at the first position, a straight line connecting the optical center of the camera and the lower end in the world coordinate system is obtained, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that calculates the following distance between
The error in which the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position are variables. An error model storage unit that stores a scale model,
Referring to the model of the error scale stored in the error model storage unit, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, An error scale calculator that calculates the scale of the distance error,
A model generation unit that generates a learning model for obtaining the inter-vehicle distance from the image, using the inter-vehicle distance and the scale of the error obtained for the plurality of images as teacher data,
A learning model generation device including.
先行車両が映る映像と当該映像の各フレームに対応する車両の位置情報を入力する入力部と、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系における前記カメラの光学中心と前記下端とを結ぶ直線を求め、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求める距離算出部と、
前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出する誤差スケール算出部と、
複数の前記画像について求めた車間距離および誤差のスケールを教師データとして、画像から車間距離を求める学習モデルを生成するモデル生成部と、
を備える学習モデル生成装置。 A generation device for generating a learning model for estimating an inter-vehicle distance from an image captured by a camera,
An input unit for inputting an image of the preceding vehicle and vehicle position information corresponding to each frame of the image,
When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end in the world coordinate system is obtained, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. A distance calculation unit that obtains an inter-vehicle distance,
Error scale calculation for calculating a scale of error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle Department,
A model generation unit that generates a learning model for obtaining the inter-vehicle distance from the image, using the inter-vehicle distance and the scale of the error obtained for the plurality of images as teacher data,
A learning model generation device including.
車間距離測定装置に前記カメラにて撮影された画像を入力するステップと、
前記車間距離測定装置に前記車両の位置情報を検出するステップと、
前記車間距離測定装置が、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記車間距離測定装置が、前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、
前記車間距離測定装置が、前記車間距離および誤差のスケールを出力するステップと、
を備える車間距離測定方法。 A method for measuring an inter-vehicle distance with a preceding vehicle based on an image taken by a camera mounted on the vehicle and position information of the vehicle,
A step of inputting an image taken by the camera to the inter-vehicle distance measuring device,
Detecting the position information of the vehicle in the inter-vehicle distance measuring device,
The inter-vehicle distance measuring device identifies the lower end of the preceding vehicle in the image of the preceding vehicle when the vehicle is at the first position, and defines a straight line connecting the optical center of the camera and the lower end in the world coordinate system. In addition to the above, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the second position where the straight line intersects the road is obtained, so that the vehicle is located at the first position. The step of obtaining the inter-vehicle distance with the preceding vehicle when there is,
The inter-vehicle distance measuring device has a length in the image from the optical center of the camera to the lower end of the preceding vehicle, and a displacement of the pitch angle of the camera between the first position and the second position. With reference to an error model storage unit that stores a model of error scale with and as variables, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera. A step of calculating a scale of the error of the inter-vehicle distance,
The inter-vehicle distance measuring device outputs the inter-vehicle distance and an error scale,
An inter-vehicle distance measuring method including.
車間距離測定装置に前記カメラにて撮影された画像を入力するステップと、
前記車間距離測定装置に前記車両の位置情報を検出するステップと、
前記車間距離測定装置が、前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記車間距離測定装置が、前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出するステップと、
前記車間距離測定装置が、前記車間距離および誤差のスケールを出力するステップと、
を備える車間距離測定方法。 A method for measuring an inter-vehicle distance with a preceding vehicle based on an image taken by a camera mounted on the vehicle and position information of the vehicle,
A step of inputting an image taken by the camera to the inter-vehicle distance measuring device,
Detecting the position information of the vehicle in the inter-vehicle distance measuring device,
The inter-vehicle distance measuring device identifies the lower end of the preceding vehicle in the image of the preceding vehicle when the vehicle is at the first position, and defines a straight line connecting the optical center of the camera and the lower end in the world coordinate system. In addition to the above, the shape of the road is obtained based on the position information sequentially obtained by the traveling of the vehicle, and the second position where the straight line intersects the road is obtained, so that the vehicle is located at the first position. The step of obtaining the inter-vehicle distance with the preceding vehicle when there is,
The inter-vehicle distance measuring device detects an error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle. A step of calculating a scale,
The inter-vehicle distance measuring device outputs the inter-vehicle distance and an error scale,
An inter-vehicle distance measuring method including.
誤差モデル生成装置に道路の構造情報を入力するステップと、
前記誤差モデル生成装置が、前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、
前記誤差モデル生成装置が、前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップと、
を備える誤差モデル生成方法。 When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. A method for generating an error model for estimating an error of the inter-vehicle distance in an inter-vehicle distance measuring device for obtaining an inter-vehicle distance,
Inputting road structure information to the error model generator,
The error model generation device randomly determines the first position and the position of the preceding vehicle, calculates the true value of the inter-vehicle distance to the preceding vehicle using the road structure information, and An error generated at random is sequentially added to the determined rotation angle of the camera and the true value of the vehicle position, and the inter-vehicle distance is calculated by obtaining the second position. Calculating the error with respect to the true value,
The error model generation device, the displacement of the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle in the image as a variable, analyzing the scale of the error of the inter-vehicle distance, ,
An error model generation method comprising:
前記カメラにて撮影された画像を入力するステップと、
前記車両の位置情報を入力するステップと、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記カメラの光学中心から先行車両の下端までの前記画像内での長さと、前記第1の位置と前記第2の位置との間での前記カメラのピッチ角の変位とを変数とする誤差のスケールのモデルを記憶した誤差モデル記憶部を参照し、前記カメラの光学中心から先行車両の下端までの前記画像内での長さとカメラのピッチ角の変位とに基づいて、前記車間距離の誤差のスケールを算出するステップと、
前記車間距離および誤差のスケールを出力するステップと、
を実行させるプログラム。 A program for measuring an inter-vehicle distance to a preceding vehicle on the basis of an image taken by a camera mounted on the vehicle and position information of the vehicle, the computer including:
Inputting an image taken by the camera,
Inputting position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. The step of obtaining the inter-vehicle distance of
The error in which the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera between the first position and the second position are variables. Referring to an error model storage unit that stores a model of the scale, based on the length in the image from the optical center of the camera to the lower end of the preceding vehicle and the displacement of the pitch angle of the camera, the error of the inter-vehicle distance A step of calculating a scale,
Outputting the inter-vehicle distance and error scale,
A program to execute.
前記カメラにて撮影された画像を入力するステップと、
前記車両の位置情報を入力するステップと、
前記車両が第1の位置にあるときに先行車両を撮影した画像において先行車両の下端を識別し、世界座標系において前記カメラの光学中心と前記下端とを結ぶ直線を求めると共に、前記車両が走行することにより逐次得られる位置情報に基づいて道路の形状を求め、前記直線が前記道路と交差する第2の位置を求めることにより、前記車両が前記第1の位置にあったときの先行車両との車間距離を求めるステップと、
前記第1の位置における路面に対する前記第2の位置における路面の傾きと前記カメラの光学中心から先行車両の下端までの前記画像内での長さとに基づいて、誤差のスケールを算出するステップと、
前記車間距離および誤差のスケールを出力するステップと、
を実行させるプログラム。 A program for measuring an inter-vehicle distance to a preceding vehicle on the basis of an image taken by a camera mounted on the vehicle and position information of the vehicle, the computer including:
Inputting an image taken by the camera,
Inputting position information of the vehicle,
The lower end of the preceding vehicle is identified in the image of the preceding vehicle taken when the vehicle is in the first position, and a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. By determining the shape of the road on the basis of the position information that is sequentially obtained, the second position where the straight line intersects the road is obtained, and the preceding vehicle when the vehicle is at the first position is obtained. The step of obtaining the inter-vehicle distance of
Calculating a scale of the error based on the inclination of the road surface at the second position with respect to the road surface at the first position and the length in the image from the optical center of the camera to the lower end of the preceding vehicle,
Outputting the inter-vehicle distance and error scale,
A program to execute.
道路の構造情報を入力するステップと、
前記第1の位置と先行車両の位置をランダムに決定し、前記道路の構造情報を用いて、先行車両までの車間距離の真値を計算すると共に、前記道路構造によって定まるカメラの回転角、車両の位置の真値に対して、ランダムに発生させた誤差を逐次付加して、前記第2の位置を求めることにより車間距離を計算すると共に、計算された車間距離の真値に対する誤差を計算するステップと、
前記カメラのピッチ角の変位と前記カメラの光学中心から先行車両の下端までの前記画像内での長さを変数として、前記車間距離の誤差のスケールを解析するステップと、
を実行させるプログラム。 When the vehicle is in the first position, the lower end of the preceding vehicle is identified in the image of the preceding vehicle, a straight line connecting the optical center of the camera and the lower end is obtained in the world coordinate system, and the vehicle travels. Thus, the shape of the road is obtained based on the position information that is sequentially obtained, and the second position at which the straight line intersects with the road is obtained, whereby the vehicle with the preceding vehicle when the vehicle is at the first position is obtained. In a vehicle-to-vehicle distance measuring apparatus that obtains a vehicle-to-vehicle distance, a program for generating an error model for estimating an error of the vehicle-to-vehicle distance,
The step of inputting road structure information,
The first position and the position of the preceding vehicle are randomly determined, the true value of the inter-vehicle distance to the preceding vehicle is calculated using the road structure information, and the rotation angle of the camera determined by the road structure, the vehicle The error generated at random is sequentially added to the true value of the position, and the inter-vehicle distance is calculated by obtaining the second position, and the error with respect to the true value of the calculated inter-vehicle distance is calculated. Steps,
Displacement of the pitch angle of the camera and the length in the image from the optical center of the camera to the lower end of the preceding vehicle as a variable, analyzing the scale of the error of the inter-vehicle distance,
A program to execute.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019010808A JP7145770B2 (en) | 2019-01-25 | 2019-01-25 | Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019010808A JP7145770B2 (en) | 2019-01-25 | 2019-01-25 | Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020118575A true JP2020118575A (en) | 2020-08-06 |
JP7145770B2 JP7145770B2 (en) | 2022-10-03 |
Family
ID=71891977
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019010808A Active JP7145770B2 (en) | 2019-01-25 | 2019-01-25 | Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7145770B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111899525A (en) * | 2020-08-18 | 2020-11-06 | 重庆紫光华山智安科技有限公司 | Distance measuring method, distance measuring device, electronic device, and storage medium |
KR102365554B1 (en) * | 2021-10-18 | 2022-02-18 | 김창원 | Method and apparatus for providing windows replacement platform using artificial intelligence algorithm |
WO2022204953A1 (en) * | 2021-03-30 | 2022-10-06 | 深圳市锐明技术股份有限公司 | Method and apparatus for determining pitch angle, and terminal device |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003237509A (en) * | 2002-02-13 | 2003-08-27 | Nissan Motor Co Ltd | Outside acknowledging device for vehicle |
JP2013109455A (en) * | 2011-11-18 | 2013-06-06 | Clarion Co Ltd | Image processing device, vehicle system, and image processing method |
JP2015079388A (en) * | 2013-10-17 | 2015-04-23 | 株式会社デンソーアイティーラボラトリ | Inter-vehicle distance measurement apparatus, inter-vehicle distance measurement method, and program |
JP2016050832A (en) * | 2014-08-29 | 2016-04-11 | 株式会社デンソー | Light-flight-type distance measuring device |
JP2018190045A (en) * | 2017-04-28 | 2018-11-29 | 日立オートモティブシステムズ株式会社 | Vehicle electronic control apparatus |
-
2019
- 2019-01-25 JP JP2019010808A patent/JP7145770B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003237509A (en) * | 2002-02-13 | 2003-08-27 | Nissan Motor Co Ltd | Outside acknowledging device for vehicle |
JP2013109455A (en) * | 2011-11-18 | 2013-06-06 | Clarion Co Ltd | Image processing device, vehicle system, and image processing method |
JP2015079388A (en) * | 2013-10-17 | 2015-04-23 | 株式会社デンソーアイティーラボラトリ | Inter-vehicle distance measurement apparatus, inter-vehicle distance measurement method, and program |
JP2016050832A (en) * | 2014-08-29 | 2016-04-11 | 株式会社デンソー | Light-flight-type distance measuring device |
JP2018190045A (en) * | 2017-04-28 | 2018-11-29 | 日立オートモティブシステムズ株式会社 | Vehicle electronic control apparatus |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111899525A (en) * | 2020-08-18 | 2020-11-06 | 重庆紫光华山智安科技有限公司 | Distance measuring method, distance measuring device, electronic device, and storage medium |
WO2022204953A1 (en) * | 2021-03-30 | 2022-10-06 | 深圳市锐明技术股份有限公司 | Method and apparatus for determining pitch angle, and terminal device |
KR102365554B1 (en) * | 2021-10-18 | 2022-02-18 | 김창원 | Method and apparatus for providing windows replacement platform using artificial intelligence algorithm |
Also Published As
Publication number | Publication date |
---|---|
JP7145770B2 (en) | 2022-10-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2858008B1 (en) | Target detecting method and system | |
JP5804185B2 (en) | Moving object position / orientation estimation apparatus and moving object position / orientation estimation method | |
JP6770393B2 (en) | Tracking device and program | |
JP5588812B2 (en) | Image processing apparatus and imaging apparatus using the same | |
JP6197388B2 (en) | Distance measuring device, distance measuring method, and program | |
JP2007263669A (en) | Three-dimensional coordinates acquisition system | |
US9898669B2 (en) | Traveling road surface detection device and traveling road surface detection method | |
JP7145770B2 (en) | Inter-Vehicle Distance Measuring Device, Error Model Generating Device, Learning Model Generating Device, Methods and Programs Therefor | |
JP2017138660A (en) | Object detection method, object detection device and program | |
JP2009198445A (en) | Device and method for object detection | |
JP2010085240A (en) | Image processing device for vehicle | |
JP6552448B2 (en) | Vehicle position detection device, vehicle position detection method, and computer program for vehicle position detection | |
KR20180066618A (en) | Registration method of distance data and 3D scan data for autonomous vehicle and method thereof | |
JP2019066302A (en) | Object estimation device | |
JP6115429B2 (en) | Own vehicle position recognition device | |
JP2010039617A (en) | Object tracking device and program | |
JP6398218B2 (en) | Self-position calculation device and self-position calculation method | |
JP2009139325A (en) | Travel road surface detecting apparatus for vehicle | |
JP6488226B2 (en) | Runway parameter estimation apparatus and program | |
WO2019188704A1 (en) | Self-position estimation device, self-position estimation method, program, and recording medium | |
US11461928B2 (en) | Location estimation apparatus | |
JP2015069288A (en) | Own vehicle position recognition device | |
JP2004038760A (en) | Traveling lane recognition device for vehicle | |
Höber et al. | Phenomenological modelling of lane detection sensors for validating performance of lane keeping assist systems | |
JP2020126394A (en) | Object motion estimation method and object motion estimation apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210416 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220316 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220412 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220823 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220920 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7145770 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |