JP2010262478A - Vehicle control system and safety confirmation determination device - Google Patents
Vehicle control system and safety confirmation determination device Download PDFInfo
- Publication number
- JP2010262478A JP2010262478A JP2009112781A JP2009112781A JP2010262478A JP 2010262478 A JP2010262478 A JP 2010262478A JP 2009112781 A JP2009112781 A JP 2009112781A JP 2009112781 A JP2009112781 A JP 2009112781A JP 2010262478 A JP2010262478 A JP 2010262478A
- Authority
- JP
- Japan
- Prior art keywords
- viewpoint
- driver
- vehicle control
- cluster
- detecting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、ドライバモニタカメラで取得するドライバの視点方向と車外カメラで取得した障害物方向とを照合して、当該照合の結果に基づいて各種の車両制御を行う車両制御システムに関する。 The present invention relates to a vehicle control system that collates a driver's viewpoint direction acquired by a driver monitor camera with an obstacle direction acquired by an outside camera and performs various vehicle controls based on the result of the comparison.
従来より、ドライバモニタカメラ等の車内カメラにより検出されるドライバの視点方向と車外カメラやナビ情報等から検出される障害物方向とを同一座標系上で照合(オーバレイ)して、ドライバが障害物を認識しているか否かを判断するシステムが用いられている。 Conventionally, the driver's viewpoint direction detected by an in-vehicle camera such as a driver monitor camera and the obstacle direction detected from the outside camera, navigation information, etc. are collated (overlaid) on the same coordinate system, and the driver is obstructed. A system is used to determine whether or not it is recognized.
このシステムにおいては、例えば、超広角CCDカメラ等の車外カメラで撮像されるドライバ前方の映像とドライバモニタカメラで撮像されるドライバの顔画像とを専用PCを用いて組み合わせて、ドライバの視点方向が前景映像の何処と交差するか演算し、その位置を車外カメラの映像上にオーバレイする。そして、危険な障害物がドライバの視線外に検出できた場合には警告やブレーキ等の車両制御を行う。 In this system, for example, a driver's viewpoint direction is determined by combining a driver's front image captured by a camera outside the vehicle such as an ultra-wide-angle CCD camera and a driver's face image captured by a driver monitor camera using a dedicated PC. It calculates where the foreground image intersects and overlays its position on the image of the camera outside the vehicle. When a dangerous obstacle is detected outside the driver's line of sight, vehicle control such as warning and braking is performed.
ところで、交差点等において歩行者等の確認の警告が必要な場合にのみ警告を行って運転者の運転を支援することが可能な運転支援装置が提供されている(例えば、特許文献1参照)。この運転支援装置においては、自車両の進行方向前方の交差点にある地物情報と、カメラECUを介して取得した運転者の顔向き及び視点方向の検出信号とに基づいて、運転者が交差点における各地物を認識していないと判定した場合に警告を行うものである。 By the way, there is provided a driving support device capable of providing a warning and assisting the driving of the driver only when a warning for confirmation of a pedestrian or the like is required at an intersection or the like (see, for example, Patent Document 1). In this driving support device, based on the feature information at the intersection in front of the traveling direction of the host vehicle and the detection signal of the driver's face direction and viewpoint direction acquired via the camera ECU, the driver is at the intersection. A warning is issued when it is determined that each feature is not recognized.
しかしながら、上記従来のシステムにおいては、ドライバが障害物を認識しているか否かをドライバモニタカメラから取得したドライバの視点方向と車外カメラで取得する障害物方向とを照合して判断するだけなので、以下の問題がある。 However, in the above conventional system, it is only determined by comparing the driver's viewpoint direction acquired from the driver monitor camera with the obstacle direction acquired by the vehicle outside camera, whether or not the driver recognizes the obstacle. There are the following problems.
すなわち、(I)図2に示すように、通常ドライバが運転中に認識できる視野範囲201には視野中心から一定の角度幅を有しているが、上記従来のシステムにおいては、ドライバの視点方向と車外カメラからの障害物方向とが、ほぼ一致しないとドライバが障害物を認識していないと判定する。このため、従来のシステムにおいては、ドライバが実際に障害物を認識している場合でも認識していないと誤判定するという問題がある。
That is, (I) As shown in FIG. 2, the
また、(II)図4(a)の視点(黒点で示す)の動きに示すように、人間の眼球は実際には例えば毎秒80回程度、約10μm縦方向にトレモアと呼ばれる微動をしている状態であり、視線の動きは、トレモアによる細かな微動と、視対象物の変化による大きな移動からなる。そして、上記の従来のシステムにおいては、トレモアによる細かな視点移動を忠実に視点方向として検出してしまい、このためドライバの視線情報が安定せず、障害物の認識判定精度が不安定となり誤判定を生じて、ひいては誤った警報の吹鳴や不吹鳴を繰り返してしまうという問題もある。 Further, (II) as shown in the movement of the viewpoint (indicated by black dots) in FIG. 4A, the human eyeball actually performs a fine movement called tremor in the vertical direction of about 10 μm, for example, about 80 times per second. The movement of the line of sight consists of fine fine movement due to tremor and large movement due to changes in the visual target. In the conventional system described above, fine viewpoint movement due to tremor is detected faithfully as the viewpoint direction, so that the driver's line-of-sight information is not stable, and the obstacle recognition accuracy becomes unstable, resulting in erroneous determination. As a result, there is also a problem that repeated false alarms and non-sounds are repeated.
本発明は以上の課題に鑑みてなされたものであり、車外カメラで取得した障害物方向とドライバモニタカメラで取得するドライバの視点方向とを照合する際に、ドライバの視点方向の情報を安定化して、ドライバが障害物を認識しているのに認識していないと誤判定することを防止して、より正確な照合結果に基づいてドライバの安全を確認する安全確認判定装置、及び当該照合結果に基づいて車両制御を行う車両制御システムを提供することを目的とする。 The present invention has been made in view of the above problems, and stabilizes the information of the driver's viewpoint direction when collating the obstacle direction acquired by the outside camera with the viewpoint direction of the driver acquired by the driver monitor camera. A safety confirmation determination device for preventing the driver from erroneously determining that the obstacle is recognized but not recognizing and confirming the driver's safety based on a more accurate verification result, and the verification result An object of the present invention is to provide a vehicle control system that performs vehicle control based on the above.
以上の課題を解決するために、本発明に係る車両制御システムは、ドライバモニタカメラを用いて検出されるドライバの視点方向と、車外カメラを用いて検出される障害物方向とを照合し、当該照合の結果を用いて車両制御を行う車両制御システムであって、ドライバの視点方向を所定周期で検出する視点検出手段と、角度座標上でのドライバの視点移動速度を検出する視点移動速度検出手段と、ドライバの視点の注視期間を検出する注視期間検出手段と、上記視点移動速度と上記注視期間に基づいて算出されるドライバの視野範囲に、上記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定手段と、上記安全確認判定手段において、ドライバの上記視野範囲に上記障害物方向が含まれないと判定された場合に車両制御の実行が可能な電子制御手段とを備えることを特徴とする。 In order to solve the above problems, a vehicle control system according to the present invention collates a driver's viewpoint direction detected using a driver monitor camera with an obstacle direction detected using an outside camera, and A vehicle control system that performs vehicle control using the result of collation, a viewpoint detection unit that detects a driver's viewpoint direction in a predetermined cycle, and a viewpoint movement speed detection unit that detects a driver's viewpoint movement speed on angular coordinates And the gaze period detecting means for detecting the gaze period of the driver's viewpoint, and the driver's visual field range calculated based on the viewpoint movement speed and the gaze period includes the obstacle direction detected by the outside camera. A safety confirmation determination means for determining whether the obstacle direction is not included in the visual field range of the driver in the safety confirmation determination means and the safety confirmation determination means Wherein the control execution and an electronic control unit capable.
この構成により、車外カメラで取得した障害物方向とドライバモニタカメラで取得するドライバの視点方向とを照合する際に、上記安全確認判定手段は、上記視点移動速度検出手段において検出される視点移動速度と、上記注視期間検出手段において検出される注視期間との情報を用いてドライバの視野範囲を特定して、ドライバが障害物を認識しているか否かを判定できる。このため、本発明では、ドライバが障害物を認識しているのに認識していないと誤判定することを防止して、より正確な照合結果に基づいて車両制御を行うことができる。 With this configuration, when the obstacle direction acquired by the outside camera and the viewpoint direction of the driver acquired by the driver monitor camera are collated, the safety confirmation determining unit detects the viewpoint moving speed detected by the viewpoint moving speed detecting unit. Then, it is possible to determine whether or not the driver recognizes an obstacle by specifying the visual field range of the driver using information on the gaze period detected by the gaze period detection unit. For this reason, in the present invention, it is possible to prevent erroneous determination that the driver recognizes an obstacle but does not recognize it, and to perform vehicle control based on a more accurate collation result.
また、本発明に係る車両制御システムは、さらに、上記視点移動速度検出手段で検出される上記視点移動速度が閾値未満の場合には上記視点を注視点として記録する一方、上記視点移動速度が閾値以上の場合には、以前に記録された連続する複数の注視点を含む範囲を1つの視野範囲とするクラスタを生成する視点クラスタ生成手段を備え、上記電子制御手段は、上記視点クラスタ生成手段において生成されたクラスタに対応したドライバの視野範囲に、上記車外カメラで検出された障害物方向が含まれない場合に車両制御を実行可能とすることを特徴とする。 Further, the vehicle control system according to the present invention further records the viewpoint as a gazing point when the viewpoint movement speed detected by the viewpoint movement speed detection means is less than a threshold value, while the viewpoint movement speed is a threshold value. In the above-described case, it includes viewpoint cluster generation means for generating a cluster having a range including a plurality of consecutive points of gaze recorded previously as one field of view range, and the electronic control means includes: The vehicle control can be executed when the visual field range of the driver corresponding to the generated cluster does not include the obstacle direction detected by the outside camera.
この構成により、上記安全確認判定手段は、視点が上記視点クラスタ手段において生成された同一クラスタ内である場合には、ドライバは同一視野範囲を認識していると判定することが可能とり、ドライバの視点方向を安定化することができる。 With this configuration, the safety confirmation determination unit can determine that the driver recognizes the same visual field range when the viewpoint is within the same cluster generated by the viewpoint cluster unit. The viewpoint direction can be stabilized.
また、本発明に係る車両制御システムは、さらに、上記視点クラスタ生成手段においてクラスタが生成された場合、上記視点移動速度が閾値以上の視点の注視期間を検出して、当該注視期間が閾値以下の場合には、当該生成されたクラスタの記録を削除する一方、上記注視期間が閾値以上の場合には、当該生成されたクラスタと当該視点を含む新たなクラスタを生成してドライバの視野範囲の同定処理を行う視点同定処理手段を備え、上記電子制御手段は、上記視点同定処理手段において生成された上記新たなクラスタに対応するドライバの視野範囲内に、上記車外カメラで検出される障害物方向が含まれない場合に車両制御を実行可能とすることを特徴とする。 Further, the vehicle control system according to the present invention further detects a gaze period of a viewpoint in which the viewpoint moving speed is equal to or greater than a threshold when the cluster is generated in the viewpoint cluster generation unit, and the gaze period is equal to or less than the threshold. In this case, the record of the generated cluster is deleted. On the other hand, if the gaze period is equal to or greater than the threshold value, a new cluster including the generated cluster and the viewpoint is generated to identify the driver's visual field range. Viewpoint identification processing means for performing processing, and the electronic control means has an obstacle direction detected by the outside camera within the visual field range of the driver corresponding to the new cluster generated by the viewpoint identification processing means. When not included, vehicle control can be executed.
この構成により、上記視点同定手段は、上記注視期間検出手段で検出される注視期間の閾値を用いることで、視点移動速度が閾値以上の視点の動きがある場合でも、ドライバが同一物体を認識しているとする新たなクラスタを生成し、このクラスタに基づいてドライバの視点方向を安定化することができる。 With this configuration, the viewpoint identification unit uses the gaze period threshold detected by the gaze period detection unit, so that the driver recognizes the same object even when there is a viewpoint movement whose viewpoint moving speed is equal to or greater than the threshold. A new cluster can be generated, and the viewpoint direction of the driver can be stabilized based on this cluster.
また、本発明に係る車両制御システムは、さらに、上記視点検出手段において所定周期で視点が検出されたか否かを判定し、所定周期での視点検出にトラッキングエラーが発生している場合には1つ前に取得した視点データが注視点か否かを判定し、注視点の場合には当該注視点のデータを使用し、注視点でない場合にはトラッキングエラー発生時の視点データをないものとするトラッキングエラー補正手段を備えることを特徴とする。 In addition, the vehicle control system according to the present invention further determines whether or not a viewpoint is detected at a predetermined cycle in the viewpoint detection unit, and when a tracking error occurs in the viewpoint detection at the predetermined cycle, 1 is determined. Determine whether the previous viewpoint data is a gazing point. If it is a gazing point, use the gazing point data. If it is not a gazing point, there is no viewpoint data at the time of tracking error. Tracking error correction means is provided.
この構成により、上記トラッキングエラー補正手段は、車両環境によりドライバの視点情報にトラッキングエラーが発生した場合でも、以前の注視点のデータを使用する等できるためトラッキングエラーが発生しても補正処理を行うことができる。 With this configuration, the tracking error correction means performs correction processing even when a tracking error occurs because a previous gaze point data can be used even when a tracking error occurs in the driver's viewpoint information due to the vehicle environment. be able to.
なお、本発明に係る車両制御システムを構成する処理手段をステップとする車両制御方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、当該プログラムをDVD、CD−ROM等の記録媒体や通信ネットワーク等の伝送媒体を介して流通させることができるのは言うまでもない。 In addition, it implement | achieves as a vehicle control method which makes the processing means which comprises the vehicle control system which concerns on this invention a step, implement | achieves those steps as a program which makes a computer perform, and records the said program on DVD, CD-ROM, etc. It goes without saying that it can be distributed via a transmission medium such as a medium or a communication network.
本発明に係る車両制御システムでは、車外カメラで取得した障害物方向とドライバモニタカメラで取得するドライバの視点方向とを照合する際、ドライバモニタカメラで取得するドライバの視点方向の情報を安定化して、ドライバが障害物を認識しているのに認識していないと誤判定することを防止して、より正確な照合結果に基づいて各種の車両制御を行うことができる。 In the vehicle control system according to the present invention, when the obstacle direction acquired by the outside camera and the driver's viewpoint direction acquired by the driver monitor camera are collated, information on the driver's viewpoint direction acquired by the driver monitor camera is stabilized. Thus, it is possible to prevent the driver from erroneously determining that the obstacle is recognized but not recognized, and perform various vehicle controls based on more accurate matching results.
以下、本発明に係る車両制御システム及び安全確認判定装置の実施の形態に関して、図面を参照しながら説明を行う。 Hereinafter, embodiments of a vehicle control system and a safety confirmation determination device according to the present invention will be described with reference to the drawings.
(実施の形態)
図1は、本実施の形態に係る車両制御システム10の全体図を示している。
車両制御システム10は、ドライバモニタカメラ101を用いてドライバ100の視点方向を取得し、また、車外カメラ102を用いて前方画像から所定領域104の障害物103と車両との相対方向を取得する。
(Embodiment)
FIG. 1 shows an overall view of a
The
そして、図1(b)に示すように、車両制御システム10は、ドライバ100の視点中心106から所定の角度幅を有する視野範囲105に障害物103が存在するか否かでドライバの安全確認状態を判定し、障害物103がドライバの視野範囲105内で認識されていない場合には、警報や自動ブレーキ等の各種の車両制御を実施するものである。
As shown in FIG. 1B, the
図2は、一般的な運転中におけるドライバの視野範囲201の一例を示す図であり、ドライバが運転中に前方障害物を正確に認識できる視野範囲201は、例えば視野中心から略±5〜20度(但しドライバの意識状態で変化する)の角度幅を有する楕円形状となる。
FIG. 2 is a diagram illustrating an example of a driver's
図3は、本実施の形態に係る車両制御システム10の機能ブロック図を示す。
FIG. 3 shows a functional block diagram of the
車両制御システム10においては、安全確認判定部31(特許請求の範囲の安全確認判定装置に該当)、環境情報獲得部32、警報通知部33、及び運転情報獲得部34が互いにバスを介して接続されている。
In the
環境情報獲得部32は、車両周辺の各種の環境情報を取得して安全確認判定部31に送信する処理部であり、GPS(Global Positioning System)情報を取得するGPS情報取得部32a、道路に関する地図情報が記録された道路データベース32b、車体のフロントガラスの上部付近に設けられたCCD(charged coupled device)カメラ等の車外カメラ32c、及び前方や側方の障害物までの距離を測定する距離測定機能や障害物に対する速度を測定する速度測定機能を備えたミリ波レーダ等のレーダ32dを備えている。
The environmental
警報通知部33は、安全確認判定部31から車両制御が必要な場合に送信される信号を受信した場合に、ドライバに対して所定の警告を表示する液晶パネル等の表示部であるディスプレイ33a、及び警告音を発するスピーカ33bを備えている。
The
運転情報獲得部34は、ドライバの運転情報を取得して安全確認判定部31に送信する処理部であり、車速信号を取得する車速センサ34a、アクセルペダル信号を取得するアクセルセンサ34b、例えば磁気ロータの回転による磁気の変化を検出するブレーキセンサ34c、運転者がハンドルを切った時の前輪の操舵角を感知する舵角センサ34d、左右方向のシグナル信号を取得するターンシグナルセンサ34e、ドライバの視点方向を検知するドライバモニタカメラ34fを備えている。
The driving information acquisition unit 34 is a processing unit that acquires driving information of the driver and transmits the driving information to the safety
安全確認判定部31は、環境情報獲得部32及び運転情報獲得部34から取得した情報に基づいて、ドライバの視点方向と車外カメラ32cにおいて撮像された障害物方向とを同一座標系上に展開して車両制御を行うか否かの判定を行う。
Based on the information acquired from the environment
また、この安全確認判定部31は、トラッキングエラー補正部31a、視点クラスタ処理部31b、及び視点同定処理部31cを備え、ドライバモニタカメラ34fから取得するドライバの視点方向の安定化処理を行う。
In addition, the safety
トラッキングエラー補正部31aは、ドライバモニタカメラ34fで所定間隔(例えば100ms)でのドライバの視線情報を正確に取得できているか否かの判定を行う。例えば、天気が良い場合に太陽光がドライバの眼鏡に反射すると反射角度によってはドライバモニタカメラ34fにおいてドライバの視点方向が検出できない。従って、このような場合に、トラッキングエラー補正部31aは、トラッキングエラーが発生したことを検知してドライバの視線データを補正する処理を行う。
The tracking
なお、ドライバモニタカメラ34fを用いたドライバの視点方向検出には、例えば、ドライバの瞳孔を抽出し易くするため近赤外線カメラを使用する。近赤外画像では、瞳孔は周囲に比べ最も輝度値が低い特徴を示す。従って、取得したドライバの画像情報を用いて瞳孔領域の画像からより正確な瞳孔中心の座標を求め、画像中の瞳孔中心座標と、眼球の表面に映り込んだ点光源の像の中心座標の位置関係からグローバル座標系における視点方向を算出することにより検出することができる。
Note that the near-infrared camera is used to detect the driver's viewpoint using the
視点クラスタ処理部31bは、ドライバの所定周期で検出される検出された視点間の移動速度を検出して、この視点移動速度に基づいてドライバが同一物体を認識しているか否かを検出し、同一物体を認識していると判断される視野領域を「クラスタ」として取り込む処理を行う。 The viewpoint cluster processing unit 31b detects the movement speed between the detected viewpoints detected in a predetermined cycle of the driver, detects whether the driver recognizes the same object based on the viewpoint movement speed, A process of taking in a visual field area determined to recognize the same object as a “cluster” is performed.
視点同定処理部31cは、ドライバの視点が別の視点位置に移動していない注視している期間である注視期間を検出して、例えば、視点移動速度が所定値以上で素早く動いた場合でも、移動後の視点の注視期間が所定値以上であるならば、同一物体を認識している等、ドライバの視点の同定処理を行う。
The viewpoint
安全確認判定部31は、車外カメラ32cから取得する画像情報に基づいて進行方向の障害物方向を算出する。また、運転情報獲得部34のドライバモニタカメラ34fから取得する画像情報からトラッキングエラー補正部31a、視点クラスタ処理部31b、及び視点同定処理部31cを用いて視点方向が安定化処理されたドライバの視点方向を取得する。そして、安全確認判定部31は、当該障害物方向と当該視点方向とに基づいて、ドライバの視野範囲内に障害物があるか否かを判定する。
The safety
また、安全確認判定部31は、障害物がドライバの視野範囲外で所定距離よりも接近する等、ドライバが障害物に対して安全確認をしていないと判定する場合、ディスプレイ33aを用いて警告表示、若しくはスピーカ33bを用いてドライバに警告音を発するための制御信号を警報通知部33に送信する。
When the safety
図4は、本実施の形態に係る安全確認判定部31における視点安定化処理の説明図である。なお、本図に示す黒点は所定間隔で検出される視点の座標である。
FIG. 4 is an explanatory diagram of viewpoint stabilization processing in the safety
図4(a)は、視点クラスタ処理部31bにおいて生成されたクラスタ401、クラスタ402、クラスタ403、及びクラスタ404を示している。本図では、視点移動速度の大きな動きである「サッカード405〜407」による移動により、1つの視野範囲であるクラスタ401〜404が生成される。そして、本発明では、同一クラスタ内ではドライバは同一の視野範囲を認識していると判定して、ドライバの視点方向を安定化できる。
FIG. 4A shows the
図4(b)は、ドライバの視点の動きとクラスタ410の関係を示し、安全確認判定部31は、視点が同一クラスタ410内である場合には、ドライバは同一視野範囲を認識していると判定することが可能となる。
FIG. 4B shows the relationship between the movement of the driver's viewpoint and the
図4(c)は、本実施の形態で定義する視点の素早い動きである「サッカード」の説明図である。クラスタ421の中心に開始点420が設定されると、クラスタ421中の視点2a、2b、2cは「注視点」としてラベルされる一方、クラスタ421外の視点2d、2eは視点の素早い動きに該当する「サッカード」としてラベルされる。
FIG. 4C is an explanatory diagram of “saccade”, which is a quick movement of the viewpoint defined in the present embodiment. When the
図5(a)は、本実施の形態に係る車両制御システムの全体の動作手順を示すフローチャートである。 FIG. 5A is a flowchart showing an overall operation procedure of the vehicle control system according to the present embodiment.
最初に、安全確認判定部31は、ドライバモニタカメラ34fから取得するドライバの視点方向の安定化処理を行い(ステップS501)、また、安定化処理が施された後のドライバの視点方向及び車外カメラより前方の障害物方向を取得して同一座標系にオーバレイする処理を行う(ステップS502)。
First, the safety
次に、安全確認判定部31は、ドライバの視野範囲に障害物があるか否かを判定して(ステップS503)、障害物が認識できていない危険な場合には(ステップS503でYES)、スピーカ33bを用いて警報を行う(ステップS504)。
Next, the safety
図5(b)は、ステップS501に示すドライバの視点方向の安定化処理における動作手順を示すフローチャートである。 FIG. 5B is a flowchart showing an operation procedure in the stabilization process of the viewpoint direction of the driver shown in step S501.
最初に、安全確認判定部31は、リアルタイムバッファに蓄積されたドライバの現在の視点データを読み込む(ステップS10)。
次に、トラッキングエラー補正部31aは、所定間隔で取得されるドライバの視点からトラッキングエラーを検出して補正処理を行う(ステップS11)。この詳細な動作手順は図6において説明する。
First, the safety
Next, the tracking
そして、視点クラスタ処理部31bは、複数の視点情報を用いてクラスタを生成する処理を行う(ステップS12)。この詳細な動作手順は図7において説明する。
最後に、視点同定処理部31cは、ドライバが同一物体を認識しているか否かを判定して、ドライバの視点の同定処理を行う(ステップS13)。この詳細な動作手順は図8において説明する。
Then, the viewpoint cluster processing unit 31b performs a process of generating a cluster using a plurality of viewpoint information (step S12). This detailed operation procedure will be described with reference to FIG.
Finally, the viewpoint
図6は、ステップS11に示すトラッキングエラー補正時の動作手順を示すフローチャートである。 FIG. 6 is a flowchart showing an operation procedure at the time of tracking error correction shown in step S11.
最初に、トラッキングエラー補正部31aは、所定間隔で読み込まれるリアルタイムバッファのドライバの視点データから、視点データが取得できない「ミシングデータ」が検出されるか否かを判定する(ステップS601)。
First, the tracking
ここで、ミシングデータとは、例えば100ms毎に検出されるべきドライバの視点方向のデータが検出できない状態である。例えばドライバの視線データが取得できた場合にはtruck_status=0となり、取得できていない期間においてはtruck_status=1と定義されるために、トラッキングエラー補正部31aは、このtruck_statusの数値によりトラッキングエラーが発生しているか否かを検出できる。
Here, the mixing data is a state in which, for example, data in the viewpoint direction of the driver that should be detected every 100 ms cannot be detected. For example, when the driver's line-of-sight data can be acquired, truck_status = 0, and in the period when the driver's line-of-sight cannot be acquired, it is defined as truck_status = 1. Therefore, the tracking
次に、トラッキングエラー補正部31aは、ミシングデータが検出されない正規の処理の場合には(ステップS601でNO)、ステップS12に示す視点クラスタ処理に移行する。
Next, in the case of a regular process in which no mixing data is detected (NO in step S601), the tracking
一方、ミシングデータが検出された場合には(ステップS601でYES)、トラッキングエラー補正部31aは、1つ前に取得された視点が注視点であるか否かを判定する(ステップS602)。
On the other hand, when the mixing data is detected (YES in step S601), the tracking
そして、1つ前の視点が注視点の場合には(ステップS602でYES)、トラッキングエラー補正部31aは、1つ前の注視点を今回の視点として使用する(ステップS604)。一方、1つ前の点が注視点でない場合には(ステップS602でNO)、トラッキングエラー補正部31aは、トラッキングエラーを無視して(ステップS603)、ステップS10に戻り、再度リアルタイムバッファ内におけるドライバの視点データの読み込み処理を行う。
If the previous viewpoint is a gazing point (YES in step S602), the tracking
このように、トラッキングエラー補正部31aは、車両環境によりドライバの視点が検出されない場合、以前の注視点のデータを使用してトラッキングエラーが発生しても補正処理を行うことができる。
As described above, when the driver's viewpoint is not detected due to the vehicle environment, the tracking
図7は、ステップS12に示す視点クラスタ処理時の動作手順を示すフローチャートである。 FIG. 7 is a flowchart showing an operation procedure during the viewpoint cluster processing shown in step S12.
最初に、視点クラスタ処理部31bは、異なる視点間の移動速度である視点移動速度を検出して(ステップS701)、検出された視点移動速度が閾値未満か否かを判定する(ステップS702)。ここで、視点クラスタ処理部31bの視点移動速度の検出には角度座標系を用いて、例えば、サンプリング周波数が60Hzの場合、視点移動速度の閾値は2deg(=120deg/sec)、2.5deg(=150deg/sec)、3deg(=180deg/sec)等とする。また、サンプリング周波数の60Hzや視点移動速度の閾値は一例であり、本発明の内容がこれに限定されるものではない。 First, the viewpoint cluster processing unit 31b detects a viewpoint movement speed that is a movement speed between different viewpoints (step S701), and determines whether or not the detected viewpoint movement speed is less than a threshold value (step S702). Here, for the detection of the viewpoint movement speed of the viewpoint cluster processing unit 31b, for example, when the sampling frequency is 60 Hz, the threshold of the viewpoint movement speed is 2 deg (= 120 deg / sec), 2.5 deg ( = 150 deg / sec), 3 deg (= 180 deg / sec), etc. Further, the sampling frequency of 60 Hz and the viewpoint moving speed threshold are examples, and the content of the present invention is not limited to this.
次に、検出された視点移動速度が閾値以上の場合には(ステップS702でNO)、視点クラスタ処理部31bは、視点を素早い動きを意味する「サッカード」としてラベルして(ステップS703)、ステップS13に示す視点同定処理に移行する。 Next, when the detected viewpoint moving speed is equal to or higher than the threshold (NO in step S702), the viewpoint cluster processing unit 31b labels the viewpoint as “saccade” meaning quick movement (step S703). The process proceeds to the viewpoint identification process shown in step S13.
一方、速度が閾値未満の場合には(ステップS702でYES)、視点クラスタ処理部31bは、眼が素早く動いていないために、「注視点」としてラベルしてリアルタイムバッファ内にデータを記録して(ステップS704)、再度ステップS10に戻り、リアルタイムバッファ内におけるドライバの視点データの読み込み処理を行う。 On the other hand, when the speed is less than the threshold value (YES in step S702), the viewpoint cluster processing unit 31b records the data in the real-time buffer by labeling as “gazing point” because the eyes are not moving quickly. (Step S704), the process returns to step S10 again, and the process of reading the viewpoint data of the driver in the real-time buffer is performed.
図8は、ステップS13に示す視点同定処理時の動作手順を示すフローチャートである。 FIG. 8 is a flowchart showing an operation procedure during the viewpoint identification process shown in step S13.
最初に、視点同定処理部31cは、サッカードとラベルされた視点以前の複数の連続する注視点を同一クラスタ内として取り込む処理を行う(ステップS801)。
First, the viewpoint
次に、視点同定処理部31cは、サッカードとラベルされた視点の注視期間を検出して注視期間が閾値未満か否かを判定する(ステップS802)。ここで、閾値は、例えばサンプリング周波数が60Hzの時には、85〜100msとなる。すなわち、注視期間が100msの場合、視点が0.1秒以上注視している場合にはドライバが同一物体を認識しているとみなす。
Next, the viewpoint
そして、視点同定処理部31cは、注視期間が閾値未満の場合には(ステップS802でYES)、ドライバは別の物体を認識したとして以前のクラスタ情報を削除する(ステップS803)。
Then, when the gaze period is less than the threshold value (YES in step S802), the viewpoint
一方、注視期間が閾値以上の場合には(ステップS802でNO)、同一クラスタとして取り込み、クラスタの中心点及び注視期間を算出する(ステップS804)。すなわち本発明では、注視期間の閾値を用いることで、サッカードとラベルされる視点の動きがある場合でも、ドライバが同じ物体を認識しているとして、同じクラスタ内に視点を取り込むことができる。 On the other hand, if the gaze period is equal to or greater than the threshold value (NO in step S802), it is captured as the same cluster, and the center point of the cluster and the gaze period are calculated (step S804). That is, according to the present invention, by using the threshold of the gaze period, even when there is a viewpoint movement labeled as saccade, the viewpoint can be taken into the same cluster assuming that the driver recognizes the same object.
そして、視点同定処理部31cにおいて視点同定処理が終了したら再度ステップS10に戻り、リアルタイムバッファからドライバの視点データの読み込み処理が行われる。
When the viewpoint identification process is completed in the viewpoint
なお、図9は、視点同定処理におけるクラスタの別の形態を説明する図である。本図において視点同定処理部31cは、サッカードとラベルされた視点901の注視期間が長いために、中心点902とした新たなクラスタ900を作成する。そして、視点同定処理部31cは、クラスタ900内での視点の移動は同一物体を認識していると定義することができる。
FIG. 9 is a diagram for explaining another form of cluster in the viewpoint identification processing. In this figure, the viewpoint
以上の説明のように、本発明に係る車両制御システム10において、視点クラスタ処理部31bは、視点移動速度に基づいて連続した注視点の範囲をクラスタとして決定し、安全確認判定部31は、車外カメラ32cで取得した障害物方向とドライバモニタカメラ34fで取得するドライバの視点方向とを用いた照合処理において、そのクラスタ内に障害物方向が一致すればドライバが障害物を認識していると判定することが可能となる。
As described above, in the
また、安全確認判定部31は、クラスタを用いることにより、細かな移動は同じ視点として扱って同一の視点方向とすることができ、視線情報を安定させ、照合判定も安定させることができる。従って、本発明に係る車両制御システム10では、車外カメラ32cで取得した障害物方向とドライバモニタカメラ34fで取得するドライバの視点方向とを用いた照合の認識判定精度を向上して、より正確に車両制御を行うことができる。
In addition, the safety
本発明に係る車両制御システム及び安全確認装置は、例えば車両等の移動体に用いることができる。 The vehicle control system and the safety confirmation device according to the present invention can be used for a moving body such as a vehicle.
10 車両制御システム
31 安全確認判定部
31a トラッキングエラー補正部
31b 視点クラスタ処理部
31c 視点同定処理部
32 環境情報獲得部
32a GPS情報取得部
32b 道路データベース
32c,102 車外カメラ
32d レーダ
33 警報通知部
33a ディスプレイ
33b スピーカ
34 運転情報獲得部
34a 車速センサ
34b アクセルセンサ
34c ブレーキセンサ
34d 舵角センサ
34e ターンシグナルセンサ
34f,101 ドライバモニタカメラ
100 ドライバ
103 障害物
DESCRIPTION OF
Claims (6)
ドライバの視点方向を所定周期で検出する視点検出手段と、
角度座標上でのドライバの視点移動速度を検出する視点移動速度検出手段と、
ドライバの視点の注視期間を検出する注視期間検出手段と、
前記視点移動速度と前記注視期間に基づいて算出されるドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定手段と、
前記安全確認判定手段において、ドライバの前記視野範囲に前記障害物方向が含まれないと判定された場合に車両制御の実行が可能な電子制御手段とを備える
ことを特徴とする車両制御システム。 A vehicle control system that collates a viewpoint direction of a driver detected using a driver monitor camera and an obstacle direction detected using a camera outside the vehicle, and performs vehicle control using a result of the comparison,
Viewpoint detection means for detecting the driver's viewpoint direction in a predetermined cycle;
Viewpoint movement speed detection means for detecting the viewpoint movement speed of the driver on the angle coordinates;
Gaze period detecting means for detecting the gaze period of the driver's viewpoint;
Safety confirmation determination means for determining whether or not an obstacle direction detected by the outside camera is included in the visual field range of the driver calculated based on the viewpoint moving speed and the gaze period;
A vehicle control system comprising: the safety confirmation determination means; and an electronic control means capable of executing vehicle control when it is determined that the obstacle direction is not included in the visual field range of the driver.
前記視点移動速度検出手段で検出される前記視点移動速度が閾値未満の場合には前記視点を注視点として記録する一方、前記視点移動速度が閾値以上の場合には、以前に記録された連続する複数の注視点を含む範囲を1つの視野範囲とするクラスタを生成する視点クラスタ生成手段を備え、
前記電子制御手段は、前記視点クラスタ生成手段において生成されたクラスタに対応したドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれない場合に車両制御を実行可能とする
ことを特徴とする請求項1記載の車両制御システム。 The vehicle control system further includes:
When the viewpoint movement speed detected by the viewpoint movement speed detection means is less than a threshold value, the viewpoint is recorded as a gazing point, whereas when the viewpoint movement speed is equal to or greater than the threshold value, the previously recorded continuous A viewpoint cluster generation means for generating a cluster having a range including a plurality of gazing points as one visual field range;
The electronic control means can execute vehicle control when the driver's visual field range corresponding to the cluster generated by the viewpoint cluster generation means does not include an obstacle direction detected by the outside camera. The vehicle control system according to claim 1, wherein:
前記視点クラスタ生成手段においてクラスタが生成された場合、前記視点移動速度が閾値以上の視点の注視期間を検出して、当該注視期間が閾値以下の場合には、当該生成されたクラスタの記録を削除する一方、前記注視期間が閾値以上の場合には、当該生成されたクラスタと当該視点を含む新たなクラスタを生成してドライバの視野範囲の同定処理を行う視点同定処理手段を備え、
前記電子制御手段は、前記視点同定処理手段において生成された前記新たなクラスタに対応するドライバの視野範囲内に、前記車外カメラで検出される障害物方向が含まれない場合に車両制御を実行可能とする
ことを特徴とする請求項2記載の車両制御システム。 The vehicle control system further includes:
When a cluster is generated by the viewpoint cluster generation means, a gaze period of a viewpoint whose viewpoint moving speed is equal to or greater than a threshold is detected, and when the gaze period is equal to or less than a threshold, the generated cluster record is deleted On the other hand, when the gaze period is equal to or greater than a threshold value, it includes viewpoint identification processing means for generating a new cluster including the generated cluster and the viewpoint and performing identification processing of the visual field range of the driver,
The electronic control unit can execute vehicle control when an obstacle direction detected by the outside camera is not included in the visual field range of the driver corresponding to the new cluster generated by the viewpoint identification processing unit. The vehicle control system according to claim 2, wherein:
前記視点検出手段において所定周期で視点が検出されたか否かを判定し、所定周期での視点検出にトラッキングエラーが発生している場合には1つ前に取得した視点データが注視点か否かを判定し、注視点の場合には当該注視点のデータを使用し、注視点でない場合にはトラッキングエラー発生時の視点データをないものとするトラッキングエラー補正手段を備える
ことを特徴とする請求項1から3のいずれか1項に記載の車両制御システム。 The vehicle control system further includes:
It is determined whether or not a viewpoint is detected at a predetermined cycle in the viewpoint detection unit, and if a tracking error has occurred in the viewpoint detection at a predetermined cycle, whether or not the viewpoint data acquired immediately before is a gazing point And a tracking error correction unit that uses the data of the gazing point in the case of a gazing point, and that there is no viewpoint data when a tracking error occurs when the gazing point is not. The vehicle control system according to any one of 1 to 3.
ドライバの視点方向を所定周期で検出する視点検出手段と、
角度座標上でのドライバの視点移動速度を検出する視点移動速度検出手段と、
ドライバの視点の注視期間を検出する注視期間検出手段と、
前記視点移動速度と前記注視期間に基づいて算出されるドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定手段とを備える
ことを特徴とする安全確認判定装置。 A safety confirmation determination device that determines a driver's safety by collating a driver's viewpoint direction detected using a driver monitor camera and an obstacle direction detected using an outside camera on the same coordinate system,
Viewpoint detection means for detecting the driver's viewpoint direction in a predetermined cycle;
Viewpoint movement speed detection means for detecting the viewpoint movement speed of the driver on the angle coordinates;
Gaze period detecting means for detecting the gaze period of the driver's viewpoint;
Safety confirmation determination means for determining whether or not an obstacle direction detected by the outside camera is included in the visual field range of the driver calculated based on the viewpoint movement speed and the gaze period. Safety confirmation judgment device.
ドライバの視点方向を所定周期で検出する視点検出ステップと、
角度座標上でのドライバの視点移動速度を検出する視点移動速度検出ステップと、
ドライバの視点の注視期間を検出する注視期間検出ステップと、
前記視点移動速度と前記注視期間に基づいて算出されるドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定ステップと、
前記安全確認判定ステップにおいて、ドライバの前記視野範囲に前記障害物方向が含まれないと判定された場合に車両制御の実行が可能な電子制御ステップとを含む
ことを特徴とする車両制御方法。 A vehicle control method for collating a driver's viewpoint direction detected using a driver monitor camera and an obstacle direction detected using an outside camera, and performing vehicle control using the result of the verification,
A viewpoint detection step of detecting the viewpoint direction of the driver at a predetermined cycle;
A viewpoint movement speed detection step for detecting the viewpoint movement speed of the driver on the angular coordinates;
A gaze period detecting step for detecting a gaze period of the driver's viewpoint;
A safety confirmation determination step for determining whether or not an obstacle direction detected by the outside-vehicle camera is included in the visual field range of the driver calculated based on the viewpoint movement speed and the gaze period;
An electronic control step capable of executing vehicle control when it is determined in the safety confirmation determination step that the obstacle direction is not included in the visual field range of the driver.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009112781A JP2010262478A (en) | 2009-05-07 | 2009-05-07 | Vehicle control system and safety confirmation determination device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009112781A JP2010262478A (en) | 2009-05-07 | 2009-05-07 | Vehicle control system and safety confirmation determination device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010262478A true JP2010262478A (en) | 2010-11-18 |
Family
ID=43360487
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009112781A Pending JP2010262478A (en) | 2009-05-07 | 2009-05-07 | Vehicle control system and safety confirmation determination device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010262478A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012137970A (en) * | 2010-12-27 | 2012-07-19 | Casio Comput Co Ltd | Information processing device and method, and program |
JP2016018304A (en) * | 2014-07-07 | 2016-02-01 | 株式会社デンソーアイティーラボラトリ | Safety confirmation determination device and drive assist device |
CN113223076A (en) * | 2021-04-07 | 2021-08-06 | 东软睿驰汽车技术(沈阳)有限公司 | Coordinate system calibration method, device and storage medium for vehicle and vehicle-mounted camera |
-
2009
- 2009-05-07 JP JP2009112781A patent/JP2010262478A/en active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012137970A (en) * | 2010-12-27 | 2012-07-19 | Casio Comput Co Ltd | Information processing device and method, and program |
JP2016018304A (en) * | 2014-07-07 | 2016-02-01 | 株式会社デンソーアイティーラボラトリ | Safety confirmation determination device and drive assist device |
CN113223076A (en) * | 2021-04-07 | 2021-08-06 | 东软睿驰汽车技术(沈阳)有限公司 | Coordinate system calibration method, device and storage medium for vehicle and vehicle-mounted camera |
CN113223076B (en) * | 2021-04-07 | 2024-02-27 | 东软睿驰汽车技术(沈阳)有限公司 | Coordinate system calibration method, device and storage medium for vehicle and vehicle-mounted camera |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11385639B2 (en) | Automatic driving system | |
EP3496069B1 (en) | Travel assistance device and computer program | |
JP6775188B2 (en) | Head-up display device and display control method | |
JP5184596B2 (en) | Armpit judging device | |
US7710246B2 (en) | Vehicle driving assist system | |
US7884705B2 (en) | Safety-drive assistance device | |
CN100408383C (en) | Information providing device for vehicle | |
JP6464783B2 (en) | Object detection device | |
JP5966640B2 (en) | Abnormal driving detection device and program | |
JP2018092483A (en) | Object recognition device | |
JP2009073462A (en) | Operating state determination device and operation support device | |
JP4756895B2 (en) | Driving support device | |
US11325470B2 (en) | Method, device and computer-readable storage medium with instructions for controlling a display of an augmented-reality head-up display device for a transportation vehicle | |
JP2020016541A (en) | Display controller for vehicles, display control method for vehicles, and control program | |
JP6941178B2 (en) | Automatic operation control device and method | |
US20220253065A1 (en) | Information processing apparatus, information processing method, and information processing program | |
JP2020125033A (en) | Display control device and display control program | |
JP2017129973A (en) | Driving support apparatus and driving support method | |
JP2010262478A (en) | Vehicle control system and safety confirmation determination device | |
US11623654B2 (en) | Systems and methods of assisting vehicle navigation | |
WO2023029469A1 (en) | Vehicle traveling warning method and apparatus | |
JP2019202642A (en) | Travel control device for vehicle | |
US11685384B2 (en) | Driver alertness detection method, device and system | |
JP2017004339A (en) | Driver support device for vehicle | |
US10981597B2 (en) | Vehicle control device and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20110901 |