JP2010262478A - Vehicle control system and safety confirmation determination device - Google Patents

Vehicle control system and safety confirmation determination device Download PDF

Info

Publication number
JP2010262478A
JP2010262478A JP2009112781A JP2009112781A JP2010262478A JP 2010262478 A JP2010262478 A JP 2010262478A JP 2009112781 A JP2009112781 A JP 2009112781A JP 2009112781 A JP2009112781 A JP 2009112781A JP 2010262478 A JP2010262478 A JP 2010262478A
Authority
JP
Japan
Prior art keywords
viewpoint
driver
vehicle control
cluster
detecting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009112781A
Other languages
Japanese (ja)
Inventor
Kenji Kimura
賢治 木村
Okombi Bertin
ベルタン オコンビ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2009112781A priority Critical patent/JP2010262478A/en
Publication of JP2010262478A publication Critical patent/JP2010262478A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a vehicle control system for preventing erroneous determination that a driver does not recognize an obstacle by stabilizing the information of the direction of the viewpoint of a driver in collating the direction of the viewpoint of the driver acquired from a driver monitor camera with the direction of the obstacle to be acquired from an exterior camera. <P>SOLUTION: The vehicle control system 10 is provided with: a driver monitor camera 34f for detecting the direction of the viewpoint of a driver in a prescribed cycle; a viewpoint cluster processing part 31b for detecting the viewpoint moving speed of the driver on angular coordinates; a viewpoint identification processing part 31c for detecting the gazing period of the viewpoint of the driver; and a safety confirmation determination part 31 for determining whether or not the direction of the obstacle detected by an exterior camera 32c is included in the range of the field of vision of the driver calculated on the basis of the viewpoint moving speed and the gazing period, and for executing vehicle control when it is determined that the direction of the obstacle is not included in the range of the field of vision of the driver. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、ドライバモニタカメラで取得するドライバの視点方向と車外カメラで取得した障害物方向とを照合して、当該照合の結果に基づいて各種の車両制御を行う車両制御システムに関する。   The present invention relates to a vehicle control system that collates a driver's viewpoint direction acquired by a driver monitor camera with an obstacle direction acquired by an outside camera and performs various vehicle controls based on the result of the comparison.

従来より、ドライバモニタカメラ等の車内カメラにより検出されるドライバの視点方向と車外カメラやナビ情報等から検出される障害物方向とを同一座標系上で照合(オーバレイ)して、ドライバが障害物を認識しているか否かを判断するシステムが用いられている。   Conventionally, the driver's viewpoint direction detected by an in-vehicle camera such as a driver monitor camera and the obstacle direction detected from the outside camera, navigation information, etc. are collated (overlaid) on the same coordinate system, and the driver is obstructed. A system is used to determine whether or not it is recognized.

このシステムにおいては、例えば、超広角CCDカメラ等の車外カメラで撮像されるドライバ前方の映像とドライバモニタカメラで撮像されるドライバの顔画像とを専用PCを用いて組み合わせて、ドライバの視点方向が前景映像の何処と交差するか演算し、その位置を車外カメラの映像上にオーバレイする。そして、危険な障害物がドライバの視線外に検出できた場合には警告やブレーキ等の車両制御を行う。   In this system, for example, a driver's viewpoint direction is determined by combining a driver's front image captured by a camera outside the vehicle such as an ultra-wide-angle CCD camera and a driver's face image captured by a driver monitor camera using a dedicated PC. It calculates where the foreground image intersects and overlays its position on the image of the camera outside the vehicle. When a dangerous obstacle is detected outside the driver's line of sight, vehicle control such as warning and braking is performed.

ところで、交差点等において歩行者等の確認の警告が必要な場合にのみ警告を行って運転者の運転を支援することが可能な運転支援装置が提供されている(例えば、特許文献1参照)。この運転支援装置においては、自車両の進行方向前方の交差点にある地物情報と、カメラECUを介して取得した運転者の顔向き及び視点方向の検出信号とに基づいて、運転者が交差点における各地物を認識していないと判定した場合に警告を行うものである。   By the way, there is provided a driving support device capable of providing a warning and assisting the driving of the driver only when a warning for confirmation of a pedestrian or the like is required at an intersection or the like (see, for example, Patent Document 1). In this driving support device, based on the feature information at the intersection in front of the traveling direction of the host vehicle and the detection signal of the driver's face direction and viewpoint direction acquired via the camera ECU, the driver is at the intersection. A warning is issued when it is determined that each feature is not recognized.

特開2008−123443号公報JP 2008-123443 A

しかしながら、上記従来のシステムにおいては、ドライバが障害物を認識しているか否かをドライバモニタカメラから取得したドライバの視点方向と車外カメラで取得する障害物方向とを照合して判断するだけなので、以下の問題がある。   However, in the above conventional system, it is only determined by comparing the driver's viewpoint direction acquired from the driver monitor camera with the obstacle direction acquired by the vehicle outside camera, whether or not the driver recognizes the obstacle. There are the following problems.

すなわち、(I)図2に示すように、通常ドライバが運転中に認識できる視野範囲201には視野中心から一定の角度幅を有しているが、上記従来のシステムにおいては、ドライバの視点方向と車外カメラからの障害物方向とが、ほぼ一致しないとドライバが障害物を認識していないと判定する。このため、従来のシステムにおいては、ドライバが実際に障害物を認識している場合でも認識していないと誤判定するという問題がある。   That is, (I) As shown in FIG. 2, the visual field range 201 that can be normally recognized by the driver during driving has a certain angular width from the center of the visual field. If the obstacle direction from the camera outside the vehicle does not substantially match, it is determined that the driver has not recognized the obstacle. For this reason, in the conventional system, there is a problem in that it is erroneously determined that the driver does not recognize the obstacle even when the driver actually recognizes the obstacle.

また、(II)図4(a)の視点(黒点で示す)の動きに示すように、人間の眼球は実際には例えば毎秒80回程度、約10μm縦方向にトレモアと呼ばれる微動をしている状態であり、視線の動きは、トレモアによる細かな微動と、視対象物の変化による大きな移動からなる。そして、上記の従来のシステムにおいては、トレモアによる細かな視点移動を忠実に視点方向として検出してしまい、このためドライバの視線情報が安定せず、障害物の認識判定精度が不安定となり誤判定を生じて、ひいては誤った警報の吹鳴や不吹鳴を繰り返してしまうという問題もある。   Further, (II) as shown in the movement of the viewpoint (indicated by black dots) in FIG. 4A, the human eyeball actually performs a fine movement called tremor in the vertical direction of about 10 μm, for example, about 80 times per second. The movement of the line of sight consists of fine fine movement due to tremor and large movement due to changes in the visual target. In the conventional system described above, fine viewpoint movement due to tremor is detected faithfully as the viewpoint direction, so that the driver's line-of-sight information is not stable, and the obstacle recognition accuracy becomes unstable, resulting in erroneous determination. As a result, there is also a problem that repeated false alarms and non-sounds are repeated.

本発明は以上の課題に鑑みてなされたものであり、車外カメラで取得した障害物方向とドライバモニタカメラで取得するドライバの視点方向とを照合する際に、ドライバの視点方向の情報を安定化して、ドライバが障害物を認識しているのに認識していないと誤判定することを防止して、より正確な照合結果に基づいてドライバの安全を確認する安全確認判定装置、及び当該照合結果に基づいて車両制御を行う車両制御システムを提供することを目的とする。   The present invention has been made in view of the above problems, and stabilizes the information of the driver's viewpoint direction when collating the obstacle direction acquired by the outside camera with the viewpoint direction of the driver acquired by the driver monitor camera. A safety confirmation determination device for preventing the driver from erroneously determining that the obstacle is recognized but not recognizing and confirming the driver's safety based on a more accurate verification result, and the verification result An object of the present invention is to provide a vehicle control system that performs vehicle control based on the above.

以上の課題を解決するために、本発明に係る車両制御システムは、ドライバモニタカメラを用いて検出されるドライバの視点方向と、車外カメラを用いて検出される障害物方向とを照合し、当該照合の結果を用いて車両制御を行う車両制御システムであって、ドライバの視点方向を所定周期で検出する視点検出手段と、角度座標上でのドライバの視点移動速度を検出する視点移動速度検出手段と、ドライバの視点の注視期間を検出する注視期間検出手段と、上記視点移動速度と上記注視期間に基づいて算出されるドライバの視野範囲に、上記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定手段と、上記安全確認判定手段において、ドライバの上記視野範囲に上記障害物方向が含まれないと判定された場合に車両制御の実行が可能な電子制御手段とを備えることを特徴とする。   In order to solve the above problems, a vehicle control system according to the present invention collates a driver's viewpoint direction detected using a driver monitor camera with an obstacle direction detected using an outside camera, and A vehicle control system that performs vehicle control using the result of collation, a viewpoint detection unit that detects a driver's viewpoint direction in a predetermined cycle, and a viewpoint movement speed detection unit that detects a driver's viewpoint movement speed on angular coordinates And the gaze period detecting means for detecting the gaze period of the driver's viewpoint, and the driver's visual field range calculated based on the viewpoint movement speed and the gaze period includes the obstacle direction detected by the outside camera. A safety confirmation determination means for determining whether the obstacle direction is not included in the visual field range of the driver in the safety confirmation determination means and the safety confirmation determination means Wherein the control execution and an electronic control unit capable.

この構成により、車外カメラで取得した障害物方向とドライバモニタカメラで取得するドライバの視点方向とを照合する際に、上記安全確認判定手段は、上記視点移動速度検出手段において検出される視点移動速度と、上記注視期間検出手段において検出される注視期間との情報を用いてドライバの視野範囲を特定して、ドライバが障害物を認識しているか否かを判定できる。このため、本発明では、ドライバが障害物を認識しているのに認識していないと誤判定することを防止して、より正確な照合結果に基づいて車両制御を行うことができる。   With this configuration, when the obstacle direction acquired by the outside camera and the viewpoint direction of the driver acquired by the driver monitor camera are collated, the safety confirmation determining unit detects the viewpoint moving speed detected by the viewpoint moving speed detecting unit. Then, it is possible to determine whether or not the driver recognizes an obstacle by specifying the visual field range of the driver using information on the gaze period detected by the gaze period detection unit. For this reason, in the present invention, it is possible to prevent erroneous determination that the driver recognizes an obstacle but does not recognize it, and to perform vehicle control based on a more accurate collation result.

また、本発明に係る車両制御システムは、さらに、上記視点移動速度検出手段で検出される上記視点移動速度が閾値未満の場合には上記視点を注視点として記録する一方、上記視点移動速度が閾値以上の場合には、以前に記録された連続する複数の注視点を含む範囲を1つの視野範囲とするクラスタを生成する視点クラスタ生成手段を備え、上記電子制御手段は、上記視点クラスタ生成手段において生成されたクラスタに対応したドライバの視野範囲に、上記車外カメラで検出された障害物方向が含まれない場合に車両制御を実行可能とすることを特徴とする。   Further, the vehicle control system according to the present invention further records the viewpoint as a gazing point when the viewpoint movement speed detected by the viewpoint movement speed detection means is less than a threshold value, while the viewpoint movement speed is a threshold value. In the above-described case, it includes viewpoint cluster generation means for generating a cluster having a range including a plurality of consecutive points of gaze recorded previously as one field of view range, and the electronic control means includes: The vehicle control can be executed when the visual field range of the driver corresponding to the generated cluster does not include the obstacle direction detected by the outside camera.

この構成により、上記安全確認判定手段は、視点が上記視点クラスタ手段において生成された同一クラスタ内である場合には、ドライバは同一視野範囲を認識していると判定することが可能とり、ドライバの視点方向を安定化することができる。   With this configuration, the safety confirmation determination unit can determine that the driver recognizes the same visual field range when the viewpoint is within the same cluster generated by the viewpoint cluster unit. The viewpoint direction can be stabilized.

また、本発明に係る車両制御システムは、さらに、上記視点クラスタ生成手段においてクラスタが生成された場合、上記視点移動速度が閾値以上の視点の注視期間を検出して、当該注視期間が閾値以下の場合には、当該生成されたクラスタの記録を削除する一方、上記注視期間が閾値以上の場合には、当該生成されたクラスタと当該視点を含む新たなクラスタを生成してドライバの視野範囲の同定処理を行う視点同定処理手段を備え、上記電子制御手段は、上記視点同定処理手段において生成された上記新たなクラスタに対応するドライバの視野範囲内に、上記車外カメラで検出される障害物方向が含まれない場合に車両制御を実行可能とすることを特徴とする。   Further, the vehicle control system according to the present invention further detects a gaze period of a viewpoint in which the viewpoint moving speed is equal to or greater than a threshold when the cluster is generated in the viewpoint cluster generation unit, and the gaze period is equal to or less than the threshold. In this case, the record of the generated cluster is deleted. On the other hand, if the gaze period is equal to or greater than the threshold value, a new cluster including the generated cluster and the viewpoint is generated to identify the driver's visual field range. Viewpoint identification processing means for performing processing, and the electronic control means has an obstacle direction detected by the outside camera within the visual field range of the driver corresponding to the new cluster generated by the viewpoint identification processing means. When not included, vehicle control can be executed.

この構成により、上記視点同定手段は、上記注視期間検出手段で検出される注視期間の閾値を用いることで、視点移動速度が閾値以上の視点の動きがある場合でも、ドライバが同一物体を認識しているとする新たなクラスタを生成し、このクラスタに基づいてドライバの視点方向を安定化することができる。   With this configuration, the viewpoint identification unit uses the gaze period threshold detected by the gaze period detection unit, so that the driver recognizes the same object even when there is a viewpoint movement whose viewpoint moving speed is equal to or greater than the threshold. A new cluster can be generated, and the viewpoint direction of the driver can be stabilized based on this cluster.

また、本発明に係る車両制御システムは、さらに、上記視点検出手段において所定周期で視点が検出されたか否かを判定し、所定周期での視点検出にトラッキングエラーが発生している場合には1つ前に取得した視点データが注視点か否かを判定し、注視点の場合には当該注視点のデータを使用し、注視点でない場合にはトラッキングエラー発生時の視点データをないものとするトラッキングエラー補正手段を備えることを特徴とする。   In addition, the vehicle control system according to the present invention further determines whether or not a viewpoint is detected at a predetermined cycle in the viewpoint detection unit, and when a tracking error occurs in the viewpoint detection at the predetermined cycle, 1 is determined. Determine whether the previous viewpoint data is a gazing point. If it is a gazing point, use the gazing point data. If it is not a gazing point, there is no viewpoint data at the time of tracking error. Tracking error correction means is provided.

この構成により、上記トラッキングエラー補正手段は、車両環境によりドライバの視点情報にトラッキングエラーが発生した場合でも、以前の注視点のデータを使用する等できるためトラッキングエラーが発生しても補正処理を行うことができる。   With this configuration, the tracking error correction means performs correction processing even when a tracking error occurs because a previous gaze point data can be used even when a tracking error occurs in the driver's viewpoint information due to the vehicle environment. be able to.

なお、本発明に係る車両制御システムを構成する処理手段をステップとする車両制御方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、当該プログラムをDVD、CD−ROM等の記録媒体や通信ネットワーク等の伝送媒体を介して流通させることができるのは言うまでもない。   In addition, it implement | achieves as a vehicle control method which makes the processing means which comprises the vehicle control system which concerns on this invention a step, implement | achieves those steps as a program which makes a computer perform, and records the said program on DVD, CD-ROM, etc. It goes without saying that it can be distributed via a transmission medium such as a medium or a communication network.

本発明に係る車両制御システムでは、車外カメラで取得した障害物方向とドライバモニタカメラで取得するドライバの視点方向とを照合する際、ドライバモニタカメラで取得するドライバの視点方向の情報を安定化して、ドライバが障害物を認識しているのに認識していないと誤判定することを防止して、より正確な照合結果に基づいて各種の車両制御を行うことができる。   In the vehicle control system according to the present invention, when the obstacle direction acquired by the outside camera and the driver's viewpoint direction acquired by the driver monitor camera are collated, information on the driver's viewpoint direction acquired by the driver monitor camera is stabilized. Thus, it is possible to prevent the driver from erroneously determining that the obstacle is recognized but not recognized, and perform various vehicle controls based on more accurate matching results.

実施の形態に係る車両制御システムの全体図Overall view of vehicle control system according to embodiment 一般的な運転中におけるドライバの視野範囲の一例を示す図The figure which shows an example of the visual field range of the driver during general driving 実施の形態に係る車両制御システムの機能ブロック図Functional block diagram of a vehicle control system according to an embodiment 実施の形態に係る安全確認判定部における視点安定化処理の説明図Explanatory drawing of the viewpoint stabilization process in the safety confirmation determination part which concerns on embodiment 実施の形態に係る車両制御システムの全体の動作手順を示すフローチャートThe flowchart which shows the operation | movement procedure of the whole vehicle control system which concerns on embodiment. ステップS11に示すトラッキングエラー補正時の動作手順を示すフローチ ャートFlow chart showing the operation procedure at the time of tracking error correction shown in step S11 ステップS12に示す視点クラスタ処理時の動作手順を示すフローチャートThe flowchart which shows the operation | movement procedure at the time of the viewpoint cluster process shown to step S12 ステップS13に示す視点同定処理時の動作手順を示すフローチャートThe flowchart which shows the operation | movement procedure at the time of the viewpoint identification process shown to step S13. 視点同定処理におけるクラスタの別の形態を説明する図The figure explaining another form of the cluster in viewpoint identification processing

以下、本発明に係る車両制御システム及び安全確認判定装置の実施の形態に関して、図面を参照しながら説明を行う。   Hereinafter, embodiments of a vehicle control system and a safety confirmation determination device according to the present invention will be described with reference to the drawings.

(実施の形態)
図1は、本実施の形態に係る車両制御システム10の全体図を示している。
車両制御システム10は、ドライバモニタカメラ101を用いてドライバ100の視点方向を取得し、また、車外カメラ102を用いて前方画像から所定領域104の障害物103と車両との相対方向を取得する。
(Embodiment)
FIG. 1 shows an overall view of a vehicle control system 10 according to the present embodiment.
The vehicle control system 10 acquires the viewpoint direction of the driver 100 using the driver monitor camera 101, and acquires the relative direction between the obstacle 103 in the predetermined area 104 and the vehicle from the front image using the outside camera 102.

そして、図1(b)に示すように、車両制御システム10は、ドライバ100の視点中心106から所定の角度幅を有する視野範囲105に障害物103が存在するか否かでドライバの安全確認状態を判定し、障害物103がドライバの視野範囲105内で認識されていない場合には、警報や自動ブレーキ等の各種の車両制御を実施するものである。   As shown in FIG. 1B, the vehicle control system 10 determines whether or not the driver is in a safety confirmation state based on whether or not the obstacle 103 exists in the visual field range 105 having a predetermined angular width from the viewpoint center 106 of the driver 100. When the obstacle 103 is not recognized within the driver's visual field range 105, various vehicle controls such as warning and automatic braking are performed.

図2は、一般的な運転中におけるドライバの視野範囲201の一例を示す図であり、ドライバが運転中に前方障害物を正確に認識できる視野範囲201は、例えば視野中心から略±5〜20度(但しドライバの意識状態で変化する)の角度幅を有する楕円形状となる。   FIG. 2 is a diagram illustrating an example of a driver's visual field range 201 during general driving. The visual field range 201 in which the driver can accurately recognize a front obstacle during driving is, for example, approximately ± 5 to 20 from the center of the visual field. It becomes an elliptical shape having an angular width of degrees (however, it changes depending on the driver's consciousness state).

図3は、本実施の形態に係る車両制御システム10の機能ブロック図を示す。   FIG. 3 shows a functional block diagram of the vehicle control system 10 according to the present embodiment.

車両制御システム10においては、安全確認判定部31(特許請求の範囲の安全確認判定装置に該当)、環境情報獲得部32、警報通知部33、及び運転情報獲得部34が互いにバスを介して接続されている。   In the vehicle control system 10, a safety confirmation determination unit 31 (corresponding to a safety confirmation determination device in claims), an environment information acquisition unit 32, an alarm notification unit 33, and a driving information acquisition unit 34 are connected to each other via a bus. Has been.

環境情報獲得部32は、車両周辺の各種の環境情報を取得して安全確認判定部31に送信する処理部であり、GPS(Global Positioning System)情報を取得するGPS情報取得部32a、道路に関する地図情報が記録された道路データベース32b、車体のフロントガラスの上部付近に設けられたCCD(charged coupled device)カメラ等の車外カメラ32c、及び前方や側方の障害物までの距離を測定する距離測定機能や障害物に対する速度を測定する速度測定機能を備えたミリ波レーダ等のレーダ32dを備えている。   The environmental information acquisition unit 32 is a processing unit that acquires various environmental information around the vehicle and transmits the environmental information to the safety confirmation determination unit 31, and includes a GPS information acquisition unit 32a that acquires GPS (Global Positioning System) information, and a road map. A road database 32b in which information is recorded, an outside camera 32c such as a CCD (charged coupled device) camera provided near the upper part of the windshield of the vehicle body, and a distance measurement function for measuring the distance to obstacles ahead and to the side And a radar 32d such as a millimeter wave radar having a speed measuring function for measuring a speed with respect to an obstacle.

警報通知部33は、安全確認判定部31から車両制御が必要な場合に送信される信号を受信した場合に、ドライバに対して所定の警告を表示する液晶パネル等の表示部であるディスプレイ33a、及び警告音を発するスピーカ33bを備えている。   The alarm notification unit 33 is a display 33a that is a display unit such as a liquid crystal panel that displays a predetermined warning to the driver when receiving a signal transmitted from the safety confirmation determination unit 31 when vehicle control is required. And a speaker 33b for emitting a warning sound.

運転情報獲得部34は、ドライバの運転情報を取得して安全確認判定部31に送信する処理部であり、車速信号を取得する車速センサ34a、アクセルペダル信号を取得するアクセルセンサ34b、例えば磁気ロータの回転による磁気の変化を検出するブレーキセンサ34c、運転者がハンドルを切った時の前輪の操舵角を感知する舵角センサ34d、左右方向のシグナル信号を取得するターンシグナルセンサ34e、ドライバの視点方向を検知するドライバモニタカメラ34fを備えている。   The driving information acquisition unit 34 is a processing unit that acquires driving information of the driver and transmits the driving information to the safety confirmation determination unit 31, and includes a vehicle speed sensor 34a that acquires a vehicle speed signal, an accelerator sensor 34b that acquires an accelerator pedal signal, such as a magnetic rotor. Brake sensor 34c for detecting a change in magnetism due to rotation of the steering wheel, rudder angle sensor 34d for sensing the steering angle of the front wheels when the driver turns the steering wheel, turn signal sensor 34e for obtaining a left / right signal signal, and the driver's viewpoint A driver monitor camera 34f for detecting the direction is provided.

安全確認判定部31は、環境情報獲得部32及び運転情報獲得部34から取得した情報に基づいて、ドライバの視点方向と車外カメラ32cにおいて撮像された障害物方向とを同一座標系上に展開して車両制御を行うか否かの判定を行う。   Based on the information acquired from the environment information acquisition unit 32 and the driving information acquisition unit 34, the safety confirmation determination unit 31 develops the driver's viewpoint direction and the obstacle direction imaged by the outside camera 32c on the same coordinate system. To determine whether to perform vehicle control.

また、この安全確認判定部31は、トラッキングエラー補正部31a、視点クラスタ処理部31b、及び視点同定処理部31cを備え、ドライバモニタカメラ34fから取得するドライバの視点方向の安定化処理を行う。   In addition, the safety confirmation determination unit 31 includes a tracking error correction unit 31a, a viewpoint cluster processing unit 31b, and a viewpoint identification processing unit 31c, and performs stabilization processing for the viewpoint direction of the driver acquired from the driver monitor camera 34f.

トラッキングエラー補正部31aは、ドライバモニタカメラ34fで所定間隔(例えば100ms)でのドライバの視線情報を正確に取得できているか否かの判定を行う。例えば、天気が良い場合に太陽光がドライバの眼鏡に反射すると反射角度によってはドライバモニタカメラ34fにおいてドライバの視点方向が検出できない。従って、このような場合に、トラッキングエラー補正部31aは、トラッキングエラーが発生したことを検知してドライバの視線データを補正する処理を行う。   The tracking error correction unit 31a determines whether or not the driver's line-of-sight information can be accurately acquired at a predetermined interval (for example, 100 ms) by the driver monitor camera 34f. For example, when the sunlight is reflected on the driver's glasses when the weather is good, the driver's viewpoint direction cannot be detected by the driver monitor camera 34f depending on the reflection angle. Accordingly, in such a case, the tracking error correction unit 31a performs a process of detecting the occurrence of the tracking error and correcting the driver's line-of-sight data.

なお、ドライバモニタカメラ34fを用いたドライバの視点方向検出には、例えば、ドライバの瞳孔を抽出し易くするため近赤外線カメラを使用する。近赤外画像では、瞳孔は周囲に比べ最も輝度値が低い特徴を示す。従って、取得したドライバの画像情報を用いて瞳孔領域の画像からより正確な瞳孔中心の座標を求め、画像中の瞳孔中心座標と、眼球の表面に映り込んだ点光源の像の中心座標の位置関係からグローバル座標系における視点方向を算出することにより検出することができる。   Note that the near-infrared camera is used to detect the driver's viewpoint using the driver monitor camera 34f, for example, in order to easily extract the pupil of the driver. In the near-infrared image, the pupil shows a feature having the lowest luminance value compared to the surroundings. Therefore, more accurate pupil center coordinates are obtained from the image of the pupil region using the acquired driver image information, and the positions of the pupil center coordinates in the image and the center coordinates of the image of the point light source reflected on the surface of the eyeball It can be detected by calculating the viewpoint direction in the global coordinate system from the relationship.

視点クラスタ処理部31bは、ドライバの所定周期で検出される検出された視点間の移動速度を検出して、この視点移動速度に基づいてドライバが同一物体を認識しているか否かを検出し、同一物体を認識していると判断される視野領域を「クラスタ」として取り込む処理を行う。   The viewpoint cluster processing unit 31b detects the movement speed between the detected viewpoints detected in a predetermined cycle of the driver, detects whether the driver recognizes the same object based on the viewpoint movement speed, A process of taking in a visual field area determined to recognize the same object as a “cluster” is performed.

視点同定処理部31cは、ドライバの視点が別の視点位置に移動していない注視している期間である注視期間を検出して、例えば、視点移動速度が所定値以上で素早く動いた場合でも、移動後の視点の注視期間が所定値以上であるならば、同一物体を認識している等、ドライバの視点の同定処理を行う。   The viewpoint identification processing unit 31c detects a gaze period, which is a gaze period in which the driver's viewpoint has not moved to another viewpoint position. For example, even when the viewpoint moving speed moves quickly at a predetermined value or more, If the gaze period of the viewpoint after movement is greater than or equal to a predetermined value, the driver's viewpoint identification process is performed, such as recognizing the same object.

安全確認判定部31は、車外カメラ32cから取得する画像情報に基づいて進行方向の障害物方向を算出する。また、運転情報獲得部34のドライバモニタカメラ34fから取得する画像情報からトラッキングエラー補正部31a、視点クラスタ処理部31b、及び視点同定処理部31cを用いて視点方向が安定化処理されたドライバの視点方向を取得する。そして、安全確認判定部31は、当該障害物方向と当該視点方向とに基づいて、ドライバの視野範囲内に障害物があるか否かを判定する。   The safety confirmation determination unit 31 calculates an obstacle direction in the traveling direction based on image information acquired from the outside camera 32c. The viewpoint of the driver whose viewpoint direction is stabilized by using the tracking error correction unit 31a, the viewpoint cluster processing unit 31b, and the viewpoint identification processing unit 31c from the image information acquired from the driver monitor camera 34f of the driving information acquisition unit 34. Get direction. Then, the safety confirmation determination unit 31 determines whether there is an obstacle within the visual field range of the driver based on the obstacle direction and the viewpoint direction.

また、安全確認判定部31は、障害物がドライバの視野範囲外で所定距離よりも接近する等、ドライバが障害物に対して安全確認をしていないと判定する場合、ディスプレイ33aを用いて警告表示、若しくはスピーカ33bを用いてドライバに警告音を発するための制御信号を警報通知部33に送信する。   When the safety confirmation determination unit 31 determines that the driver has not confirmed the safety against the obstacle, for example, when the obstacle is outside the visual field range of the driver and is closer than a predetermined distance, the safety confirmation determination unit 31 warns using the display 33a. A control signal for issuing a warning sound to the driver using the display or the speaker 33 b is transmitted to the alarm notification unit 33.

図4は、本実施の形態に係る安全確認判定部31における視点安定化処理の説明図である。なお、本図に示す黒点は所定間隔で検出される視点の座標である。   FIG. 4 is an explanatory diagram of viewpoint stabilization processing in the safety confirmation determination unit 31 according to the present embodiment. Note that the black dots shown in this figure are the coordinates of the viewpoint detected at a predetermined interval.

図4(a)は、視点クラスタ処理部31bにおいて生成されたクラスタ401、クラスタ402、クラスタ403、及びクラスタ404を示している。本図では、視点移動速度の大きな動きである「サッカード405〜407」による移動により、1つの視野範囲であるクラスタ401〜404が生成される。そして、本発明では、同一クラスタ内ではドライバは同一の視野範囲を認識していると判定して、ドライバの視点方向を安定化できる。   FIG. 4A shows the cluster 401, the cluster 402, the cluster 403, and the cluster 404 generated by the viewpoint cluster processing unit 31b. In this figure, clusters 401 to 404, which are one field of view range, are generated by movement by “saccades 405 to 407”, which are movements with a large viewpoint movement speed. In the present invention, it is determined that the driver recognizes the same visual field range in the same cluster, and the viewpoint direction of the driver can be stabilized.

図4(b)は、ドライバの視点の動きとクラスタ410の関係を示し、安全確認判定部31は、視点が同一クラスタ410内である場合には、ドライバは同一視野範囲を認識していると判定することが可能となる。   FIG. 4B shows the relationship between the movement of the driver's viewpoint and the cluster 410. When the viewpoint is in the same cluster 410, the safety confirmation determining unit 31 recognizes that the driver recognizes the same visual field range. It becomes possible to judge.

図4(c)は、本実施の形態で定義する視点の素早い動きである「サッカード」の説明図である。クラスタ421の中心に開始点420が設定されると、クラスタ421中の視点2a、2b、2cは「注視点」としてラベルされる一方、クラスタ421外の視点2d、2eは視点の素早い動きに該当する「サッカード」としてラベルされる。   FIG. 4C is an explanatory diagram of “saccade”, which is a quick movement of the viewpoint defined in the present embodiment. When the start point 420 is set at the center of the cluster 421, the viewpoints 2a, 2b, and 2c in the cluster 421 are labeled as “gaze points”, while the viewpoints 2d and 2e outside the cluster 421 correspond to the quick movement of the viewpoint. Labeled as "saccade".

図5(a)は、本実施の形態に係る車両制御システムの全体の動作手順を示すフローチャートである。   FIG. 5A is a flowchart showing an overall operation procedure of the vehicle control system according to the present embodiment.

最初に、安全確認判定部31は、ドライバモニタカメラ34fから取得するドライバの視点方向の安定化処理を行い(ステップS501)、また、安定化処理が施された後のドライバの視点方向及び車外カメラより前方の障害物方向を取得して同一座標系にオーバレイする処理を行う(ステップS502)。   First, the safety confirmation determination unit 31 performs the stabilization process of the driver's viewpoint direction acquired from the driver monitor camera 34f (step S501), and the driver's viewpoint direction and the camera outside the vehicle after the stabilization process is performed. A process of acquiring the obstacle direction ahead and overlaying on the same coordinate system is performed (step S502).

次に、安全確認判定部31は、ドライバの視野範囲に障害物があるか否かを判定して(ステップS503)、障害物が認識できていない危険な場合には(ステップS503でYES)、スピーカ33bを用いて警報を行う(ステップS504)。   Next, the safety confirmation determination unit 31 determines whether or not there is an obstacle in the visual field range of the driver (step S503). If there is a danger that the obstacle cannot be recognized (YES in step S503), An alarm is given using the speaker 33b (step S504).

図5(b)は、ステップS501に示すドライバの視点方向の安定化処理における動作手順を示すフローチャートである。   FIG. 5B is a flowchart showing an operation procedure in the stabilization process of the viewpoint direction of the driver shown in step S501.

最初に、安全確認判定部31は、リアルタイムバッファに蓄積されたドライバの現在の視点データを読み込む(ステップS10)。
次に、トラッキングエラー補正部31aは、所定間隔で取得されるドライバの視点からトラッキングエラーを検出して補正処理を行う(ステップS11)。この詳細な動作手順は図6において説明する。
First, the safety confirmation determination unit 31 reads the current viewpoint data of the driver accumulated in the real-time buffer (step S10).
Next, the tracking error correction unit 31a performs a correction process by detecting a tracking error from the viewpoint of the driver acquired at a predetermined interval (step S11). This detailed operation procedure will be described with reference to FIG.

そして、視点クラスタ処理部31bは、複数の視点情報を用いてクラスタを生成する処理を行う(ステップS12)。この詳細な動作手順は図7において説明する。
最後に、視点同定処理部31cは、ドライバが同一物体を認識しているか否かを判定して、ドライバの視点の同定処理を行う(ステップS13)。この詳細な動作手順は図8において説明する。
Then, the viewpoint cluster processing unit 31b performs a process of generating a cluster using a plurality of viewpoint information (step S12). This detailed operation procedure will be described with reference to FIG.
Finally, the viewpoint identification processing unit 31c determines whether or not the driver recognizes the same object, and performs a driver's viewpoint identification process (step S13). This detailed operation procedure will be described with reference to FIG.

図6は、ステップS11に示すトラッキングエラー補正時の動作手順を示すフローチャートである。   FIG. 6 is a flowchart showing an operation procedure at the time of tracking error correction shown in step S11.

最初に、トラッキングエラー補正部31aは、所定間隔で読み込まれるリアルタイムバッファのドライバの視点データから、視点データが取得できない「ミシングデータ」が検出されるか否かを判定する(ステップS601)。   First, the tracking error correction unit 31a determines whether or not “missing data” from which viewpoint data cannot be acquired is detected from the viewpoint data of the driver of the real-time buffer read at a predetermined interval (step S601).

ここで、ミシングデータとは、例えば100ms毎に検出されるべきドライバの視点方向のデータが検出できない状態である。例えばドライバの視線データが取得できた場合にはtruck_status=0となり、取得できていない期間においてはtruck_status=1と定義されるために、トラッキングエラー補正部31aは、このtruck_statusの数値によりトラッキングエラーが発生しているか否かを検出できる。   Here, the mixing data is a state in which, for example, data in the viewpoint direction of the driver that should be detected every 100 ms cannot be detected. For example, when the driver's line-of-sight data can be acquired, truck_status = 0, and in the period when the driver's line-of-sight cannot be acquired, it is defined as truck_status = 1. Therefore, the tracking error correction unit 31a generates a tracking error due to the numerical value of the truck_status It can be detected whether or not.

次に、トラッキングエラー補正部31aは、ミシングデータが検出されない正規の処理の場合には(ステップS601でNO)、ステップS12に示す視点クラスタ処理に移行する。   Next, in the case of a regular process in which no mixing data is detected (NO in step S601), the tracking error correction unit 31a proceeds to the viewpoint cluster process shown in step S12.

一方、ミシングデータが検出された場合には(ステップS601でYES)、トラッキングエラー補正部31aは、1つ前に取得された視点が注視点であるか否かを判定する(ステップS602)。   On the other hand, when the mixing data is detected (YES in step S601), the tracking error correction unit 31a determines whether or not the viewpoint acquired immediately before is a gazing point (step S602).

そして、1つ前の視点が注視点の場合には(ステップS602でYES)、トラッキングエラー補正部31aは、1つ前の注視点を今回の視点として使用する(ステップS604)。一方、1つ前の点が注視点でない場合には(ステップS602でNO)、トラッキングエラー補正部31aは、トラッキングエラーを無視して(ステップS603)、ステップS10に戻り、再度リアルタイムバッファ内におけるドライバの視点データの読み込み処理を行う。   If the previous viewpoint is a gazing point (YES in step S602), the tracking error correction unit 31a uses the previous gazing point as the current viewpoint (step S604). On the other hand, if the previous point is not the gazing point (NO in step S602), the tracking error correction unit 31a ignores the tracking error (step S603), returns to step S10, and again the driver in the real-time buffer. Reads the viewpoint data.

このように、トラッキングエラー補正部31aは、車両環境によりドライバの視点が検出されない場合、以前の注視点のデータを使用してトラッキングエラーが発生しても補正処理を行うことができる。   As described above, when the driver's viewpoint is not detected due to the vehicle environment, the tracking error correction unit 31a can perform correction processing even if a tracking error occurs using the data of the previous gazing point.

図7は、ステップS12に示す視点クラスタ処理時の動作手順を示すフローチャートである。   FIG. 7 is a flowchart showing an operation procedure during the viewpoint cluster processing shown in step S12.

最初に、視点クラスタ処理部31bは、異なる視点間の移動速度である視点移動速度を検出して(ステップS701)、検出された視点移動速度が閾値未満か否かを判定する(ステップS702)。ここで、視点クラスタ処理部31bの視点移動速度の検出には角度座標系を用いて、例えば、サンプリング周波数が60Hzの場合、視点移動速度の閾値は2deg(=120deg/sec)、2.5deg(=150deg/sec)、3deg(=180deg/sec)等とする。また、サンプリング周波数の60Hzや視点移動速度の閾値は一例であり、本発明の内容がこれに限定されるものではない。   First, the viewpoint cluster processing unit 31b detects a viewpoint movement speed that is a movement speed between different viewpoints (step S701), and determines whether or not the detected viewpoint movement speed is less than a threshold value (step S702). Here, for the detection of the viewpoint movement speed of the viewpoint cluster processing unit 31b, for example, when the sampling frequency is 60 Hz, the threshold of the viewpoint movement speed is 2 deg (= 120 deg / sec), 2.5 deg ( = 150 deg / sec), 3 deg (= 180 deg / sec), etc. Further, the sampling frequency of 60 Hz and the viewpoint moving speed threshold are examples, and the content of the present invention is not limited to this.

次に、検出された視点移動速度が閾値以上の場合には(ステップS702でNO)、視点クラスタ処理部31bは、視点を素早い動きを意味する「サッカード」としてラベルして(ステップS703)、ステップS13に示す視点同定処理に移行する。   Next, when the detected viewpoint moving speed is equal to or higher than the threshold (NO in step S702), the viewpoint cluster processing unit 31b labels the viewpoint as “saccade” meaning quick movement (step S703). The process proceeds to the viewpoint identification process shown in step S13.

一方、速度が閾値未満の場合には(ステップS702でYES)、視点クラスタ処理部31bは、眼が素早く動いていないために、「注視点」としてラベルしてリアルタイムバッファ内にデータを記録して(ステップS704)、再度ステップS10に戻り、リアルタイムバッファ内におけるドライバの視点データの読み込み処理を行う。   On the other hand, when the speed is less than the threshold value (YES in step S702), the viewpoint cluster processing unit 31b records the data in the real-time buffer by labeling as “gazing point” because the eyes are not moving quickly. (Step S704), the process returns to step S10 again, and the process of reading the viewpoint data of the driver in the real-time buffer is performed.

図8は、ステップS13に示す視点同定処理時の動作手順を示すフローチャートである。   FIG. 8 is a flowchart showing an operation procedure during the viewpoint identification process shown in step S13.

最初に、視点同定処理部31cは、サッカードとラベルされた視点以前の複数の連続する注視点を同一クラスタ内として取り込む処理を行う(ステップS801)。   First, the viewpoint identification processing unit 31c performs a process of taking a plurality of continuous gazing points before the viewpoint labeled as saccade as the same cluster (step S801).

次に、視点同定処理部31cは、サッカードとラベルされた視点の注視期間を検出して注視期間が閾値未満か否かを判定する(ステップS802)。ここで、閾値は、例えばサンプリング周波数が60Hzの時には、85〜100msとなる。すなわち、注視期間が100msの場合、視点が0.1秒以上注視している場合にはドライバが同一物体を認識しているとみなす。   Next, the viewpoint identification processing unit 31c detects the gaze period of the viewpoint labeled as saccade, and determines whether or not the gaze period is less than the threshold (step S802). Here, the threshold is 85 to 100 ms when the sampling frequency is 60 Hz, for example. That is, when the gaze period is 100 ms, it is considered that the driver recognizes the same object when the viewpoint is gazing for 0.1 second or longer.

そして、視点同定処理部31cは、注視期間が閾値未満の場合には(ステップS802でYES)、ドライバは別の物体を認識したとして以前のクラスタ情報を削除する(ステップS803)。   Then, when the gaze period is less than the threshold value (YES in step S802), the viewpoint identification processing unit 31c deletes the previous cluster information on the assumption that another object has been recognized (step S803).

一方、注視期間が閾値以上の場合には(ステップS802でNO)、同一クラスタとして取り込み、クラスタの中心点及び注視期間を算出する(ステップS804)。すなわち本発明では、注視期間の閾値を用いることで、サッカードとラベルされる視点の動きがある場合でも、ドライバが同じ物体を認識しているとして、同じクラスタ内に視点を取り込むことができる。   On the other hand, if the gaze period is equal to or greater than the threshold value (NO in step S802), it is captured as the same cluster, and the center point of the cluster and the gaze period are calculated (step S804). That is, according to the present invention, by using the threshold of the gaze period, even when there is a viewpoint movement labeled as saccade, the viewpoint can be taken into the same cluster assuming that the driver recognizes the same object.

そして、視点同定処理部31cにおいて視点同定処理が終了したら再度ステップS10に戻り、リアルタイムバッファからドライバの視点データの読み込み処理が行われる。   When the viewpoint identification process is completed in the viewpoint identification processing unit 31c, the process returns to step S10 again, and the process of reading the viewpoint data of the driver from the real time buffer is performed.

なお、図9は、視点同定処理におけるクラスタの別の形態を説明する図である。本図において視点同定処理部31cは、サッカードとラベルされた視点901の注視期間が長いために、中心点902とした新たなクラスタ900を作成する。そして、視点同定処理部31cは、クラスタ900内での視点の移動は同一物体を認識していると定義することができる。   FIG. 9 is a diagram for explaining another form of cluster in the viewpoint identification processing. In this figure, the viewpoint identification processing unit 31c creates a new cluster 900 with the center point 902 because the viewpoint 901 labeled saccade has a long gaze period. Then, the viewpoint identification processing unit 31c can define that the movement of the viewpoint within the cluster 900 recognizes the same object.

以上の説明のように、本発明に係る車両制御システム10において、視点クラスタ処理部31bは、視点移動速度に基づいて連続した注視点の範囲をクラスタとして決定し、安全確認判定部31は、車外カメラ32cで取得した障害物方向とドライバモニタカメラ34fで取得するドライバの視点方向とを用いた照合処理において、そのクラスタ内に障害物方向が一致すればドライバが障害物を認識していると判定することが可能となる。   As described above, in the vehicle control system 10 according to the present invention, the viewpoint cluster processing unit 31b determines a range of continuous gazing points as a cluster based on the viewpoint movement speed, and the safety confirmation determination unit 31 In the collation process using the obstacle direction acquired by the camera 32c and the viewpoint direction of the driver acquired by the driver monitor camera 34f, if the obstacle direction matches in the cluster, it is determined that the driver recognizes the obstacle. It becomes possible to do.

また、安全確認判定部31は、クラスタを用いることにより、細かな移動は同じ視点として扱って同一の視点方向とすることができ、視線情報を安定させ、照合判定も安定させることができる。従って、本発明に係る車両制御システム10では、車外カメラ32cで取得した障害物方向とドライバモニタカメラ34fで取得するドライバの視点方向とを用いた照合の認識判定精度を向上して、より正確に車両制御を行うことができる。   In addition, the safety confirmation determination unit 31 can use a cluster to handle fine movements as the same viewpoint and have the same viewpoint direction, stabilize the line-of-sight information, and also stabilize the collation determination. Therefore, in the vehicle control system 10 according to the present invention, the accuracy of the collation recognition / determination using the obstacle direction acquired by the outside camera 32c and the viewpoint direction of the driver acquired by the driver monitor camera 34f is improved and more accurately. Vehicle control can be performed.

本発明に係る車両制御システム及び安全確認装置は、例えば車両等の移動体に用いることができる。   The vehicle control system and the safety confirmation device according to the present invention can be used for a moving body such as a vehicle.

10 車両制御システム
31 安全確認判定部
31a トラッキングエラー補正部
31b 視点クラスタ処理部
31c 視点同定処理部
32 環境情報獲得部
32a GPS情報取得部
32b 道路データベース
32c,102 車外カメラ
32d レーダ
33 警報通知部
33a ディスプレイ
33b スピーカ
34 運転情報獲得部
34a 車速センサ
34b アクセルセンサ
34c ブレーキセンサ
34d 舵角センサ
34e ターンシグナルセンサ
34f,101 ドライバモニタカメラ
100 ドライバ
103 障害物
DESCRIPTION OF SYMBOLS 10 Vehicle control system 31 Safety confirmation determination part 31a Tracking error correction part 31b View point cluster process part 31c View point identification process part 32 Environmental information acquisition part 32a GPS information acquisition part 32b Road database 32c, 102 Outside camera 32d Radar 33 Alarm notification part 33a Display 33b Speaker 34 Driving information acquisition unit 34a Vehicle speed sensor 34b Acceleration sensor 34c Brake sensor 34d Rudder angle sensor 34e Turn signal sensor 34f, 101 Driver monitor camera 100 Driver 103 Obstacle

Claims (6)

ドライバモニタカメラを用いて検出されるドライバの視点方向と、車外カメラを用いて検出される障害物方向とを照合し、当該照合の結果を用いて車両制御を行う車両制御システムであって、
ドライバの視点方向を所定周期で検出する視点検出手段と、
角度座標上でのドライバの視点移動速度を検出する視点移動速度検出手段と、
ドライバの視点の注視期間を検出する注視期間検出手段と、
前記視点移動速度と前記注視期間に基づいて算出されるドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定手段と、
前記安全確認判定手段において、ドライバの前記視野範囲に前記障害物方向が含まれないと判定された場合に車両制御の実行が可能な電子制御手段とを備える
ことを特徴とする車両制御システム。
A vehicle control system that collates a viewpoint direction of a driver detected using a driver monitor camera and an obstacle direction detected using a camera outside the vehicle, and performs vehicle control using a result of the comparison,
Viewpoint detection means for detecting the driver's viewpoint direction in a predetermined cycle;
Viewpoint movement speed detection means for detecting the viewpoint movement speed of the driver on the angle coordinates;
Gaze period detecting means for detecting the gaze period of the driver's viewpoint;
Safety confirmation determination means for determining whether or not an obstacle direction detected by the outside camera is included in the visual field range of the driver calculated based on the viewpoint moving speed and the gaze period;
A vehicle control system comprising: the safety confirmation determination means; and an electronic control means capable of executing vehicle control when it is determined that the obstacle direction is not included in the visual field range of the driver.
前記車両制御システムは、さらに、
前記視点移動速度検出手段で検出される前記視点移動速度が閾値未満の場合には前記視点を注視点として記録する一方、前記視点移動速度が閾値以上の場合には、以前に記録された連続する複数の注視点を含む範囲を1つの視野範囲とするクラスタを生成する視点クラスタ生成手段を備え、
前記電子制御手段は、前記視点クラスタ生成手段において生成されたクラスタに対応したドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれない場合に車両制御を実行可能とする
ことを特徴とする請求項1記載の車両制御システム。
The vehicle control system further includes:
When the viewpoint movement speed detected by the viewpoint movement speed detection means is less than a threshold value, the viewpoint is recorded as a gazing point, whereas when the viewpoint movement speed is equal to or greater than the threshold value, the previously recorded continuous A viewpoint cluster generation means for generating a cluster having a range including a plurality of gazing points as one visual field range;
The electronic control means can execute vehicle control when the driver's visual field range corresponding to the cluster generated by the viewpoint cluster generation means does not include an obstacle direction detected by the outside camera. The vehicle control system according to claim 1, wherein:
前記車両制御システムは、さらに、
前記視点クラスタ生成手段においてクラスタが生成された場合、前記視点移動速度が閾値以上の視点の注視期間を検出して、当該注視期間が閾値以下の場合には、当該生成されたクラスタの記録を削除する一方、前記注視期間が閾値以上の場合には、当該生成されたクラスタと当該視点を含む新たなクラスタを生成してドライバの視野範囲の同定処理を行う視点同定処理手段を備え、
前記電子制御手段は、前記視点同定処理手段において生成された前記新たなクラスタに対応するドライバの視野範囲内に、前記車外カメラで検出される障害物方向が含まれない場合に車両制御を実行可能とする
ことを特徴とする請求項2記載の車両制御システム。
The vehicle control system further includes:
When a cluster is generated by the viewpoint cluster generation means, a gaze period of a viewpoint whose viewpoint moving speed is equal to or greater than a threshold is detected, and when the gaze period is equal to or less than a threshold, the generated cluster record is deleted On the other hand, when the gaze period is equal to or greater than a threshold value, it includes viewpoint identification processing means for generating a new cluster including the generated cluster and the viewpoint and performing identification processing of the visual field range of the driver,
The electronic control unit can execute vehicle control when an obstacle direction detected by the outside camera is not included in the visual field range of the driver corresponding to the new cluster generated by the viewpoint identification processing unit. The vehicle control system according to claim 2, wherein:
前記車両制御システムは、さらに、
前記視点検出手段において所定周期で視点が検出されたか否かを判定し、所定周期での視点検出にトラッキングエラーが発生している場合には1つ前に取得した視点データが注視点か否かを判定し、注視点の場合には当該注視点のデータを使用し、注視点でない場合にはトラッキングエラー発生時の視点データをないものとするトラッキングエラー補正手段を備える
ことを特徴とする請求項1から3のいずれか1項に記載の車両制御システム。
The vehicle control system further includes:
It is determined whether or not a viewpoint is detected at a predetermined cycle in the viewpoint detection unit, and if a tracking error has occurred in the viewpoint detection at a predetermined cycle, whether or not the viewpoint data acquired immediately before is a gazing point And a tracking error correction unit that uses the data of the gazing point in the case of a gazing point, and that there is no viewpoint data when a tracking error occurs when the gazing point is not. The vehicle control system according to any one of 1 to 3.
ドライバモニタカメラを用いて検出されるドライバの視点方向と、車外カメラを用いて検出される障害物方向とを同一座標系上で照合してドライバの安全を判定する安全確認判定装置であって、
ドライバの視点方向を所定周期で検出する視点検出手段と、
角度座標上でのドライバの視点移動速度を検出する視点移動速度検出手段と、
ドライバの視点の注視期間を検出する注視期間検出手段と、
前記視点移動速度と前記注視期間に基づいて算出されるドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定手段とを備える
ことを特徴とする安全確認判定装置。
A safety confirmation determination device that determines a driver's safety by collating a driver's viewpoint direction detected using a driver monitor camera and an obstacle direction detected using an outside camera on the same coordinate system,
Viewpoint detection means for detecting the driver's viewpoint direction in a predetermined cycle;
Viewpoint movement speed detection means for detecting the viewpoint movement speed of the driver on the angle coordinates;
Gaze period detecting means for detecting the gaze period of the driver's viewpoint;
Safety confirmation determination means for determining whether or not an obstacle direction detected by the outside camera is included in the visual field range of the driver calculated based on the viewpoint movement speed and the gaze period. Safety confirmation judgment device.
ドライバモニタカメラを用いて検出されるドライバの視点方向と、車外カメラを用いて検出される障害物方向とを照合し、当該照合の結果を用いて車両制御を行う車両制御方法であって、
ドライバの視点方向を所定周期で検出する視点検出ステップと、
角度座標上でのドライバの視点移動速度を検出する視点移動速度検出ステップと、
ドライバの視点の注視期間を検出する注視期間検出ステップと、
前記視点移動速度と前記注視期間に基づいて算出されるドライバの視野範囲に、前記車外カメラで検出された障害物方向が含まれるか否かを判定する安全確認判定ステップと、
前記安全確認判定ステップにおいて、ドライバの前記視野範囲に前記障害物方向が含まれないと判定された場合に車両制御の実行が可能な電子制御ステップとを含む
ことを特徴とする車両制御方法。
A vehicle control method for collating a driver's viewpoint direction detected using a driver monitor camera and an obstacle direction detected using an outside camera, and performing vehicle control using the result of the verification,
A viewpoint detection step of detecting the viewpoint direction of the driver at a predetermined cycle;
A viewpoint movement speed detection step for detecting the viewpoint movement speed of the driver on the angular coordinates;
A gaze period detecting step for detecting a gaze period of the driver's viewpoint;
A safety confirmation determination step for determining whether or not an obstacle direction detected by the outside-vehicle camera is included in the visual field range of the driver calculated based on the viewpoint movement speed and the gaze period;
An electronic control step capable of executing vehicle control when it is determined in the safety confirmation determination step that the obstacle direction is not included in the visual field range of the driver.
JP2009112781A 2009-05-07 2009-05-07 Vehicle control system and safety confirmation determination device Pending JP2010262478A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009112781A JP2010262478A (en) 2009-05-07 2009-05-07 Vehicle control system and safety confirmation determination device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009112781A JP2010262478A (en) 2009-05-07 2009-05-07 Vehicle control system and safety confirmation determination device

Publications (1)

Publication Number Publication Date
JP2010262478A true JP2010262478A (en) 2010-11-18

Family

ID=43360487

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009112781A Pending JP2010262478A (en) 2009-05-07 2009-05-07 Vehicle control system and safety confirmation determination device

Country Status (1)

Country Link
JP (1) JP2010262478A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012137970A (en) * 2010-12-27 2012-07-19 Casio Comput Co Ltd Information processing device and method, and program
JP2016018304A (en) * 2014-07-07 2016-02-01 株式会社デンソーアイティーラボラトリ Safety confirmation determination device and drive assist device
CN113223076A (en) * 2021-04-07 2021-08-06 东软睿驰汽车技术(沈阳)有限公司 Coordinate system calibration method, device and storage medium for vehicle and vehicle-mounted camera

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012137970A (en) * 2010-12-27 2012-07-19 Casio Comput Co Ltd Information processing device and method, and program
JP2016018304A (en) * 2014-07-07 2016-02-01 株式会社デンソーアイティーラボラトリ Safety confirmation determination device and drive assist device
CN113223076A (en) * 2021-04-07 2021-08-06 东软睿驰汽车技术(沈阳)有限公司 Coordinate system calibration method, device and storage medium for vehicle and vehicle-mounted camera
CN113223076B (en) * 2021-04-07 2024-02-27 东软睿驰汽车技术(沈阳)有限公司 Coordinate system calibration method, device and storage medium for vehicle and vehicle-mounted camera

Similar Documents

Publication Publication Date Title
US11385639B2 (en) Automatic driving system
EP3496069B1 (en) Travel assistance device and computer program
JP6775188B2 (en) Head-up display device and display control method
JP5184596B2 (en) Armpit judging device
US7710246B2 (en) Vehicle driving assist system
US7884705B2 (en) Safety-drive assistance device
CN100408383C (en) Information providing device for vehicle
JP6464783B2 (en) Object detection device
JP5966640B2 (en) Abnormal driving detection device and program
JP2018092483A (en) Object recognition device
JP2009073462A (en) Operating state determination device and operation support device
JP4756895B2 (en) Driving support device
US11325470B2 (en) Method, device and computer-readable storage medium with instructions for controlling a display of an augmented-reality head-up display device for a transportation vehicle
JP2020016541A (en) Display controller for vehicles, display control method for vehicles, and control program
JP6941178B2 (en) Automatic operation control device and method
US20220253065A1 (en) Information processing apparatus, information processing method, and information processing program
JP2020125033A (en) Display control device and display control program
JP2017129973A (en) Driving support apparatus and driving support method
JP2010262478A (en) Vehicle control system and safety confirmation determination device
US11623654B2 (en) Systems and methods of assisting vehicle navigation
WO2023029469A1 (en) Vehicle traveling warning method and apparatus
JP2019202642A (en) Travel control device for vehicle
US11685384B2 (en) Driver alertness detection method, device and system
JP2017004339A (en) Driver support device for vehicle
US10981597B2 (en) Vehicle control device and method

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110901