JP4186749B2 - Armpit judging device - Google Patents

Armpit judging device Download PDF

Info

Publication number
JP4186749B2
JP4186749B2 JP2003291562A JP2003291562A JP4186749B2 JP 4186749 B2 JP4186749 B2 JP 4186749B2 JP 2003291562 A JP2003291562 A JP 2003291562A JP 2003291562 A JP2003291562 A JP 2003291562A JP 4186749 B2 JP4186749 B2 JP 4186749B2
Authority
JP
Japan
Prior art keywords
gaze
driver
detected
vehicle
travel path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003291562A
Other languages
Japanese (ja)
Other versions
JP2005063105A (en
Inventor
彰 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2003291562A priority Critical patent/JP4186749B2/en
Publication of JP2005063105A publication Critical patent/JP2005063105A/en
Application granted granted Critical
Publication of JP4186749B2 publication Critical patent/JP4186749B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、車両を運転する運転者が脇見をしているか否かを判定する脇見判定装置に関する。   The present invention relates to a side-by-side determination device that determines whether or not a driver driving a vehicle is looking aside.

[特許文献1]に示されるように、車両の運転者が脇見をしているか否かを判定する装置が開発されている。[特許文献1]に記載の装置は、運転者の顔の向きと操舵角とから脇見をしているか否かを判定している。そして、[特許文献1]に記載の装置では、運転状態に応じて判定基準値を変更することで、運転者の個人差に関わらずに脇見判定の精度を向上させることを目的としている。
特開平8−207617号公報
As shown in [Patent Document 1], an apparatus for determining whether or not a driver of a vehicle is looking aside has been developed. The device described in [Patent Document 1] determines whether the driver is looking aside from the direction of the driver's face and the steering angle. The device described in [Patent Document 1] aims to improve the accuracy of the aside look determination regardless of the individual differences of the driver by changing the determination reference value according to the driving state.
JP-A-8-207617

しかし、通常、運転者は運転している車両が走行している走行路の前方経路を注視しながら操舵するため、前方経路のカーブ曲率が変化する場所(直線からカーブに移行する場合、あるカーブから曲率の異なるカーブに移行する場合、カーブから直線に移行する場合など)では、それぞれ操舵角が異なる。このため、[特許文献1]に記載の装置は車両進行方向の走行経路の変化を考慮していないため、運転者の顔の向きと操舵角とからだけでは十分な判定精度が得られない場合があり、さらなる改良が要望されていた。従って、本発明の目的は、優れた判定精度を実現することのできる脇見判定装置を提供することにある。   However, since the driver usually steers while watching the front path of the travel path on which the vehicle being driven is traveling, the place where the curve curvature of the front path changes (when a curve changes from a straight line to a curve, When moving from a curve with a different curvature to when moving from a curve to a straight line, the steering angle is different. For this reason, since the device described in [Patent Document 1] does not take into account changes in the travel route in the vehicle traveling direction, sufficient determination accuracy cannot be obtained only from the driver's face direction and steering angle. There was a need for further improvements. Accordingly, an object of the present invention is to provide an aside look determination device that can realize excellent determination accuracy.

本発明による脇見判定装置は、車両進行方向の状況を前方画像として取得する画像取得手段と、画像取得手段によって取得した前方画像に基づいて、車両が走行している走行路の前方経路を検出する前方走行路検出手段と、前方走行路検出手段によって検出された走行路の前方経路に基づいて、運転者が注視すべき注視領域を前方画像上に設定する注視領域設定手段と、運転者の顔の向きを検出し、検出した顔の向きから運転者の注視方向を前方画像上に設定する注視方向検出手段と、注視領域設定手段によって設定された注視領域、及び、注視方向検出手段によって検出された注視方向に基づいて、運転者が脇見をしているか否かを判定する脇見判定手段と、車両の走行速度を検出する車速検出手段とを備え、注視領域設定手段は、車速検出手段によって検出された車速に応じて決定される車両進行方向距離と、走行路検出手段によって検出された走行路のカーブ半径及び走行路幅に応じて決定される横方向所定距離とに基づいて、注視領域を設定するものであり、当該注視領域設定手段は、車速が速い場合には、車速が遅い場合と比較して、長くなるように車両進行方向距離を決定し、走行路のカーブ半径が小さい場合には、走行路のカーブ半径が大きい場合と比較して、カーブの内側からの距離が短くなるように横方向所定距離を決定することを特徴としている。
The armpit determination device according to the present invention detects a front path of a traveling path on which a vehicle is traveling based on an image acquisition unit that acquires a situation in the vehicle traveling direction as a front image and a front image acquired by the image acquisition unit. A forward travel path detection means, a gaze area setting means for setting a gaze area to be watched by the driver on the front image based on the forward path of the travel path detected by the forward travel path detection means, and the driver's face And detecting the direction of the driver from the detected face direction, the gaze direction detecting means for setting the gaze direction of the driver on the front image, the gaze area set by the gaze area setting means, and the gaze direction detecting means. based on the gaze direction, provided with inattentive determining means for determining whether the driver is looking aside, the vehicle speed detecting means for detecting a running speed of the vehicle, fixation region setting means, vehicle speed detection Based on the vehicle traveling direction distance determined according to the vehicle speed detected by the means, and the lateral predetermined distance determined according to the curve radius and the traveling path width of the traveling path detected by the traveling path detection means, When the vehicle speed is high, the gaze region setting means determines the vehicle traveling direction distance so that it is longer than when the vehicle speed is low, and the curve radius of the travel path is When the distance is small, the predetermined distance in the lateral direction is determined so that the distance from the inside of the curve is shorter than when the curve radius of the traveling road is large .

本発明による脇見判定装置車両進行方向の状況を前方画像として取得する画像取得手段と、前記画像取得手段によって取得した前方画像に基づいて、車両が走行している走行路の前方経路を検出する前方走行路検出手段と、前方走行路検出手段によって検出された走行路の前方経路に基づいて、運転者が注視すべき注視領域を前方画像上に設定する注視領域設定手段と、運転者の顔の向きを検出し、検出した顔の向きから運転者の注視方向を前方画像上に設定する注視方向検出手段と、注視領域設定手段によって設定された注視領域、及び、注視方向検出手段によって検出された注視方向に基づいて、運転者が脇見をしているか否かを判定する脇見判定手段とを備え、注視方向検出手段は、運転者の頭部運動と眼球運動との関係から、運転者が無理なく注視が可能である範囲として注視安定視野角を前方画像上に設定し、脇見判定手段は、注視方向及び注視安定視野角によって決まる範囲内に注視領域が収まっている場合に、運転者が脇見をしていると判定することを特徴としている。
Inattention determining apparatus according to the present invention, an image obtaining unit for obtaining the status of the vehicle traveling direction as a forward image, based on the forward image acquired by the image acquisition unit, detects a forward route of the road on which the vehicle is traveling Based on the forward path of the travel path detected by the forward travel path detection means, gaze area setting means for setting a gaze area to be watched by the driver on the front image, and The direction of the face is detected, and the gaze direction detecting means for setting the driver's gaze direction on the front image from the detected face direction, the gaze area set by the gaze area setting means, and the gaze direction detecting means are detected. on the basis of the gaze direction, and a inattentive determining means for determining whether the driver is looking aside, gaze direction detecting means, the relationship between the head movement and eye movement of the driver, luck The gaze stable viewing angle is set on the front image as a range where the person can gaze without difficulty, and the armpit judging means drives when the gaze area is within the range determined by the gaze direction and the gaze stable viewing angle. It is characterized by determining that the person is looking aside .

本発明による脇見判定装置は、車両進行方向の状況を前方画像として取得する画像取得手段と、画像取得手段によって取得した前方画像に基づいて、車両が走行している走行路の前方経路を検出する前方走行路検出手段と、前方走行路検出手段によって検出された走行路の前方経路に基づいて、運転者が注視すべき注視領域を前方画像上に設定する注視領域設定手段と、運転者の顔の向きを検出し、検出した顔の向きから運転者の注視方向を前方画像上に設定する注視方向検出手段と、車両進行方向の存在する物体を検出し、該物体の位置を前方画像上に設定する物体位置設定手段と、注視領域設定手段によって設定された注視領域、注視方向検出手段によって検出された注視方向、及び、物体位置設定手段によって設定された物体位置に基づいて、運転者が不要な脇見をしているか否かを判定する脇見判定手段と、車両及び物体の間の相対速度を検出する相対速度検出手段と、前記物体位置設定手段によって検出された前記物体の種類を判別し、前記物体の種類、及び、前記相対速度検出手段によって検出された相対速度に基づいて、前記物体に対する危険度を検出する危険度検出手段と、を備え、前記脇見判定手段は、脇見判定に際して用いる前記物体位置として、前記危険度検出手段によって検出した危険度のうち最も高い危険度を有する前記物体の位置を用いることを特徴としている。
Inattention determining apparatus according to the present invention, an image obtaining unit for obtaining the status of the vehicle traveling direction as a forward image, based on the forward image acquired by the image acquiring unit detects the forward path of the road on which the vehicle is traveling A forward travel path detection means, a gaze area setting means for setting a gaze area to be watched by the driver on the front image based on the forward path of the travel path detected by the forward travel path detection means, and the driver's face Detecting the direction of the vehicle and setting the gaze direction of the driver on the front image from the detected face direction; and detecting an object in the vehicle traveling direction, and detecting the position of the object on the front image Based on the object position setting means to be set, the gaze area set by the gaze area setting means, the gaze direction detected by the gaze direction detecting means, and the object position set by the object position setting means There are a inattentive determining means for determining whether the driver is unnecessary inattentive, and the relative speed detecting means for detecting the relative speed between the vehicle and the object, the object detected by the object position setting means And a risk level detection unit that detects a risk level of the object based on the type of the object and the relative speed detected by the relative speed detection unit. The position of the object having the highest risk level among the risk levels detected by the risk level detection means is used as the object position used for the side-by-side determination.

また、判別された物体の種類に基づいて、物体の質量を推定又は検出する物体質量検出手段さらに備えており、危険度検出手段は、相対速度検出手段によって検出された相対速度、及び、物体質量検出手段よって検出された物体質量に基づいて、物体に対する危険度を検出することが好ましい。
The apparatus further includes object mass detection means for estimating or detecting the mass of the object based on the determined type of the object, and the risk detection means includes the relative speed detected by the relative speed detection means and the object. based on the detected object mass by mass detection unit, preferably you to detect the risk relative to the object.

本発明の脇見判定装置によれば、車両進行方向の前方経路に基づいて注視領域を設定し、この注視領域と運転者の顔の向きとに基づいて脇見をしているか否かを判定するため、脇見の判定精度を向上させることができる。さらに、車速が遅いときほど手前に注視領域を設定し、車速が速いときほど遠くに注視領域を設定することができるため、現実的なドライバーモデルに合わせて精度良く注視領域を設定することができる。また、走行路のカーブ半径がきついときほどカーブ内側に注視領域を設定し、走行路のカーブ半径がゆるいほど走行路中央に注視領域を設定することができるため、現実的なドライバーモデルに合わせて精度良く注視領域を設定することができる。その結果、精度良く設定された注視領域に基づいて脇見判定を行うことができ、判定精度を向上させることができる。
According to the side-by- side determination device of the present invention, a gaze area is set based on the forward path in the vehicle traveling direction, and it is determined whether the side is looking aside based on the gaze area and the direction of the driver's face. , It is possible to improve the accuracy of looking aside. Furthermore, since the gaze area can be set in front as the vehicle speed is slower and the gaze area can be set farther as the vehicle speed is faster, the gaze area can be set with high accuracy according to a realistic driver model. In addition, the gaze area can be set inside the curve as the curve radius of the road is tight, and the gaze area can be set in the center of the road as the curve radius of the road is loose. The gaze area can be set with high accuracy. As a result, it is possible to make a side look determination based on the gaze area set with high accuracy, and to improve the determination accuracy.

なお、ここに言う脇見とは、車両の前方経路に基づいて注視しているべき領域を設定したときに、この領域を見ていないことをいう。運転中には、前方経路以外にも注視する対象が存在する(例えば、交通標識やルームミラーやメーター類など)。これらの対象を見ることがすぐに危険な運転につながるわけではない。本発明では、これらの対象を見ることも脇見であると判断され得る。また、前方画像は、モニタなどの表示装置上に画像として表示されることが必須ではなく、画像データとして取り扱われればよい。   Note that the term “aside look” here means that when a region to be watched is set based on the forward path of the vehicle, this region is not viewed. While driving, there are other objects to be watched besides the forward route (for example, traffic signs, room mirrors, meters, etc.). Viewing these objects does not immediately lead to dangerous driving. In the present invention, it can be determined that looking at these objects is also an aside. Further, the front image is not necessarily displayed as an image on a display device such as a monitor, and may be handled as image data.

本発明の脇見判定装置によれば、車両進行方向の前方経路に基づいて注視領域を設定し、この注視領域と運転者の顔の向きとに基づいて脇見をしているか否かを判定するため、脇見の判定精度を向上させることができる。さらに、運転者の頭部運動と眼球運動との関係から設定された注視安定視野角、及び、運転者の頭部方向である注視方向に基づいて脇見判定を行うため、判定精度を向上させることができる。
According to the side-by- side determination device of the present invention, a gaze area is set based on the forward path in the vehicle traveling direction, and it is determined whether the side is looking aside based on the gaze area and the direction of the driver's face. , It is possible to improve the accuracy of looking aside. Furthermore, the determination accuracy is improved because the gaze stable viewing angle set based on the relationship between the driver's head movement and eye movement and the gaze direction that is the driver's head direction is determined. Can do.

本発明の脇見判定装置によれば、車両進行方向の前方経路に基づいて注視領域を設定し、この注視領域と運転者の顔の向きとに基づいて脇見をしているか否かを判定するため、脇見の判定精度を向上させることができる。さらに、このとき、前方経路上及びその近傍に存在する物体を考慮して、不要な脇見をしているか否かを判定することで、脇見判定をより実際的に行うことができる。
According to the side-by- side determination device of the present invention, a gaze area is set based on the forward path in the vehicle traveling direction, and it is determined whether the side is looking aside based on the gaze area and the direction of the driver's face. , It is possible to improve the accuracy of looking aside. Furthermore, at this time, by looking at an object existing on the forward path and in the vicinity thereof, it is possible to more realistically perform the side-by-side determination by determining whether or not the person is looking aside.

上述したように、脇見の中には、前方経路以外に見ることが必要な対象を注視する場合、即ち、脇見として必要な脇見と言えるものも存在する。例えば、上述したものの他、前方経路近傍の歩行者などは、その行動を注視して安全を期する必要があり、このような歩行者を見ること(歩行者を見る脇見)は必要な脇見と言える。このような必要な脇見以外の不要な脇見を検出(判定)することで、脇見判定をより実際的なものとすることができる。   As described above, there is a side look that can be said to be a side look necessary when looking at an object that needs to be seen other than the forward route, that is, a side look. For example, in addition to the above, pedestrians in the vicinity of the forward route need to pay attention to their behavior to ensure safety, and watching such a pedestrian (looking aside a pedestrian) I can say that. By detecting (determining) unnecessary side effects other than such necessary side effects, it is possible to make the side effect determination more practical.

また、本発明の脇見判定装置によれば、物体ごとに危険度を検出(設定)し、これに基づいて上述した脇見判定を行うことで、実際的な脇見判定の精度をより一層向上させることができる。 Moreover, according to the side-by-side determination device of the present invention, the degree of danger is detected (set) for each object, and the above-mentioned side-by-side determination is performed based on this, thereby further improving the accuracy of actual side-by-side determination. Can do.

本発明の脇見判定装置の実施形態について以下に説明する。まず、本発明の脇見判定装置の第一実施形態について説明する。本実施形態の脇見判定装置は車両に搭載されたものであり、その構成図を図1に示す。図1に示されるように、本実施形態の脇見判定装置は、脇見判定を司るコントロールユニット1を中心に、これに接続された各種センサ類からなる。コントロールユニット1は、CPU・ROM・RAMなどからなる電子制御ユニットである。このコントロールユニット1には、車両進行方向の状況を画像データとして取得する前方カメラ2が接続されている。本実施形態の前方カメラ2は、ルームミラーの背面側やインストルメントパネル上面などに取り付けられたCCDカメラであり、車両進行方向の画像を前方画像として取得する。即ち、前方カメラ2は、画像取得手段として機能している。   An embodiment of the aside look determination device of the present invention will be described below. First, a first embodiment of the side-by-side determination device of the present invention will be described. The armpit judging device of this embodiment is mounted on a vehicle, and its configuration diagram is shown in FIG. As shown in FIG. 1, the side-by-side determination device according to the present embodiment is composed of various sensors connected to a control unit 1 that controls side-by-side determination. The control unit 1 is an electronic control unit including a CPU, a ROM, a RAM, and the like. Connected to the control unit 1 is a front camera 2 that acquires the situation in the vehicle traveling direction as image data. The front camera 2 of the present embodiment is a CCD camera attached to the rear side of the rearview mirror or the top surface of the instrument panel, and acquires an image in the vehicle traveling direction as a front image. That is, the front camera 2 functions as an image acquisition unit.

なお、取得した前方画像は、車室内に設置したモニタなどに表示しても良いし、モニタなどの表示装置によって表示されずに画像データとしてコントロールユニット1内で取り扱われるだけであっても構わない。コントロールユニット1は、前方カメラ2によって取得した前方画像に基づいて、車両が走行している走行路の前方経路を検出する。ここでは、画像上の車線を区切る白線などを検出し、これに基づいて前方経路の状況を検出している。即ち、コントロールユニット1は、前方画像に基づいて前方経路を検出する前方走行経路検出手段として機能している。   The acquired front image may be displayed on a monitor or the like installed in the passenger compartment, or may be only handled as image data in the control unit 1 without being displayed by a display device such as a monitor. . The control unit 1 detects the forward path of the travel path on which the vehicle is traveling based on the forward image acquired by the front camera 2. Here, the white line etc. which divide the lane on an image are detected, and the condition of a front route is detected based on this. That is, the control unit 1 functions as a forward travel route detection unit that detects a forward route based on the forward image.

さらに、コントロールユニット1は、検出した前方経路に基づいて、この前方経路をこれから車両が走行する上で、運転者が注視するべき領域(注視領域)を前記画像上に設定する。この設定方法については、追って詳しく説明するが、コントロールユニット1は、注視領域を前方画像上に設定する注視領域設定手段としても機能している。   Further, the control unit 1 sets, on the image, an area (gaze area) that the driver should watch when the vehicle travels on the forward path from now on. Although this setting method will be described later in detail, the control unit 1 also functions as a gaze area setting unit that sets the gaze area on the front image.

なお、コントロールユニット1は、前方カメラ2によって取得した前方画像に基づいて、前方経路上又は前方経路近傍に位置する物体(歩行者、他車など)とその位置も検出する。物体が何であるかは、画像上の物体の形態から判別している。また、コントロールユニット1には、前方ミリ波レーダ3も接続されている。前方ミリ波レーダ3は、フロントグリル中央部に取り付けられており、車両前方にミリ波を照射すると共に、照射されたミリ波が物体にあたってはね返ってきた電波を受信している。これにより、車両進行方向に存在する物体の位置と、その物体の車両に対する相対速度とを検出することができる。本実施形態ではミリ波レーダに基づいて説明しているが、ミリ波に限定されることはなく、レーザを用いても良い。   The control unit 1 also detects objects (pedestrians, other vehicles, etc.) located on the front path or in the vicinity of the front path and their positions based on the front image acquired by the front camera 2. What the object is is determined from the form of the object on the image. A forward millimeter wave radar 3 is also connected to the control unit 1. The front millimeter wave radar 3 is attached to the center portion of the front grille, and radiates millimeter waves in front of the vehicle, and receives radio waves returned from the irradiated millimeter waves upon the object. Thereby, the position of the object existing in the vehicle traveling direction and the relative speed of the object with respect to the vehicle can be detected. Although the present embodiment has been described based on a millimeter wave radar, the present invention is not limited to a millimeter wave, and a laser may be used.

前方このミリ波レーダ3の検出結果はコントロールユニット1内で処理され、上述した前方画像上での物体の位置特定に用いられる。即ち、ここでは、コントロールユニット1は、前方カメラ2と前方ミリ波レーダ3との検出結果の双方を協調させて、車両進行方向に存在する物体の位置を前方画像上に設定する物体位置設定手段として機能している。ここで前方カメラでステレオ視し、物体の距離を検出しても良いし、レーダ検出結果で双方補完して距離を検出してもよい。また、前方ミリ波レーダ3の検出結果から、車両に対する物体の相対速度も検出するため、コントロールユニット1及び前方ミリ波レーダ3は相対速度検出手段としても機能している。   The detection result of the millimeter wave radar 3 in front is processed in the control unit 1 and used for specifying the position of the object on the above-described front image. That is, here, the control unit 1 coordinates both detection results of the front camera 2 and the front millimeter wave radar 3 to set the position of the object existing in the vehicle traveling direction on the front image. Is functioning as Here, the distance may be detected by performing stereo viewing with the front camera, or the distance may be detected by complementing both with the radar detection result. Further, since the relative speed of the object with respect to the vehicle is also detected from the detection result of the front millimeter wave radar 3, the control unit 1 and the front millimeter wave radar 3 also function as a relative speed detection means.

さらに、コントロールユニット1には、運転者の顔を映す運転者顔カメラ4も接続されている。運転者顔カメラ4は、車室内の運転席の前側に設置されており、運転者の顔を画像として取得する。取得した画像は、コントロールユニット1において画像データとして処理され、運転者の顔の向きが検出される。顔の向きの検出には、顔の輪郭線や眉や目や鼻(鼻の穴)の位置から判定される。そして、コントロールユニット1は、検出した顔の向きに基づいて前方画像上に運転者が注視している方向を設定する。即ち、コントロールユニット1や運転者顔カメラ4が注視方向検出手段として機能している。   Furthermore, a driver face camera 4 that reflects the driver's face is also connected to the control unit 1. The driver face camera 4 is installed on the front side of the driver's seat in the passenger compartment, and acquires the driver's face as an image. The acquired image is processed as image data in the control unit 1, and the direction of the driver's face is detected. The face orientation is detected based on the position of the face outline, eyebrows, eyes, and nose (nose hole). The control unit 1 sets the direction in which the driver is gazing on the front image based on the detected face orientation. That is, the control unit 1 and the driver's face camera 4 function as gaze direction detecting means.

さらに、コントロールユニット1には、車両の車速を検出する車速センサ5、ウインカーの操作状況を検出するためにウインカースイッチ6、操舵量を検出するために操舵角センサ7、及び、脇見判定時にブザー音を発する警報ブザー8も接続されている。以下、上述した構成の脇見判定装置による脇見判定制御について説明する。この制御のフローチャートを図2に示す。また、脇見判定時の車両・運転者の顔の向き・前方経路などの様子を模式的に示した図を図3に示す。ここでは、前方走行路が右カーブである場合を例に説明する。   Furthermore, the control unit 1 includes a vehicle speed sensor 5 for detecting the vehicle speed of the vehicle, a winker switch 6 for detecting the operating state of the winker, a steering angle sensor 7 for detecting the steering amount, and a buzzer sound at the time of looking aside. An alarm buzzer 8 is also connected. Hereinafter, the look-ahead determination control by the look-ahead determination apparatus having the above-described configuration will be described. A flowchart of this control is shown in FIG. FIG. 3 is a diagram schematically showing the state of the vehicle / driver's face, the forward route, and the like at the time of looking aside. Here, a case where the forward travel path is a right curve will be described as an example.

まず、図2のフローチャートに示されるように、まず、前方カメラ2によって、車両9前方の状況を画像として取得する(ステップ200)。この画像には、車両9前方の走行路の状況が写されており、上述したように走行路両側の白線をもとに、走行路の状況が決定される(ステップ205)。走行路の前方の状況とは、カーブであるか否か、カーブである場合は右カーブか左カーブか、また、その曲率半径Rはいくつか、などが画像処理によって算出される。   First, as shown in the flowchart of FIG. 2, first, the front camera 2 acquires the situation in front of the vehicle 9 as an image (step 200). In this image, the situation of the traveling road ahead of the vehicle 9 is shown, and the situation of the traveling road is determined based on the white lines on both sides of the traveling road as described above (step 205). The situation ahead of the travel path is a curve, whether it is a curve, a right curve or a left curve, and its curvature radius R is calculated by image processing.

次に、車両に関する情報が検出される(ステップ210)。ここに言う車両9に関する情報とは、車速センサ5によって算出される車速Vや、ウインカースイッチ6の操作状況、操舵角センサ7によって検出される操舵角などである。ここでは、分岐のない右カーブを例にして説明しているが、複数の分岐する走行路(交差点など)が認識された場合などは、目的としている走行路を特定するためのウインカースイッチ6の操作状況や操舵角センサ7の検出結果も用いられ得る。   Next, information about the vehicle is detected (step 210). The information related to the vehicle 9 mentioned here includes the vehicle speed V calculated by the vehicle speed sensor 5, the operating state of the winker switch 6, the steering angle detected by the steering angle sensor 7, and the like. Here, a right curve without branching is described as an example. However, when a plurality of branching roads (intersections, etc.) are recognized, the turn signal switch 6 for specifying the target road is selected. The operation status and the detection result of the steering angle sensor 7 can also be used.

次に、注視領域が演算され、上述した前方画像上に設定される(ステップ215)。注視領域は図3中の点Aである。ここでは、便宜上車両9を基準に座標軸を設定している(図3にはこの座標軸のうちの平面視二軸が示されている)。この座標軸のうちの一つは、車両9の車体前方に一致している。点Aは、この車体前方に一致する座標軸から角度γの方向にある。注視領域はこのように点として設定されても良いし、ある範囲を持つ領域として設定されても良い。ここで、点Aは、走行路面上に位置し、図中のL及びdによって決定される。Lは車両9から前方にどの程度の距離であるかを示し、dは走行路の一方の側部(ここではカーブ内側)からの横方向の距離を示している。なお、注視領域を決定するに際しては、上述したdのように一方の側部のみに基づいて決定するのではなく、走行路の両側部からの道幅方向の距離で決定しても良い。   Next, a gaze area is calculated and set on the above-described front image (step 215). The gaze region is a point A in FIG. Here, for convenience, the coordinate axes are set with reference to the vehicle 9 (FIG. 3 shows two axes in plan view among these coordinate axes). One of the coordinate axes coincides with the front of the vehicle 9. The point A is in the direction of the angle γ from the coordinate axis coinciding with the front of the vehicle body. The gaze area may be set as a point in this way, or may be set as an area having a certain range. Here, the point A is located on the traveling road surface and is determined by L and d in the figure. L indicates how far forward the vehicle 9 is, and d indicates the distance in the lateral direction from one side of the traveling road (here, the inside of the curve). Note that the gaze area may be determined based on the distance in the road width direction from both sides of the travel path, instead of being determined based on only one side as in the above-described d.

Lはここでは車速Vの関数として次式(I)に基づいて求められる。
L=a×V+b[a,bは定数] …(I)
なお、車速Vは、車速センサ5によって検出される。運転者は、前方走行路の曲率変化を捉えて遅れずに操舵を切ろうとするため、速度が遅いほど手前を、速いほど遠くを見るという現実的なドライバーモデルに合わせるため、一例としてこのような式によってLを設定した。
Here, L is obtained based on the following equation (I) as a function of the vehicle speed V.
L = a × V + b [a and b are constants] (I)
The vehicle speed V is detected by the vehicle speed sensor 5. Since the driver tries to turn the steering without delay by capturing the curvature change of the forward driving path, such a formula is used as an example to match the front driver as the speed is slow and the realistic driver model as looking far away To set L.

一方、dはカーブ半径R及び走行路幅Wの関数として例えば次式(II)より求められる。
d=(W/2)−(K/R)[Kは定数] …(II)
なお、カーブ半径R及び走行路幅Wは、前方カメラによって取得した前方画像から(ここでは白線を基準にして)画像処理によって求められている。ここで、前方走行路が直線である場合は、上式においてR→∞とすることにより、d=W/2となり、dは走行路の中央を示すこととなる。
On the other hand, d is obtained from the following equation (II) as a function of the curve radius R and the travel path width W, for example.
d = (W / 2)-(K / R) [K is a constant] (II)
The curve radius R and the travel path width W are obtained by image processing (in this case, based on the white line) from the front image acquired by the front camera. Here, when the forward travel path is a straight line, by setting R → ∞ in the above formula, d = W / 2, and d indicates the center of the travel path.

運転者は、直線であればその中央を、カーブの場合は曲率の変化を捉えようとしてできるだけ先を見ようとするため、カーブ半径Rがきついほど走行路中央からカーブ内側に視線が移動することとなる。これを式で表したものが例えば(II)式となる。このように、L及びdによって決定された点Aについては、上述した前方画像上に注視領域として設定される。注視領域が設定されたので、運転者の注視している方向として注視方向を算出するべく、まず、運転者顔カメラ4によって運転者の顔を映した画像を取得し(ステップ220)、運転者の顔方向(注視方向)を画像処理によって決定する(ステップ225)。   The driver tries to catch as much as possible in order to capture the change of curvature in the case of a straight line, and in the case of a curve, so that the line of sight moves from the center of the road to the inside of the curve as the curve radius R becomes tight. Become. This is represented by, for example, formula (II). Thus, the point A determined by L and d is set as a gaze area on the above-described front image. Since the gaze area is set, in order to calculate the gaze direction as the direction in which the driver is gazing, first, an image showing the driver's face is obtained by the driver's face camera 4 (step 220), and the driver Is determined by image processing (step 225).

運転者の顔方向の算出は、上述したように顔の構成要素(眉や目など)などから算出する。図3中に、車両前方方向を示す座標軸から角度α傾いた方向が注視方向である。この注視方向は上述した前方画像上に設定される。なお、ここでは、注視方向に対して注視安定視野角βを適用する。注視安定視野角βとは、頭部の方向がある角度にあるとき、頭部運動と眼球運動との関係から、頭部方向を中心にして左右に±(β/2)の範囲は無理なく注視が可能な範囲として設定されるものである。   The driver's face direction is calculated from the face components (such as eyebrows and eyes) as described above. In FIG. 3, the direction inclined by the angle α from the coordinate axis indicating the vehicle front direction is the gaze direction. This gaze direction is set on the above-described front image. Here, the gaze stable viewing angle β is applied to the gaze direction. The gaze stable viewing angle β means that when the head direction is at a certain angle, the range of ± (β / 2) to the left and right around the head direction is reasonable due to the relationship between head movement and eye movement. It is set as a range where gaze is possible.

そして、上述したように得られた注視領域及び注視方向に基づいて、脇見をしているか否かを判定する(ステップ230)。ここでは、前方画像上において、図3中の角度γで示される点Aによる注視領域(運転者が見るべき領域・方向)が、注視方向(運転の頭部方向)及び注視安定視野角によって決まる範囲内に収まっているか否かで脇見を判定している。収まっていれば脇見はしておらず、収まっていない場合は脇見をしていると判定する。運転者は眼球運動だけで対象を見るのではなく、ある対象を見るときには頭部運動を伴うことがほとんどである。従って、ここではこのように、頭部方向(注視方向)と注視安定視野角βに基づいて脇見を判定している。   Then, based on the gaze area and the gaze direction obtained as described above, it is determined whether or not the person is looking aside (step 230). Here, on the front image, the gaze region (region / direction to be viewed by the driver) by the point A indicated by the angle γ in FIG. 3 is determined by the gaze direction (head direction of driving) and the gaze stable viewing angle. Aside look is judged by whether or not it is within the range. If it is within the range, it is determined that it is not looking aside. A driver does not look at an object only by eye movement, but often involves head movement when looking at a certain object. Therefore, in this manner, the side-view is determined based on the head direction (gaze direction) and the gaze stable viewing angle β.

図3中の各角度で説明すれば、α−(β/2)≦γ≦α+(β/2)であれば脇見ではないとする。脇見をしていないと判定された場合は、後述するカウンタをリセットして(ステップ250)、このフローチャートの制御を一旦抜ける。一方、脇見をしていると判定された場合は、脇見状態がどの程度継続しているかをカウントするためのカウンタをインクリメントし(ステップ235)、このインクリメントされたカウンタ値が所定値(例えば、1〜2秒)を超えたか否かを判定する(ステップ240)。   If each angle in FIG. 3 is described, it is assumed that it is not an aside if α− (β / 2) ≦ γ ≦ α + (β / 2). If it is determined that the person is not looking aside, a counter to be described later is reset (step 250), and the control of this flowchart is temporarily exited. On the other hand, if it is determined that the person is looking aside, the counter for counting how long the aside state is continued (step 235), and the incremented counter value is a predetermined value (for example, 1 It is determined whether or not (˜2 seconds) has been exceeded (step 240).

カウンタ値が所定値を超えた場合は、脇見がある程度の時間継続されており、注視方向以外のもの(信号やルームミラーなど)を一瞥するような脇見ではないと判断し、運転者に対して警告する警告処理が行われる(ステップ245)。本実施形態では、警報ブザー8の吹鳴によって警告する。警告は、聴覚に訴えるもの以外に、視覚に訴えるようなものでも良いし、両者を併用しても良い。あるいは、フロントウインドウシールドの車室側表面をヘッドアップディスプレイ化し、本来見るべき注視領域をヘッドアップディスプレイ上に示すなどしても良い。警告処理を行った後は、カウンタをリセットして(ステップ250)このフローチャートの制御を一旦抜ける。   If the counter value exceeds the specified value, the lookout has continued for a certain amount of time, and it is determined that the lookout is not a glance at anything other than the gaze direction (signal, room mirror, etc.) Warning processing for warning is performed (step 245). In the present embodiment, a warning is given by sounding the alarm buzzer 8. The warning may be something that appeals to the sight other than that that appeals to hearing, or a combination of both. Alternatively, the front window shield may be formed as a head-up display on the surface of the vehicle compartment side, and the gaze area that should be originally viewed may be indicated on the head-up display. After the warning process is performed, the counter is reset (step 250), and the control of this flowchart is temporarily exited.

本実施形態によれば、車両9の前方経路の状態を反映させて脇見判定を行うので、脇見判定の精度を向上させることができる。また、注視領域や注視方向の設定・決定に際して、車速などの情報も反映させるため、より一層の判定精度向上を図ることができる。   According to the present embodiment, the aside look determination is performed by reflecting the state of the forward path of the vehicle 9, so the accuracy of the aside look determination can be improved. In addition, since information such as the vehicle speed is also reflected when setting and determining the gaze area and the gaze direction, the determination accuracy can be further improved.

次に、本発明の第二実施形態について説明する。本実施形態は、前方経路上、あるいは、前方経路近傍の物体(歩行者や他車)に関しても考慮し、脇見を判定するものである。装置の構成は、上述した第一実施形態と同一であるため、ここでの詳しい説明は省略する。本実施形態の制御のフローチャートを図4〜図6に示す。また、本実施形態の図3相当図を図7に示す。ここでも、前方走行路が右カーブである場合を例に説明する。   Next, a second embodiment of the present invention will be described. In the present embodiment, an aside look is determined in consideration of an object (pedestrian or other vehicle) on the front path or in the vicinity of the front path. Since the configuration of the apparatus is the same as that of the first embodiment described above, a detailed description thereof is omitted here. Flow charts of the control of this embodiment are shown in FIGS. FIG. 7 shows a diagram corresponding to FIG. 3 of the present embodiment. Here again, a case where the forward travel path is a right curve will be described as an example.

本実施形態における脇見判定制御は、上述した第一実施形態の制御に対して、物体ごとに危険度を算出し、これをも考慮して脇見が必要な脇見であるか不要な脇見であるかまで判定する制御を加えたものである。具体的には、図4〜図6に示されるフローチャートにおいて、図5に示される部分(ステップ500〜ステップ535)が第一実施形態の制御に対して加えられている。   In the present embodiment, the side-by-side determination control calculates the degree of danger for each object with respect to the control in the first embodiment described above. Is added to the control to determine. Specifically, in the flowcharts shown in FIGS. 4 to 6, the part shown in FIG. 5 (step 500 to step 535) is added to the control of the first embodiment.

まず、図4に示されるステップ400〜ステップ425については、第一実施形態の図2のフローチャートにおけるステップ200〜ステップ225に対応するものであり、ここでの詳しい説明は省略する。次に、ステップ425の後、図5に示されるように、前方画像を画像処理することによって、車両9の前方に走行に関係しそうな物体が存在するか否かを判定する(ステップ500)。走行に関係しそうな物体とは、歩行者10、(自車9の走行経路上に進入する可能性のある)他車11,12、又は、二輪車(自動車・自動二輪車など)である。   First, Step 400 to Step 425 shown in FIG. 4 correspond to Step 200 to Step 225 in the flowchart of FIG. 2 of the first embodiment, and detailed description thereof is omitted here. Next, after step 425, as shown in FIG. 5, the front image is subjected to image processing to determine whether or not there is an object likely to be associated with traveling in front of the vehicle 9 (step 500). The object likely to be related to traveling is a pedestrian 10, other vehicles 11 and 12 (which may enter the traveling route of the own vehicle 9), or a motorcycle (such as an automobile or a motorcycle).

本実施形態では、前方カメラ2によって取得した前方画像の画像処理、及び、前方ミリ波レーダ3による検出結果に基づいて、物体を把握する。前方ミリ波レーダ3によっては、自車9に対する物体10,11,12の相対速度も検出できる。この際、前方画像の画像処理や前方ミリ波レーダ3による検出結果によって、対向車線の他車や複数車線で併走する他車を対象から除外することも可能である。ステップ500において、前方画像上に制御対象とすべき物体が存在しないと判定された場合は、図6のステップ600に移行する。   In the present embodiment, an object is grasped based on the image processing of the front image acquired by the front camera 2 and the detection result by the front millimeter wave radar 3. Depending on the forward millimeter wave radar 3, the relative speed of the objects 10, 11, 12 with respect to the own vehicle 9 can also be detected. At this time, it is also possible to exclude other vehicles on the opposite lane and other vehicles running in parallel in a plurality of lanes based on the image processing of the front image and the detection result by the front millimeter wave radar 3. If it is determined in step 500 that there is no object to be controlled on the front image, the process proceeds to step 600 in FIG.

図6中のステップ600〜ステップ620は、図2のフローチャートのステップ230〜ステップ250にほぼ等しいので、ここではステップ600以降についての詳しい説明は省略する。なお、ステップ620に関してだけは、カウンタだけでなく後述するサブカウンタもリセットされる。これについては追って詳しく説明する。   Steps 600 to 620 in FIG. 6 are substantially the same as steps 230 to 250 in the flowchart of FIG. 2, so detailed description of step 600 and subsequent steps is omitted here. Note that not only the counter but also a sub-counter described later is reset only for step 620. This will be described in detail later.

一方、ステップ500において、制御対象とする物体(図7の歩行者10・他車11,12など)が存在する場合、即ち、ステップ500が肯定される場合は、次に、各物体ごとに危険度を算出する(ステップ505)。本実施形態では、物体との距離・自車9と物体との相対速度・物体の質量に基づいて危険度を算出している。なお、物体の質量に関しては、画像処理によって、歩行者であるか車両であるか(あるいは二輪車であるか)を判定し、それぞれの場合の代表質量を適用することとしている。車両などに関しては、その大きさなどで代表質量を何通りか用意しても良い。   On the other hand, if there is an object to be controlled (pedestrian 10, other vehicles 11, 12, etc. in FIG. 7) at step 500, that is, if step 500 is affirmed, then each object is dangerous. The degree is calculated (step 505). In this embodiment, the degree of risk is calculated based on the distance to the object, the relative speed between the host vehicle 9 and the object, and the mass of the object. As for the mass of the object, whether it is a pedestrian or a vehicle (or a motorcycle) is determined by image processing, and the representative mass in each case is applied. For vehicles and the like, several representative masses may be prepared depending on the size and the like.

危険度算出後、制御対象となる物体のうち、最も高い危険度を有するものに関して、上述した注視安全視野角内にあるかどうかを判定する(ステップ510)。ここで、最も高い危険度を有する物体が注視安全視野角内にない場合は、その物体の危険度が所定の危険度を超えているか否かを判定する(ステップ515)。この所定値は、その物体を目視しなければいけないと思われる閾値として設定される。即ち、危険度がこの所定値を超えていなければ、目視(認知する)する必要はない(必要度が低い)と言える。   After calculating the risk level, it is determined whether the object having the highest risk level among the objects to be controlled is within the gaze safety viewing angle described above (step 510). If the object having the highest risk is not within the gaze safety viewing angle, it is determined whether the risk of the object exceeds a predetermined risk (step 515). This predetermined value is set as a threshold at which the object must be viewed. That is, if the degree of danger does not exceed the predetermined value, it can be said that it is not necessary to visually (recognize) (the degree of necessity is low).

ステップ515において、最も危険度の高い物体の危険度が所定値を超えている場合は運転者がその危険度の高い物体に気づいていない、即ち、その物体を注視安全視野角内におさめていないと判断できる。この場合は、運転者がその物体に視線を移すような誘導警報処理が行われる(ステップ520)。視線誘導警報処理としては、ブザーやランプ、ヘッドアップディスプレイによるウインドシールド上への表示などが考えられる。ブザーは、フロントウインドシールド周囲に複数のブザーを配設しておき、注視すべき物体の方向に位置するものを吹鳴させることが考えられる。ランプに関しても同様で、フロントウインドシールド周囲に複数のランプ(LEDなど)を配設しておき、注視すべき物体の方向に位置するものを点灯又は点滅させることが考えられる。ブザーとランプを併用しても良い。   In step 515, if the risk level of the object with the highest risk level exceeds a predetermined value, the driver is not aware of the high risk level object, that is, the object is not within the gaze safety viewing angle. It can be judged. In this case, a guidance warning process is performed in which the driver moves his / her line of sight to the object (step 520). As the line-of-sight guidance alarm processing, display on a windshield with a buzzer, a lamp, or a head-up display can be considered. It is conceivable that the buzzer has a plurality of buzzers arranged around the front windshield and blows a sound located in the direction of the object to be watched. The same applies to the lamp, and it is conceivable that a plurality of lamps (LEDs, etc.) are arranged around the front windshield, and the lamp positioned in the direction of the object to be watched is turned on or blinked. You may use a buzzer and a lamp together.

ステップ520の視線誘導警報処理の後は、ステップ200に戻り、再度同様の制御が実行される。次回判定時に運転者の視線が誘導され、危険度の高い物体を注視することとなっていれば、ステップ510は肯定されることとなる。なお、ステップ515において、最も危険度の高い物体の危険度が所定値を超えていない場合は、上述したようにその物体を目視(認知する)する必要はない(必要度が低い)ので、前方経路上に設定される注視領域を見ているか否かを判定する通常の脇見判定を行うべく、ステップ600に移行する。   After the line-of-sight guidance warning process in step 520, the process returns to step 200 and the same control is executed again. If the driver's line of sight is guided at the next determination and an object with a high degree of danger is to be watched, step 510 is affirmed. In step 515, when the risk level of the object having the highest risk level does not exceed the predetermined value, it is not necessary to visually recognize (recognize) the object as described above (the necessity level is low). The routine proceeds to step 600 in order to perform a normal look-ahead determination that determines whether or not the user is looking at the gaze area set on the route.

次に、ステップ510が肯定される場合について説明する。ステップ510が否定され場合、即ち、運転者が最も危険度の高い物体を見ていない(視野におさめていない=注視安定視野角外にある)場合については既に説明した。ここでは、ステップ510が肯定され、運転者が最も危険度の高い物体を見ている(少なくとも視野におさめている=注視安定視野角内にある)場合について説明する。この場合は、ステップ510に続いて、危険度の高い物体に加えて、前方画像から決定された注視領域も上述した注視安全視野角内にあるかどうかを判定する(ステップ525)。   Next, the case where step 510 is affirmed will be described. The case where step 510 is denied, that is, the case where the driver does not see the object with the highest risk (not in the field of view = out of the gaze stable viewing angle) has already been described. Here, a case where step 510 is affirmed and the driver is looking at an object with the highest degree of danger (at least in the field of view = within the gaze stable viewing angle) will be described. In this case, following step 510, it is determined whether or not the gaze area determined from the front image is within the above-described gaze safety viewing angle in addition to the high-risk object (step 525).

ステップ525が否定される場合、即ち、図7に示されるように、最大危険度物体(ここでは他車11とする)を視野におさめているが、注視領域(角度γで示される点A)を視野におさめていないような場合は、サブカウンタをインクリメントする。なお、図7において角度αの向きが図3と異なるが、角度の符号の取り方などは演算時に適宜処理される。前方経路の状況のみを考慮すれば本来は注視領域(点A)を見るべきであるが、このようにステップ525が否定される場合は、危険度の高い物体があるためこれを見ている状況である、即ち、必要な脇見をしている状況であると判断できる。このような脇見は、短時間であればむしろ運転上有効であるといえる。   If step 525 is negative, that is, as shown in FIG. 7, the object of maximum risk (here, another vehicle 11) is being viewed, but the gaze area (point A indicated by angle γ) Is not in view, the sub-counter is incremented. Although the direction of the angle α in FIG. 7 is different from that in FIG. 3, how to obtain the sign of the angle is appropriately processed at the time of calculation. If only the situation of the forward route is taken into consideration, the gaze area (point A) should be looked at originally, but if step 525 is denied in this way, there is an object with a high degree of danger, and this is being seen. That is, it can be determined that the situation is a necessary look aside. Such an aside can be said to be more effective for a short time.

そこで、この場合は、この必要な脇見の時間をカウントするためのサブカウンタをインクリメントする(ステップ530)。そして、ステップ530に続いて、このサブカウンタが所定値を超えているか否かを判定する(ステップ535)。このサブカウンタが所定値以下であれば、即ち、ステップ535が否定される場合は、必要な脇見をしているため、脇見であっても警告などは行われず、ステップ400に戻る。   Therefore, in this case, a sub-counter for counting the necessary time for looking aside is incremented (step 530). Then, following step 530, it is determined whether or not the sub-counter exceeds a predetermined value (step 535). If this sub-counter is equal to or smaller than the predetermined value, that is, if step 535 is denied, since a necessary look aside, a warning is not given even if a look aside and the process returns to step 400.

一方、ステップ535が肯定され、危険度の高い物体を見ているとしてもその時間が長過ぎると判断できる場合は、既に必要な脇見の状況を超えているとして、不要な脇見が継続されているか否かを判定するためのカウンタをインクリメントすべく、図6のステップ605に移行する。ステップ605の後は、上述したカウンタ値に基づいて脇見警告を行うか否か判定し(ステップ610)、必要であれば運転者に対して警告を行い(ステップ615)、カウンタ・サブカウンタをリセットして図4〜図6のフローチャートを一旦抜ける。   On the other hand, if step 535 is affirmed and it can be determined that the time is too long even if an object with a high degree of danger is being viewed, it is determined that the necessary look aside has already been exceeded and the unnecessary look aside has been continued. In order to increment the counter for determining whether or not, the process proceeds to step 605 in FIG. After step 605, it is determined whether or not to give an aside warning based on the counter value described above (step 610). If necessary, a warning is given to the driver (step 615), and the counter / sub-counter is reset. Then, the flowcharts of FIGS.

なお、ステップ525が肯定される場合は、最も危険度の高い物体と注視領域の双方が注視安全視野角内にある、即ち、双方を視野におさめているといえる状況であると判断し、カウンタ・サブカウンタをリセットして図4〜図6のフローチャートを一旦抜ける。本実施形態では、ステップ610が肯定される場合が不要な脇見である。一方、前方経路から決定される注視領域を見ていない場合、即ち、脇見をしている場合でも、ステップ535が否定されるような場合は必要な脇見である。このように、前方経路上、あるいは、前方経路近傍の物体(歩行者や他車)も考慮して脇見を判定(必要な脇見を考慮し、不要な脇見であるか否かを判定)することで、より実際的で精度の高い脇見判定を行うことができる。   If step 525 is affirmed, it is determined that both the object with the highest risk and the gaze area are within the gaze safety viewing angle, that is, it can be said that both are within the field of view. Reset the sub-counter and exit the flowcharts of FIGS. In the present embodiment, the case where step 610 is affirmed is an unnecessary side effect. On the other hand, when the user is not looking at the gaze area determined from the forward route, that is, when looking aside, step 535 is a necessary looking aside if step 535 is denied. In this way, a side look is determined in consideration of an object (pedestrian or other vehicle) on the front route or in the vicinity of the front route (determining whether a side look is unnecessary by considering a necessary look aside). Thus, it is possible to perform a more practical and accurate side-by-side determination.

なお、ここでの説明では、図3又は図7のように平面視に基づいて説明しているが、上下方向(顔の向きの俯角[仰角])については、対象となる点との距離で決まるものと考える。また、このときも、上述した注視安定視野角と同じ考え方が上下方向に関しても適用される。注視安定視野角の具体的数値に関しては、左右にそれぞれ30〜45°(60°<β<90°)程度、上側に20〜30°程度、下側に25〜45度程度であるといわれている。なお、視野範囲は、車速が大きいほど狭くなるので、注視安定視野角βを速度Vの関数として扱っても良い。   In the description here, the explanation is based on the plan view as shown in FIG. 3 or FIG. 7, but the vertical direction (the depression angle [elevation angle] of the face direction) is the distance from the target point. I think that it will be decided. At this time, the same idea as the above-described gaze stable viewing angle is also applied in the vertical direction. The specific values of the gaze stable viewing angle are said to be about 30 to 45 ° on the left and right (60 ° <β <90 °), about 20 to 30 ° on the upper side, and about 25 to 45 ° on the lower side. Yes. Since the visual field range becomes narrower as the vehicle speed increases, the gaze stable viewing angle β may be treated as a function of the speed V.

本発明は、上述した実施形態に限定されるものではない。例えば、上述した実施形態では、注視領域を点(で表される領域)として設定し、注視方向に対してある範囲を持つ注視安定視野角を設定することで脇見を判定した。これとは逆に、注視領域をある範囲を持つ領域として設定し、これに対して注視方向を点(方向)で設定し、注視方向が注視領域内にあるか否かで脇見を判定しても良い。また、前方画像の画像処理時には、ある時点での静止画に基づいて画像処理を行っても良いが、時間の経過をも考慮して(連続する静止画、又は、動画)画像処理しても良いことは言うまでもない。さらに、図3や図7のような空間(三次空間)を前方画像として扱っても良い。   The present invention is not limited to the embodiment described above. For example, in the above-described embodiment, the gaze area is set as a point (area represented by), and the gaze is determined by setting a gaze stable viewing angle having a certain range with respect to the gaze direction. On the contrary, the gaze area is set as an area having a certain range, the gaze direction is set as a point (direction), and a side look is determined by whether or not the gaze direction is within the gaze area. Also good. Further, when processing the front image, the image processing may be performed based on a still image at a certain point in time, but the image processing may be performed in consideration of the passage of time (continuous still image or moving image). It goes without saying that it is good. Further, a space (tertiary space) as shown in FIGS. 3 and 7 may be handled as a front image.

本発明の脇見判定装置の実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of embodiment of the looking-aside determination apparatus of this invention. 第一実施形態の脇見判定装置による制御のフローチャートである。It is a flowchart of control by the armpit determination apparatus of 1st embodiment. 本発明の脇見判定装置の第一実施形態での制御時の状況を示す模式図である。It is a schematic diagram which shows the condition at the time of control in 1st embodiment of the armpit determination apparatus of this invention. 第二実施形態の脇見判定装置による制御のフローチャート(前半部分)である。It is a flowchart (first half part) of the control by the look-ahead determination apparatus of 2nd embodiment. 第二実施形態の脇見判定装置による制御のフローチャート(中間部分)である。It is a flowchart (intermediate part) of control by the look-ahead determination apparatus of 2nd embodiment. 第二実施形態の脇見判定装置による制御のフローチャート(後半部分)である。It is a flowchart (second half part) of the control by the armpit determination apparatus of 2nd embodiment. 本発明の脇見判定装置の第二実施形態での制御時の状況を示す模式図である。It is a schematic diagram which shows the condition at the time of control in 2nd embodiment of the armpit determination apparatus of this invention.

符号の説明Explanation of symbols

1…コントロールユニット(前方走行路検出手段:注視領域設定手段:脇見判定手段:物体位置設定手段:質量検出手段)、2…前方カメラ(画像取得手段)、3…ミリ波レーダ、3…前方ミリ波レーダ(相対速度検出手段)、4…運転者顔カメラ(注視方向検出手段)、5…車速センサ(車速検出手段)、6…ウインカースイッチ、7…操舵角センサ、8…特開平、8…警報ブザー、9…自車、10…歩行者(物体)、11,12…他車(物体)。
DESCRIPTION OF SYMBOLS 1 ... Control unit (front traveling path detection means: gaze area setting means: armpit determination means: object position setting means: mass detection means), 2 ... front camera (image acquisition means), 3 ... millimeter wave radar, 3 ... forward millimeter Wave radar (relative speed detection means), 4 ... driver face camera (gaze direction detection means), 5 ... vehicle speed sensor (vehicle speed detection means), 6 ... turn signal switch, 7 ... steering angle sensor, 8 ... JP, Heihei, 8 ... Alarm buzzer, 9 ... own vehicle, 10 ... pedestrian (object), 11, 12 ... other vehicle (object).

Claims (4)

車両進行方向の状況を前方画像として取得する画像取得手段と、
前記画像取得手段によって取得した前記前方画像に基づいて、車両が走行している走行路の前方経路を検出する前方走行路検出手段と、
前記前方走行路検出手段によって検出された走行路の前方経路に基づいて、運転者が注視すべき注視領域を前記前方画像上に設定する注視領域設定手段と、
運転者の顔の向きを検出し、検出した顔の向きから運転者の注視方向を前記前方画像上に設定する注視方向検出手段と、
前記注視領域設定手段によって設定された注視領域、及び、前記注視方向検出手段によって検出された注視方向に基づいて、前記運転者が脇見をしているか否かを判定する脇見判定手段と
前記車両の走行速度を検出する車速検出手段とを備え
前記注視領域設定手段は、前記車速検出手段によって検出された車速に応じて決定される車両進行方向距離と、前記走行路検出手段によって検出された前記走行路のカーブ半径及び走行路幅に応じて決定される横方向所定距離とに基づいて、前記注視領域を設定するものであり、
当該注視領域設定手段は、
前記車速が速い場合には、前記車速が遅い場合と比較して、長くなるように前記車両進行方向距離を決定し、
前記走行路のカーブ半径が小さい場合には、前記走行路のカーブ半径が大きい場合と比較して、前記カーブの内側からの距離が短くなるように前記横方向所定距離を決定することを特徴とする脇見判定装置。
Image acquisition means for acquiring a vehicle traveling direction situation as a front image;
Based on the front image acquired by the image acquisition means, a forward travel path detection means for detecting a forward path of a travel path on which the vehicle is traveling,
Gaze area setting means for setting a gaze area on which the driver should gaze on the front image based on the front path of the travel path detected by the front travel path detection means;
Gaze direction detecting means for detecting the direction of the driver's face and setting the gaze direction of the driver on the front image from the detected face direction;
Based on the gaze area set by the gaze area setting means and the gaze direction detected by the gaze direction detection means, the side aside determination means determines whether or not the driver is looking aside .
Vehicle speed detecting means for detecting the traveling speed of the vehicle ,
The gaze area setting means is based on a vehicle traveling direction distance determined according to the vehicle speed detected by the vehicle speed detection means, and a curve radius and a travel path width of the travel path detected by the travel path detection means. Based on the determined lateral predetermined distance, the gaze area is set,
The gaze area setting means is
When the vehicle speed is fast, the vehicle traveling direction distance is determined to be longer than when the vehicle speed is slow,
When the curve radius of the travel path is small, the predetermined distance in the lateral direction is determined so that the distance from the inside of the curve is shorter than when the curve radius of the travel path is large. To look aside.
車両進行方向の状況を前方画像として取得する画像取得手段と、
前記画像取得手段によって取得した前記前方画像に基づいて、車両が走行している走行路の前方経路を検出する前方走行路検出手段と、
前記前方走行路検出手段によって検出された走行路の前方経路に基づいて、運転者が注視すべき注視領域を前記前方画像上に設定する注視領域設定手段と、
運転者の顔の向きを検出し、検出した顔の向きから運転者の注視方向を前記前方画像上に設定する注視方向検出手段と、
前記注視領域設定手段によって設定された注視領域、及び、前記注視方向検出手段によって検出された注視方向に基づいて、前記運転者が脇見をしているか否かを判定する脇見判定手段とを備え
前記注視方向検出手段は、運転者の頭部運動と眼球運動との関係から、運転者が無理なく注視が可能である範囲として注視安定視野角を前記前方画像上に設定し、
前記脇見判定手段は、前記注視方向及び前記注視安定視野角によって決まる範囲内に前記注視領域が収まっている場合に、前記運転者が脇見をしていると判定することを特徴とする脇見判定装置。
Image acquisition means for acquiring a vehicle traveling direction situation as a front image;
Based on the front image acquired by the image acquisition means, a forward travel path detection means for detecting a forward path of a travel path on which the vehicle is traveling,
Gaze area setting means for setting a gaze area on which the driver should gaze on the front image based on the front path of the travel path detected by the front travel path detection means;
Gaze direction detecting means for detecting the direction of the driver's face and setting the gaze direction of the driver on the front image from the detected face direction;
A gaze area set by the gaze area setting means, and a side look determination means for judging whether the driver is looking aside based on the gaze direction detected by the gaze direction detection means ,
The gaze direction detection means sets a gaze stable viewing angle on the front image as a range in which the driver can gaze without difficulty from the relationship between the driver's head movement and eye movement,
The aside look determination device, wherein the driver determines that the driver is looking aside when the gaze area is within a range determined by the gaze direction and the gaze stable viewing angle. .
車両進行方向の状況を前方画像として取得する画像取得手段と、
前記画像取得手段によって取得した前記前方画像に基づいて、車両が走行している走行路の前方経路を検出する前方走行路検出手段と、
前記前方走行路検出手段によって検出された走行路の前方経路に基づいて、運転者が注視すべき注視領域を前記前方画像上に設定する注視領域設定手段と、
運転者の顔の向きを検出し、検出した顔の向きから運転者の注視方向を前記前方画像上に設定する注視方向検出手段と、
車両進行方向の存在する物体を検出し、該物体の位置を前記前方画像上に設定する物体位置設定手段と、
前記注視領域設定手段によって設定された注視領域、前記注視方向検出手段によって検出された注視方向、及び、前記物体位置設定手段によって設定された物体位置に基づいて、前記運転者が不要な脇見をしているか否かを判定する脇見判定手段と
車両及び前記物体の間の相対速度を検出する相対速度検出手段と、
前記物体位置設定手段によって検出された前記物体の種類を判別し、前記物体の種類、及び、前記相対速度検出手段によって検出された相対速度に基づいて、前記物体に対する危険度を検出する危険度検出手段と、を備え、
前記脇見判定手段は、脇見判定に際して用いる前記物体位置として、前記危険度検出手段によって検出した危険度のうち最も高い危険度を有する前記物体の位置を用いることを特徴とする脇見判定装置。
Image acquisition means for acquiring a vehicle traveling direction situation as a front image;
Based on the front image acquired by the image acquisition means, a forward travel path detection means for detecting a forward path of a travel path on which the vehicle is traveling,
Gaze area setting means for setting a gaze area on which the driver should gaze on the front image based on the front path of the travel path detected by the front travel path detection means;
Gaze direction detecting means for detecting the direction of the driver's face and setting the gaze direction of the driver on the front image from the detected face direction;
Object position setting means for detecting an object in the vehicle traveling direction and setting the position of the object on the front image;
Based on the gaze area set by the gaze area setting means, the gaze direction detected by the gaze direction detection means, and the object position set by the object position setting means, the driver takes an unnecessary look aside. and inattentiveness determination means for determining whether or not to have,
A relative speed detecting means for detecting a relative speed between the vehicle and the object;
Risk level detection for determining the type of the object detected by the object position setting means and detecting the risk level for the object based on the type of the object and the relative speed detected by the relative speed detection means Means, and
The looking-aside determination device, wherein the looking-aside determination unit uses the position of the object having the highest risk level among the risk levels detected by the risk level detection unit as the object position used for the side-track determination.
判別された前記物体の種類に基づいて、前記物体の質量を推定又は検出する物体質量検出手段さらに備えており、
前記危険度検出手段は、前記相対速度検出手段によって検出された相対速度、及び、前記物体質量検出手段よって検出された物体質量に基づいて、前記物体に対する危険度を検出す請求項に記載の脇見判定装置。
Further comprising object mass detection means for estimating or detecting the mass of the object based on the determined type of the object;
The risk detection means, the relative speed detected by the relative speed detecting means, and, on the basis of the object mass is detected by the object mass detection unit, according to claim 3 that detect the risk for said object Aside-look determination device.
JP2003291562A 2003-08-11 2003-08-11 Armpit judging device Expired - Fee Related JP4186749B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003291562A JP4186749B2 (en) 2003-08-11 2003-08-11 Armpit judging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003291562A JP4186749B2 (en) 2003-08-11 2003-08-11 Armpit judging device

Publications (2)

Publication Number Publication Date
JP2005063105A JP2005063105A (en) 2005-03-10
JP4186749B2 true JP4186749B2 (en) 2008-11-26

Family

ID=34369211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003291562A Expired - Fee Related JP4186749B2 (en) 2003-08-11 2003-08-11 Armpit judging device

Country Status (1)

Country Link
JP (1) JP4186749B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210370956A1 (en) * 2020-06-01 2021-12-02 Toyota Jidosha Kabushiki Kaisha Apparatus and method for determining state

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1857408B1 (en) 2005-03-07 2011-09-28 NTT DoCoMo, Inc. Molecular communication system
JP4742695B2 (en) * 2005-06-27 2011-08-10 トヨタ自動車株式会社 Gaze recognition apparatus and gaze recognition method
JP2007087335A (en) * 2005-09-26 2007-04-05 Toyota Motor Corp Driving support device
JP4857891B2 (en) * 2006-04-27 2012-01-18 株式会社デンソー Driving support device and program
JP4722777B2 (en) * 2006-06-21 2011-07-13 本田技研工業株式会社 Obstacle recognition judgment device
JP2008084219A (en) * 2006-09-28 2008-04-10 Aisin Seiki Co Ltd Alarm device for curve in front
JP2009015533A (en) * 2007-07-03 2009-01-22 Toyota Motor Corp Gaze direction detecting device
JP4893507B2 (en) * 2007-07-04 2012-03-07 オムロン株式会社 Aside look detection device and method, and program
JP5353416B2 (en) * 2009-04-27 2013-11-27 トヨタ自動車株式会社 Driver status monitoring device and vehicle control device
JP5184596B2 (en) * 2010-09-03 2013-04-17 本田技研工業株式会社 Armpit judging device
JP6292054B2 (en) * 2013-11-29 2018-03-14 富士通株式会社 Driving support device, method, and program
WO2016157892A1 (en) * 2015-04-03 2016-10-06 株式会社デンソー Information presentation apparatus
WO2016157891A1 (en) * 2015-04-03 2016-10-06 株式会社デンソー Information presentation apparatus
JP6319349B2 (en) * 2015-04-03 2018-05-09 株式会社デンソー Information presentation device
JP6962141B2 (en) * 2017-11-07 2021-11-05 トヨタ自動車株式会社 Driver status detector

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3369237B2 (en) * 1993-02-23 2003-01-20 三菱電機株式会社 Driver viewpoint judgment device and inattentive judgment device
JPH0796768A (en) * 1993-09-27 1995-04-11 Nissan Motor Co Ltd Forward watching degree detector
JPH097100A (en) * 1995-06-19 1997-01-10 Honda Motor Co Ltd Driver's gaze point predicting device and vehicle drive support system using the same
DE19647660B4 (en) * 1996-11-19 2005-09-01 Daimlerchrysler Ag Tripping device for occupant restraint systems in a vehicle
JP3235522B2 (en) * 1997-07-22 2001-12-04 トヨタ自動車株式会社 Travel lane departure warning device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210370956A1 (en) * 2020-06-01 2021-12-02 Toyota Jidosha Kabushiki Kaisha Apparatus and method for determining state
US11919522B2 (en) * 2020-06-01 2024-03-05 Toyota Jidosha Kabushiki Kaisha Apparatus and method for determining state

Also Published As

Publication number Publication date
JP2005063105A (en) 2005-03-10

Similar Documents

Publication Publication Date Title
KR102051142B1 (en) System for managing dangerous driving index for vehicle and method therof
US10086757B2 (en) Display device
JP4186749B2 (en) Armpit judging device
EP2535224B1 (en) Driving support equipment for vehicles
US9586525B2 (en) Camera-assisted blind spot detection
EP3075618A2 (en) Vehicle control apparatus
JP4825868B2 (en) Vehicle alarm device
US10653350B2 (en) Data processing device, monitoring system, awakening system, data processing method, and data processing program
US20050065687A1 (en) Driving assist system for vehicle
JP2017033347A (en) Display device
JP2008514497A (en) Driver support method and apparatus
JP2023010800A (en) Display device
JP2017033542A (en) Information display
JPH08178712A (en) Rambling-drive detection apparatus
JP3941770B2 (en) Collision possibility judgment device
JP4725254B2 (en) Armpit judging device
CN107408338A (en) Driver assistance system
KR20190099755A (en) Vehicle, and control method for the same
JP2018127084A (en) Automatic drive vehicle
JP4936060B2 (en) Vehicle travel support device
JPH11348696A (en) Traveling path shape estimating device and running supporting device using it
JP2005284975A (en) Traveling safety device
US10684695B2 (en) Data processing device, monitoring system, awakening system, data processing method, and data processing program
US8681219B2 (en) System and method for driving assistance at road intersections
JP6811743B2 (en) Safe driving support device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080311

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080819

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080901

R151 Written notification of patent or utility model registration

Ref document number: 4186749

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110919

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110919

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120919

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120919

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130919

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees