JP5004887B2 - Vehicle driving support device - Google Patents

Vehicle driving support device Download PDF

Info

Publication number
JP5004887B2
JP5004887B2 JP2008184407A JP2008184407A JP5004887B2 JP 5004887 B2 JP5004887 B2 JP 5004887B2 JP 2008184407 A JP2008184407 A JP 2008184407A JP 2008184407 A JP2008184407 A JP 2008184407A JP 5004887 B2 JP5004887 B2 JP 5004887B2
Authority
JP
Japan
Prior art keywords
alarm
warning
vehicle
state
driving support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008184407A
Other languages
Japanese (ja)
Other versions
JP2010026619A (en
Inventor
憲和 奈良
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2008184407A priority Critical patent/JP5004887B2/en
Publication of JP2010026619A publication Critical patent/JP2010026619A/en
Application granted granted Critical
Publication of JP5004887B2 publication Critical patent/JP5004887B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、自車両の周囲の警戒対象物の存在を警報として積極的に告知するようにした車両運転支援装置に関し、特に車載機器のスイッチの操作状態を監視することで実質的な脇見状態にあるかどうかを推定し、その推定結果に応じて要警報対象物の警報・告知を行わせるようにした車両運転支援装置に関するものである。   The present invention relates to a vehicle driving support apparatus that actively notifies the presence of a warning object around a host vehicle as an alarm, and in particular, by monitoring the operation state of a switch of an in-vehicle device, a substantial aside look state is achieved. The present invention relates to a vehicle driving support device that estimates whether or not there is an alarm and notifies an alarm target object according to the estimation result.

この種の車両の安全性向上技術として特許文献1に記載の脇見運転および居眠り運転警報装置が提案されている。   As a technique for improving the safety of this type of vehicle, a side-by-side driving and dozing driving alarm device described in Patent Document 1 has been proposed.

この特許文献1に記載の技術では、車速センサにて自車の走行速度Vを、車間距離センサにて先行車の有無と車間距離Lをそれぞれ検出するとともに、CCDカメラ等の運転者状態検出装置にて例えば運転者の顔を撮像し、画像処理により運転者の顔の向きを検出して脇見状態と判定するとともに、運転者の目の開閉状態を検出して居眠り状態と判定する。そして、脇見状態または居眠り状態の継続時間を計測する一方、車間時間演算値L/Vに対応する許容時間T1を設定し、脇見状態または居眠り状態の継続時間が許容時間設定値T1を超えたら、例えば音声、振動、臭いなどの警報発生装置により警報を発して、運転者の前方への注意を喚起したり、居眠り状態から覚醒させるものである。
特開2002−219968号公報
In the technique described in Patent Document 1, the vehicle speed sensor detects the traveling speed V of the vehicle, the inter-vehicle distance sensor detects the presence or absence of a preceding vehicle and the inter-vehicle distance L, and a driver state detection device such as a CCD camera. For example, the driver's face is imaged, and the driver's face orientation is detected by image processing to determine that the driver is looking aside, and the driver's eyes open / closed state is detected to determine that the driver is dozing. Then, while measuring the duration of the side-by-side state or the dozing state, the allowable time T1 corresponding to the inter-vehicle time calculation value L / V is set. For example, an alarm is generated by an alarm generating device such as voice, vibration, and odor to alert the driver to the front and to wake up from a dozing state.
JP 2002-219968 A

しかしながら、特許文献1に記載の技術では、CCDカメラ等の撮像手段が必要なシステムのためにコストアップが余儀なくされ、一般車両に広く普及するまでには至っていないのが実情である。このようなことから、カメラ以外の簡易な方法で少なくとも運転者の脇見状態を予測して、警報をもって要警報対象物に対する運転者の前方への注意を喚起する技術が望まれている。   However, in the technique described in Patent Document 1, the cost is inevitably increased due to a system that requires imaging means such as a CCD camera, and the situation is not widespread in general vehicles. For this reason, there is a demand for a technique that predicts at least the driver's side-view state by a simple method other than the camera and alerts the driver to the front of the alarm target object with a warning.

本発明はこのような背景のもとになされたものであり、より簡易な方法で少なくとも運転者の脇見状態と同等な状態を予測して、効果的な警報を発することができるようにした車両運転支援装置を提供するものである。   The present invention has been made based on such a background, and a vehicle capable of issuing an effective alarm by predicting at least a state equivalent to the driver's aside state by a simpler method. A driving support device is provided.

本発明は、自車両の周囲の警戒対象物の検知結果に応じて音声あるいは可視表示等の警報を発することが可能な警報手段と、例えばナビゲーションシステムあるいはオーディオ機器等の車載機器のスイッチの操作状態を監視するスイッチ操作監視手段とを備えていることを前提として、スイッチ操作監視手段による監視の結果、運転者の脇見状態と同等な状態とみなし得る場合には、運転者への警報・告知が必要と判断して、上記警報手段を作動させるようにしたものである。   The present invention relates to an alarm means capable of issuing an alarm such as a voice or a visual display according to a detection result of a warning object around the host vehicle, and an operation state of a switch of an in-vehicle device such as a navigation system or an audio device. If it can be considered that the driver is looking aside as a result of monitoring by the switch operation monitoring means on the assumption that it is equipped with a switch operation monitoring means for monitoring the driver, an alarm / notification to the driver is issued. The alarm means is actuated by judging that it is necessary.

本発明によれば、車載機器のスイッチの操作状態を監視するスイッチ操作監視手段の監視結果に基づいて脇見状態と推定して警報する発するようにしたので、CCDカメラ等の撮像手段が不要であり、システムのコストダウンを図ることが可能であり、これによって一般車両への普及が期待できる。   According to the present invention, since an alarm is issued based on the monitoring result of the switch operation monitoring means for monitoring the switch operation state of the in-vehicle device, an imaging means such as a CCD camera is unnecessary. Therefore, it is possible to reduce the cost of the system, and this can be expected to spread to general vehicles.

また、自車両の周囲の警戒対象物が検知された時点で直ちに警報を発する場合と異なり、警報による注意喚起は脇見状態と推定される場合に限定しているので、頻繁で且つ煩わしい警戒対象物検知の警報から運転者を解放することができる。   In addition, unlike the case where a warning is immediately issued when a warning object around the host vehicle is detected, the warning is limited to the case where a warning is estimated to be a side-by-side condition. The driver can be released from the detection alarm.

図1は本発明に係る車両運転支援装置のシステム構成を示し、また図2,3は上記車両運転支援装置が適用される車両の監視状態の平面概略図を示している。   FIG. 1 shows a system configuration of a vehicle driving support apparatus according to the present invention, and FIGS. 2 and 3 are schematic plan views of a monitoring state of a vehicle to which the vehicle driving support apparatus is applied.

図1のほか図2に示すように、車両1の前部にはレーダ装置2のほか、撮像手段である車載カメラシステム(フロントカメラ)3を主要素とする画像認識装置4を搭載してある。レーダ装置2はミリ波レーダ、レーザ・レーダ、マイクロ波レーダのいずれかであり、他方、車載カメラシステム3のカメラ単体は例えばCCDカメラあるいはCMOSカメラ等であり、システム全体として単眼タイプまたは複眼タイプのもの(いわゆるステレオビジョンカメラ)として構成されている。レーダ装置2および画像認識装置4は共に車両の前方にある警戒対象物、例えば四輪車、二輪車、歩行者等の警戒対象物G(n)(警戒対象物番号n=1,2,3‥)の存在とその位置および自車両1からその警戒対象物G(n)までの距離をそれぞれ検出することが可能となっている。なお、画像認識装置4の車載カメラシステム3が捉えた画像は後述する表示手段としてのディスプレイ11に表示される。   As shown in FIG. 2 in addition to FIG. 1, in addition to the radar device 2, an image recognition device 4 having an in-vehicle camera system (front camera) 3 as an imaging unit as a main element is mounted in the front portion of the vehicle 1. . The radar device 2 is any one of a millimeter wave radar, a laser radar, and a microwave radar. On the other hand, the camera unit of the in-vehicle camera system 3 is, for example, a CCD camera or a CMOS camera, and the entire system is a monocular type or a compound eye type. It is configured as a thing (so-called stereo vision camera). Both the radar device 2 and the image recognition device 4 are warning objects in front of the vehicle, such as a warning object G (n) such as a four-wheeled vehicle, a two-wheeled vehicle, and a pedestrian (a warning object number n = 1, 2, 3... ) And its position and the distance from the vehicle 1 to the alert object G (n) can be detected. Note that an image captured by the in-vehicle camera system 3 of the image recognition device 4 is displayed on a display 11 as display means described later.

このようにレーダ装置2と画像認識装置4を併用して、後述するセンサフュージョン部13において例えば自車両1の車速等のデータを考慮しながらレーダ装置2および画像認識装置4それぞれの検知結果を補完し合うことで警戒対象物G(n)の認識精度を高めることができ、結果として車両1はその前方に検知距離Wで且つ検知角θの扇形状の検知範囲Qを有していることになる。つまり、上記のようにレーダ装置2と画像認識装置4を併用することで、検知範囲Q内にある警戒対象物G(n)の存在とその位置およびその警戒対象物G(n)までの距離をそれぞれ検出することが可能となっている。故に、上記車載カメラシステム3を含む画像認識装置4およびレーダ装置2はそれぞれに警戒対象物検知手段として機能することになる。   In this way, the radar device 2 and the image recognition device 4 are used together, and the sensor fusion unit 13 to be described later supplements the detection results of the radar device 2 and the image recognition device 4 while taking into account data such as the vehicle speed of the host vehicle 1. By reciprocating, the recognition accuracy of the alert object G (n) can be improved, and as a result, the vehicle 1 has a fan-shaped detection range Q with a detection distance W and a detection angle θ in front of the vehicle 1. Become. That is, by using the radar device 2 and the image recognition device 4 together as described above, the presence and position of the warning object G (n) within the detection range Q and the distance to the warning object G (n). Can be detected respectively. Therefore, the image recognition device 4 and the radar device 2 including the on-vehicle camera system 3 function as a warning object detection unit.

図1に示すように、車両1には先に述べたレーダ装置2や画像認識装置4のほか、周知のナビゲーションシステム5およびオーディオ機器6、さらには運転支援制御コントローラ7がそれぞれ搭載されている。これらの機器同士は車両通信ラインである車両CAN(Vehicle−Control Area Network)8を経由してネットワークを構築しているととともに、これとは別にナビゲーションシステム5とオーディオ機器6同士はマルチメディアCAN(Multimedia−Control Area Network)9経由でネットワークを構築している。したがって、先に述べたレーダ装置2や画像認識装置4が検知した警戒対象物G(n)それぞれの位置と警戒対象物G(n)までの距離に関する情報が車両CAN8経由にて運転支援制御コントローラ7に取り込まれることになる。   As shown in FIG. 1, in addition to the radar device 2 and the image recognition device 4 described above, a known navigation system 5 and audio device 6, and a driving support control controller 7 are mounted on the vehicle 1, respectively. These devices are connected via a vehicle CAN (Vehicle-Control Area Network) 8 which is a vehicle communication line, and apart from this, the navigation system 5 and the audio device 6 are connected to each other by a multimedia CAN ( A network is constructed via Multimedia-Control Area Network (9). Therefore, information regarding the position of each of the alert objects G (n) detected by the radar device 2 and the image recognition device 4 described above and the distance to the alert object G (n) is transmitted via the vehicle CAN8 to the driving support control controller. 7 is taken in.

ここで、上記オーディオ機器6には、周知のように例えば入力ソース切り換えや音量,音質調整のための各種の操作スイッチ10が付帯していて、他方、ナビゲーションシステム5は周知のようにGPS受信機やジャイロスコープおよびGセンサ等を内蔵しているほか、各種の表示を行う表示手段(モニタ)として例えば液晶タイプのディスプレイ11およびその表示切り換えを行う各種の操作スイッチ12が付帯している。そして、本実施の形態では、上記ナビゲーションシステム5におけるディスプレイ11の表示画面が後述する運転支援のための警報手段を兼ねている。   Here, the audio device 6 is provided with various operation switches 10 for switching the input source and adjusting the volume and sound quality as is well known, while the navigation system 5 is a GPS receiver as is well known. In addition, a gyroscope, a G sensor, and the like are incorporated, and as a display means (monitor) for performing various displays, for example, a liquid crystal type display 11 and various operation switches 12 for switching the display are attached. And in this Embodiment, the display screen of the display 11 in the said navigation system 5 serves also as the warning means for the driving assistance mentioned later.

また、上記オーディオ機器6とナビゲーションシステム5とは先に述べたようにマルチメディアCAN9経由で相互に接続されていることから、オーディオ機器6またはナビゲーションシステム5のいずれかのスイッチ10または12が操作される毎にその操作された操作スイッチ10または12の種別(操作スイッチ10,12は個別に固有の種別情報を有している。)と操作された時刻に関する情報(例えば、○時○分○秒)がその都度車両CAN8経由にて後述する運転支援制御コントローラ7のスイッチ操作監視部17側に出力されるようになっている。そして、スイッチ操作監視部17では後述するように上記オーディオ機器6やナビゲーションシステム5の各種の操作スイッチ10または12の操作履歴を監視することで、その操作履歴に基づいて運転者が実質的な脇見状態にあるか否かを推定するようにしている。   Since the audio device 6 and the navigation system 5 are connected to each other via the multimedia CAN 9 as described above, either the switch 10 or 12 of the audio device 6 or the navigation system 5 is operated. Each time the operation switch 10 or 12 is operated (the operation switches 10 and 12 each have specific type information) and information on the operation time (for example, ○ hour ○ minute ○ second) ) Is output to the switch operation monitoring unit 17 side of the driving support controller 7 described later via the vehicle CAN8 each time. The switch operation monitoring unit 17 monitors the operation history of the various operation switches 10 or 12 of the audio device 6 and the navigation system 5 as will be described later, so that the driver can actually look aside based on the operation history. It is estimated whether it is in a state.

なお、上記ディスプレイ11がタッチパネル式のものである場合には、その画面上での各種タッチスイッチ(タッチセンサ)も上記各種の操作スイッチに含まれる。また、本運転支援のためのディスプレイ11はナビゲーションシステム5のディスプレイとは独立した別のディスプレイ、例えばヘッドアップディスプレイを設けても良く、またインストルメントパネルのメータ類全面を液晶パネルとしたものにおいては、その液晶パネルの一部を当該車両運転支援装置のディスプレイと兼用化することももちろん可能である。   When the display 11 is of a touch panel type, various touch switches (touch sensors) on the screen are also included in the various operation switches. Further, the display 11 for assisting the driving may be provided with another display independent of the display of the navigation system 5, for example, a head-up display, and in the case where the entire instrument panel is a liquid crystal panel. Of course, a part of the liquid crystal panel can also be used as a display of the vehicle driving support device.

運転支援制御コントローラ7は、先に述べたレーダ装置2や画像認識装置4からの警戒対象物G(n)の検知情報の処理を司るセンサフュージョン部13と、警戒対象物G(n)のいずれかを運転者への警報・告知が必要な警報対象物として抽出または特定するべく警報対象物特定手段として機能する警報対象物特定部14、この警報対象物特定部14での結果を受けて警報のための指令を出力する警報出力部15、上記警戒対象物G(n)のうち運転者への警報・告知が必要な警報対象物として抽出または特定すべく範囲を切り換えて指定する特定範囲可変手段として機能する特定範囲可変機能部16のほか、スイッチ操作監視手段として機能するスイッチ操作監視部17および脇見状態判定手段として機能する脇見状態判定部18とを備えている。   The driving support control controller 7 includes any one of the sensor fusion unit 13 that controls the detection information of the warning object G (n) from the radar device 2 and the image recognition device 4 described above, and the warning object G (n). An alarm target specifying unit 14 that functions as an alarm target specifying means for extracting or specifying an alarm target as an alarm target requiring warning / notification to the driver, and receiving an alarm based on the result of the alarm target specifying unit 14 Alarm output unit 15 that outputs a command for the vehicle, and a specific range variable that switches and specifies a range to be extracted or specified as an alarm target that needs to be alarmed or notified to the driver among the above-described warning target G (n) In addition to the specific range variable function unit 16 that functions as a means, a switch operation monitoring unit 17 that functions as a switch operation monitoring unit and an armpit state determination unit 18 that functions as a armpit state determination unit are provided. To have.

センサフュージョン部13には、先に述べたレーダ装置2や画像認識装置4が検知した警戒対象物G(n)それぞれの位置と警戒対象物G(n)までの距離に関する情報が車両CAN8経由にて取り込まれて、双方の情報を補完し合うことでその認識精度が高められて検知範囲Q内にある警戒対象物G(n)が抽出または特定される。図2,3の例では検知角θの検知範囲Q内にある四輪車、二輪車および歩行者等の全ての警戒対象物G(n)が抽出または特定される。   In the sensor fusion unit 13, information on the position of each of the warning objects G (n) detected by the radar device 2 and the image recognition device 4 described above and the distance to the warning object G (n) is transmitted via the vehicle CAN8. Then, by complementing both pieces of information, the recognition accuracy is improved, and a warning object G (n) within the detection range Q is extracted or specified. In the example of FIGS. 2 and 3, all warning objects G (n) such as four-wheeled vehicles, two-wheeled vehicles, and pedestrians within the detection range Q of the detection angle θ are extracted or specified.

この場合において、検知した全ての警戒対象物G(n)に関する情報を運転者に警報として与えても情報過多となることから、本実施の形態では検知範囲Q内の警戒対象物G(n)のうちでも特に運転者への警報・告知が必要な警戒対象物を警報対象物として抽出または特定すべき範囲L1,L2を図2,3に示すように広狭二段階に切換可能となっている。このような警戒対象物G(n)のうちの一部を警報対象物として抽出または特定すべき範囲を広狭二段階に切り換える機能を図1の特定範囲可変機能部16が司っている。   In this case, even if information on all detected warning objects G (n) is given to the driver as an alarm, the information is excessive, and in this embodiment, the warning objects G (n) within the detection range Q are used. Among them, the range L1 and L2 that should be extracted or specified as a warning target object that requires warning / notification to the driver in particular can be switched between two stages as shown in FIGS. . The specific range variable function unit 16 in FIG. 1 controls the function of switching a range to be extracted or specified as a warning target for a part of the warning target G (n) in two steps.

また、上記スイッチ操作監視部17は、先に述べたオーディオ機器6やナビゲーションシステム5に付帯する各種操作スイッチ10または12の操作履歴、すなわちON/OFFの状態とON操作時の時刻情報を監視しているもので、スイッチ操作監視部17にはいずれかのスイッチ10または12が操作される毎にその操作された操作スイッチ10または12の種別と操作された時刻に関する情報がその都度車両CAN8経由で取り込まれて蓄積される。なお、この時刻には、ナビゲーションシステム5に内蔵されているGPS受信機が受信する時刻情報が用いられる。   The switch operation monitoring unit 17 monitors the operation history of the various operation switches 10 or 12 attached to the audio device 6 or the navigation system 5 described above, that is, the ON / OFF state and the time information at the time of the ON operation. Therefore, each time any switch 10 or 12 is operated, the switch operation monitoring unit 17 receives information about the type of the operated switch 10 or 12 and the operated time via the vehicle CAN8 each time. Captured and accumulated. Note that time information received by a GPS receiver built in the navigation system 5 is used for this time.

そして、図1の脇見状態判定部18では、後述するように所定の要求があった時点でスイッチ操作監視部17に蓄積されている過去の操作スイッチ10または12の履歴情報のうち最も直近の操作スイッチ10または12が操作された時刻情報を呼び出す一方、その時刻情報からその時点の時刻までの時間(経過時間)を各種の操作スイッチ10または12の無操作時間として算出する。そして、その無操作時間と予め定めてある設定時間とを比較し、上記無操作時間が設定時間以内のものである場合には、運転者が実質的な脇見状態にあると推定して、運転者に警報を発するべく警報出力部15から所定の警報指令を出力し、例えばアラーム等の音声や振動、あるいは描画等の画面表示をもって運転者に対して警報を発するようになっている。   1, the most recent operation among the history information of the past operation switch 10 or 12 accumulated in the switch operation monitoring unit 17 at the time when a predetermined request is made, as will be described later. While calling the time information when the switch 10 or 12 is operated, the time (elapsed time) from the time information to the time at that time is calculated as the no-operation time of the various operation switches 10 or 12. Then, the no-operation time is compared with a predetermined set time, and when the no-operation time is within the set time, it is estimated that the driver is in a state of looking aside and driving A predetermined warning command is output from the warning output unit 15 to issue a warning to the driver, and the warning is issued to the driver with, for example, an alarm sound or vibration, or a screen display such as drawing.

本実施の形態では、例えば図5に示すように、自車両1の進路前方の先行車C1、対向車C2または歩行者Mを警戒対象物G(n)として認識した場合には、車載カメラシステム3が捉えた映像がディスプレイ11に表示されることから、後述するようにディスプレイ11の画面上において当該車両C1,C2または歩行者Mに枠囲みFの処理を施すことにより警報を発し、もって運転者に対して注意喚起することになる。故に、本実施の形態では、表示手段であるにディスプレイ11が同時に警報手段としても機能することになる。   In the present embodiment, as shown in FIG. 5, for example, when a preceding vehicle C1, an oncoming vehicle C2, or a pedestrian M in front of the course of the host vehicle 1 is recognized as a warning object G (n), an in-vehicle camera system 3 is displayed on the display 11, so that the vehicle C1, C2 or the pedestrian M is subjected to the processing of the frame F on the screen of the display 11 as will be described later. Will be alerted. Therefore, in the present embodiment, the display 11 as a display means also functions as an alarm means at the same time.

なお、上記スイッチの無操作時間と比較される設定時間は、各操作スイッチに共通の単一の時間を設定してある場合のほか、それぞれの操作スイッチの種別に応じて個別に設定しても良く、さらに各操作スイッチを複数のグループに分けて、そのグループごとに設定時間を個別に設定しておいても良い。   Note that the set time compared to the no-operation time of the above switches may be set individually according to the type of each operation switch, in addition to the case where a single time common to each operation switch is set. Alternatively, each operation switch may be divided into a plurality of groups, and the set time may be individually set for each group.

次に、このように構成された車両運転支援装置の一連の処理手順を図4のフローチャートを参照しながら説明する。   Next, a series of processing procedures of the vehicle driving support apparatus configured as described above will be described with reference to the flowchart of FIG.

図1のほか図2,3に示すように、自車両1の前部に配置した車載カメラシステム3を主要素とする画像認識装置4とレーダ装置2とで自車両1の進路の前方を常時監視していて、より具体的には検知距離Wで且つ検知角θの検知範囲Qを監視している。そして、車載カメラシステム3が捉えた映像がそのまま図1のディスプレイ11に表示される。   As shown in FIGS. 2 and 3 in addition to FIG. 1, the image recognition device 4 and the radar device 2 having the in-vehicle camera system 3 disposed at the front of the host vehicle 1 as the main elements always keep the front of the course of the host vehicle 1. More specifically, the detection range Q of the detection distance W and the detection angle θ is monitored. And the image | video which the vehicle-mounted camera system 3 caught is displayed on the display 11 of FIG. 1 as it is.

他方、図1に示したように、ナビゲーションシステム5やオーディオ機器6の操作状態を運転支援制御コントローラ7のスイッチ操作監視部17が監視していて、ナビゲーションシステム5またはオーディオ装機器6の操作スイッチ10または12のいずれかがON操作された時には、その操作スイッチ10または12の種別と操作時刻がその都度運転支援制御コントローラ7に出力されて、その運転支援制御コントローラ7のスイッチ操作監視部17に取り込まれて蓄積される。   On the other hand, as shown in FIG. 1, the operation state of the navigation system 5 and the audio device 6 is monitored by the switch operation monitoring unit 17 of the driving support controller 7, and the operation switch 10 of the navigation system 5 or the audio device 6 is monitored. Alternatively, when any one of 12 is turned ON, the type and operation time of the operation switch 10 or 12 are output to the driving support control controller 7 each time and are taken into the switch operation monitoring unit 17 of the driving support control controller 7. Accumulated.

上記画像認識装置4およびレーダ装置2は、検知範囲Qのなかで例えば四輪車、二輪車、歩行者等の警戒対象物G(n)を検知すると、その警戒対象物G(n)の位置と自車両1からの距離を算出して、それらの情報を運転支援制御コントローラ7に出力する。   When the image recognition device 4 and the radar device 2 detect a warning object G (n) such as a four-wheeled vehicle, a two-wheeled vehicle, or a pedestrian in the detection range Q, the position of the warning object G (n) is determined. The distance from the host vehicle 1 is calculated, and the information is output to the driving support controller 7.

運転支援制御コントローラ7のセンサヒュージョン部13では、画像認識装置4およびレーダ装置2からの情報をもとに、図4のステップS1にて10msecタイマーで設定された一定の周期で警戒対象物G(n)の検知情報を収集し、警戒対象物G(n)の検知の有無を判定する(ステップS2)。   Based on the information from the image recognition device 4 and the radar device 2, the sensor fusion unit 13 of the driving support control controller 7 uses the warning object G () at a constant period set by the 10 msec timer in step S1 of FIG. The detection information of n) is collected, and the presence / absence of detection of the warning object G (n) is determined (step S2).

警戒対象物G(n)の検知があると判定した場合には、運転支援制御コントローラ7の脇見状態判定部18では、スイッチ操作監視部17に蓄積されているスイッチ操作履歴のなかから操作スイッチ10または12に関する直近のスイッチ操作の時刻情報を呼び出した上で、そのスイッチ操作の時刻から現在の時刻までの時間Tを算出する(ステップS3)。そして、その算出した時間Tと予め設定してある設定時間とを比較して(ステップS4)、時間Tが設定時間以内である場合には実質的な脇見状態にあると推定してステップS5に進み、他方、時間Tが設定時間以内でない場合には非脇見状態にあると推定してステップS11に進む。   When it is determined that the warning object G (n) is detected, the aside look state determination unit 18 of the driving support control controller 7 operates the operation switch 10 based on the switch operation history accumulated in the switch operation monitoring unit 17. Alternatively, after calling the time information of the latest switch operation related to 12, the time T from the switch operation time to the current time is calculated (step S3). Then, the calculated time T is compared with a preset set time (step S4), and when the time T is within the set time, it is estimated that the user is in a state of looking aside, and the process proceeds to step S5. On the other hand, if the time T is not within the set time, it is presumed that the person is not looking aside and proceeds to step S11.

ここで、直近のスイッチ操作の時刻から現在時刻までの時間Tをもとに実質的な脇見状態か否かを判定しているのは、スイッチ操作の履歴からナビゲーションシステム5またはオーディオ機器6の操作に際して視線を動かした可能性が高いこと、時間Tが短くスイッチ操作のタイミングが直近であればあるほど運転者がナビゲーションシステム5またはオーディオ機器6の操作に気を取られていて、正面視での運転に対する注意力が緩慢となっている可能性が高いと判断できるためである。   Here, based on the time T from the most recent switch operation time to the current time, it is determined whether or not the user is in a state of looking aside from the operation history of the switch system 5 or the operation of the audio device 6. At this time, it is highly possible that the line of sight is moved, and the shorter the time T is, the closer the timing of the switch operation is, the more the driver is distracted by the operation of the navigation system 5 or the audio device 6, and the front view This is because it can be determined that there is a high possibility that attention to driving is slow.

図4のステップS5で実質的な脇見状態と推定された場合には、脇見フラグをONに設定し(ステップS6)、これを受けて図1の特定範囲可変機能部16が、図2に示すように警戒対象物G(n)のうち優先度の高いものを警報対象物として抽出または特定すべき範囲を広い方のL1の範囲に切り換える(ステップS7)。   If it is estimated in step S5 in FIG. 4 that the side-by-side state is substantial, the side-by-side flag is set to ON (step S6), and the specific range variable function unit 16 in FIG. As described above, the range to be extracted or specified for the alarm object G (n) having a higher priority is switched to the wider L1 range (step S7).

なお、上記のように脇見状態と推定されたことを条件に警報対象物として抽出または特定すべき範囲を広い方のL1の範囲に切り換えるのは、先に述べたようにナビゲーションシステム5またはオーディオ機器6の操作に気を取られていて正面視での運転に対する注意力が緩慢となっている可能性が高く、より広い範囲の警戒対象物を警報対象物として告知することが有効であると考えられるためである。   Note that, as described above, the navigation system 5 or the audio equipment may be switched to the wider L1 range as the alarm target object on the condition that it has been estimated to be an aside state as described above. It is highly likely that attention to the operation of No. 6 is distracted and attention to driving in front view is slow, and it is effective to announce a wider range of warning objects as warning objects Because it is.

上記のように警報対象物として抽出または特定すべき範囲が広い方のL1の範囲に切り換えた結果、図2の警戒対象物G(n)のうちでも警報対象範囲L1内のもの(図2の○印)のみが警報対象物となり、警報対象範囲L以外のもの(図2の△印)は警報非対象物となることから、警報対象物特定部14が警報対象範囲L1内にある警戒対象物G(n)を警報対象物(図2の○印)として抽出または特定した上で(ステップS8)、警報出力部15から警報手段を兼ねているディスプレイ11に対して警報指令を出力する(ステップS9)、警報・告知を実行する(ステップS10)。   As a result of switching to the range L1 having a wider range to be extracted or specified as the alarm object as described above, the alarm object G (n) in FIG. 2 within the alarm object range L1 (in FIG. 2) ○ mark) only becomes an alarm target, and anything other than the alarm target range L (△ mark in FIG. 2) becomes a non-alarm target, so the alarm target specifying unit 14 is in the alarm target range L1. After extracting or specifying the object G (n) as an alarm object (circled in FIG. 2) (step S8), an alarm command is output from the alarm output unit 15 to the display 11 that also serves as an alarm means ( Step S9), alarm / notification is executed (step S10).

この警報指令はディスプレイ11の画面に表示されている上記警報対象物への枠囲み処理指令として出力され、当該警報対象物の位置は既知であることから、例えば図11に示したディスプレイ11の画面上での先行車C1や対向車C2あるいは歩行者Mが抽出または特定された警報対象物であるとすると、これらの警報対象物C1,C2およびMを画面上で視認し易いように当該警報対象物C1,C2およびMの強調処理もしくは誇張処理の一環として、ここでは特定された警報対象物C1,C2およびMに枠囲みFを施し、運転者に注意喚起する。より具体的には、所定の色で且つ大きさの異なる複数種類の枠が予めパターン化されて記憶されており、例えば図5に示すように特定された警報対象物C1,C2およびMの大きさに応じて該当する枠Fを選択して、それを当初の映像に反映させるべく画面上の該当する警報対象物C1,C2およびMの上に重畳表示させる。   This alarm command is output as a frame enclosing process command for the alarm object displayed on the screen of the display 11, and since the position of the alarm object is known, for example, the screen of the display 11 shown in FIG. Assuming that the preceding vehicle C1, the oncoming vehicle C2, or the pedestrian M is an alarm object extracted or specified above, the alarm object C1, C2, and M are displayed so as to be easily visible on the screen. As part of the emphasis process or exaggeration process for the objects C1, C2 and M, a frame F is applied to the identified alarm objects C1, C2 and M here to alert the driver. More specifically, a plurality of types of frames having predetermined colors and different sizes are pre-patterned and stored. For example, the sizes of the alarm objects C1, C2 and M identified as shown in FIG. Accordingly, the corresponding frame F is selected and superimposed on the corresponding alarm objects C1, C2 and M on the screen so as to be reflected in the original video.

なお、上記の枠囲み処理は一例であり、これに代えて他の方式のものを採用しても良く、要は警報対象物を強調または誇張できるものであれば良い。   Note that the above frame enclosing process is merely an example, and other methods may be employed instead, as long as the alarm object can be emphasized or exaggerated.

こうすることにより、運転者は枠囲みされている警報対象物C1,C2およびMを瞬時に把握し、なお且つ自車両1との位置関係をも確認しながら警報対象物C1,C2およびMの動きに十分に注意を払うことが可能となる。   By doing so, the driver immediately grasps the alarm objects C1, C2 and M surrounded by the frame, and also confirms the positional relationship with the own vehicle 1 while checking the alarm objects C1, C2 and M. It is possible to pay sufficient attention to the movement.

他方、図4のステップS11にて非脇見状態と推定された場合には、脇見フラグをOFFに設定し(ステップS12)、これを受けて特定範囲可変機能部16が、図13に示すように警戒対象物G(n)のうち優先度の高いものを警報対象物として抽出または特定すべき範囲を狭い方のL2の範囲に切り換える(ステップS13)。   On the other hand, if it is estimated in step S11 of FIG. 4 that the non-look-aside state is assumed, the look-aside flag is set to OFF (step S12), and the specific range variable function unit 16 receives this as shown in FIG. The range that should be extracted or specified as a warning object among the warning objects G (n) is switched to the narrower L2 range (step S13).

ここで、上記のように非脇見状態と推定されたことを条件に警報対象物として抽出または特定すべき範囲を狭い方のL2の範囲に切り換えるのは、先に述べたナビゲーションシステム5またはオーディオ機器6の操作履歴からして正面視での運転に対する注意力が緩慢となっている可能性が低く、より重要度の高い警戒対象物のみを警報対象物として告知することで十分と考えられるためである。   Here, the navigation system 5 or the audio device described above is used to switch the range to be extracted or specified as the alarm object to the narrower L2 range on the condition that it is estimated that the person is not looking aside as described above. Because it is unlikely that attention to driving in front view is sluggish based on the operation history of 6, it is considered sufficient to notify only warning objects with higher importance as warning objects. is there.

上記のように警報対象物として抽出または特定すべき範囲が狭い方のL2の範囲に切り換えた結果、図3の警戒対象物G(n)のうちでも警報対象範囲L2内のもの(図3の○印)のみが警報対象物となり、警報対象範囲L2以外のもの(図3の△印)は警報非対象物となることから、図1の警報対象物特定部14が警報対象範囲L2内にある警戒対象物G(n)を警報対象物(図3の○印)として抽出または特定した上で(ステップS14)、警報出力部15から警報手段を兼ねているディスプレイ11に対して警報指令を出力して(ステップS15)、警報・告知を実行する(ステップS16)。   As a result of switching to the L2 range having a narrower range to be extracted or specified as the alarm object as described above, the alarm object G (n) in FIG. 3 within the alarm object range L2 (in FIG. 3) Since only the alarm target object is a warning object, and those other than the warning target range L2 (△ mark in FIG. 3) are non-warning target objects, the warning target specifying unit 14 in FIG. 1 is within the warning target range L2. After extracting or specifying a certain warning object G (n) as a warning object (circle mark in FIG. 3) (step S14), a warning command is issued from the warning output unit 15 to the display 11 that also serves as a warning means. Output (step S15) and execute alarm / notification (step S16).

この警報指令は先の場合と同様であり、例えば図5に示したディスプレイ11の画面上の車両C1,C2や歩行者Mが抽出または特定された警報対象物であるとすると、これらの警報対象物C1,C2またはMを画面上で視認し易いように当該警報対象物C1,C2またはMの強調処理もしくは誇張処理の一環として、それらの警報対象物C1,C2およびMに枠囲みFを施し、運転者に注意喚起することになる。   This warning command is the same as the previous case. For example, if the vehicles C1, C2 and the pedestrian M on the screen of the display 11 shown in FIG. As a part of the emphasis processing or exaggeration processing of the alarm object C1, C2 or M, a frame F is applied to the alarm object C1, C2 and M so that the object C1, C2 or M can be easily seen on the screen. This will alert the driver.

このように本実施の形態によれば、車載機器であるナビゲーションシステム5やオーディオ機器6のスイッチの操作状態を監視するスイッチ操作監視部17の監視結果に基づいて脇見状態と推定して、例えばディスプレイ11の画面上での枠囲み処理により警報する発するようにしたので、脇見状態を検出するためのCCDカメラ等の撮像手段が不要であり、システムのコストダウンを図ることができて、一般車両への普及が期待できるようになる。   As described above, according to the present embodiment, it is estimated that the armpit is in the side view state based on the monitoring result of the switch operation monitoring unit 17 that monitors the operation state of the switches of the navigation system 5 and the audio device 6 that are in-vehicle devices. Since the alarm is issued by the frame enclosing process on the screen of No. 11, there is no need for an imaging means such as a CCD camera for detecting the looking-aside state, and the cost of the system can be reduced. Can be expected.

また、脇見状態と推定された場合に、警報対象範囲を広い範囲L1に切り換えることで、例えば脇見状態に伴い蛇行運転となった場合に、警報対象物への衝突の危険を未然に回避できる利点がある。   In addition, when it is estimated that the armpit is in the side-by-side state, by switching the alarm target range to the wide range L1, for example, in the case of the meandering operation in the side-by-side state, it is possible to avoid the risk of collision with the alarm object in advance. There is.

その上、自車両1の前方の警戒対象物が検知された時点で直ちに警報を発する場合と異なり、警報による注意喚起は脇見状態と推定される場合に限定しているので、頻繁で且つ煩わしい警戒対象物検知の警報から運転者を解放することができる。   In addition, unlike the case where a warning is issued immediately when a warning object in front of the host vehicle 1 is detected, the warning is limited to the case where it is presumed to be a side-by-side state. The driver can be released from the alarm of object detection.

図6は本発明に係る車両運転支援装置の第2の実施の形態を示すフローチャートで、ステップS27およびステップS32での処理内容のみが図4のものと異なり、それ以外の処理は図4のものと同一となっている。   FIG. 6 is a flowchart showing a second embodiment of the vehicle driving support apparatus according to the present invention. Only the processing contents in steps S27 and S32 are different from those in FIG. 4, and the other processes are those in FIG. It is the same.

ここでは、図1に示した特定範囲可変機能部16を機能させることなく、図2,3に示した警報対象範囲を例えばL1またはL2の特定の範囲に固定しておき(L1またはL2以外の範囲に設定することも可)、ステップS25にて脇見状態と推定された場合には、次のステップS26にて脇見状態フラグをONに設定して上で、その特定の範囲内にある警戒対象物の全てを警報対象物として抽出または特定し(ステップS27)、それらの全ての警報対象物に関して警報を発するべく、図5に示したようにディスプレイ11の画面上の表示されている全ての警報対象物C1,C2およびMに警報処理として枠囲みFの処理を施し、運転者に対して注意喚起するものとする。   Here, without causing the specific range variable function unit 16 shown in FIG. 1 to function, the alarm target range shown in FIGS. 2 and 3 is fixed to a specific range of L1 or L2, for example (other than L1 or L2). If it is estimated in step S25 that it is in a sideward state, the sideward state flag is set to ON in the next step S26, and the alert target is in that specific range. All the objects are extracted or specified as alarm objects (step S27), and all alarms displayed on the screen of the display 11 as shown in FIG. 5 are issued to issue alarms for all the alarm objects. The objects C1, C2 and M are subjected to the process of frame F as an alarm process to alert the driver.

これに対して、ステップS30にて非脇見状態と推定された場合には、次のステップS31にて脇見状態フラグをOFFに設定して上で、図1の特定範囲可変機能部16にて指定される範囲にかかわらず、図1の警報対象物特定部14ではステップS22にて検知された全ての警戒対象物のうち衝突の危険性が極めて高いものを警報対象物として抽出または特定し(ステップS32)、その抽出または特定された警報対象物に関してのみ警報を発するべく、図5に示したようにディスプレイ11の画面上の表示されている警戒対象物のうち先に警報対象物として抽出または特定されたもののみ(例えばC1,C2およびMのうちのいずれか一つ)に警報処理として枠囲みFの処理を施し、運転者に対して注意喚起するものとする(ステップS33,S34)。   On the other hand, if it is estimated that the person is not looking aside in step S30, the aside state flag is set to OFF in the next step S31, and then specified by the specific range variable function unit 16 in FIG. Regardless of the range, the alarm object specifying unit 14 in FIG. 1 extracts or specifies as an alarm object an object with a very high risk of collision among all the alarm objects detected in step S22 (step S22). S32), in order to issue an alarm only for the extracted or specified alarm object, the alarm object displayed on the screen of the display 11 is first extracted or specified as shown in FIG. Only the one that has been made (for example, any one of C1, C2, and M) is subjected to the processing of the frame F as an alarm processing to alert the driver (step S). 3, S34).

ここで、ステップS22で検知された全ての警戒対象物G(n)のうち衝突の危険性が極めて高いものを警報対象物として抽出または特定するには、検知された個々の警戒対象物G(n)はその位置と自車両1からの距離が先に述べたように既知であることから、例えば検知された全ての警戒対象物G(n)のうち自車両1からの距離が最も小さいものを警報対象物として抽出または特定するものとする。   Here, in order to extract or specify an alarm object having a very high risk of collision among all the alarm objects G (n) detected in step S22, each detected alarm object G ( n), since the position and the distance from the own vehicle 1 are known as described above, for example, the smallest distance from the own vehicle 1 among all the detected warning objects G (n) Shall be extracted or specified as an alarm object.

したがって、この第2の実施の形態においても、先の第1の実施の形態と同様の効果が得られるものであることは言うまでもない。   Therefore, it goes without saying that the same effects as those of the first embodiment can be obtained also in the second embodiment.

本発明に係る車両運転支援装置の第1の実施の形態としてそのシステム構成を示すブロック回路図。1 is a block circuit diagram showing a system configuration as a first embodiment of a vehicle driving support apparatus according to the present invention. 図1のシステムが搭載された車両にて警報対象範囲を広い範囲L1に切り換えて監視している状態を示す平面説明図。Plane explanatory drawing which shows the state which switches and monitors the warning object range to the wide range L1 in the vehicle carrying the system of FIG. 図1のシステムが搭載された車両にて警報対象範囲を狭い範囲L2に切り換えて監視している状態を示す平面説明図。Plane explanatory drawing which shows the state which switches and monitors the warning object range to the narrow range L2 in the vehicle carrying the system of FIG. 図1のシステムでの処理手順を示すフローチャート。The flowchart which shows the process sequence in the system of FIG. 図1のシステムにおけるディスプレイ上での表示例を示す説明図。Explanatory drawing which shows the example of a display on the display in the system of FIG. 本発明に係る車両運転支援装置の第2の実施の形態を示すフローチャート。The flowchart which shows 2nd Embodiment of the vehicle driving assistance device which concerns on this invention.

符号の説明Explanation of symbols

1…車両(自車両)
2…レーダ装置(警戒対象物検知手段)
3…車載カメラシステム
4…画像認識装置(警戒対象物検知手段)
5…ナビゲーションシステム(車載機器)
6…オーディオ機器(車載機器)
7…運転支援制御コントローラ
10…操作スイッチ
11…ディスプレイ(警報手段)
12…操作スイッチ
14…警報対象物特定部(警報対象物特定手段)
16…特定範囲可変機能部(特定範囲可変手段)
17…スイッチ操作監視部(スイッチ操作監視手段)
18…脇見状態判定部(脇見状態判定手段)
G…警戒対象物
1 ... Vehicle (own vehicle)
2 ... Radar device (warning object detection means)
3 ... In-vehicle camera system 4 ... Image recognition device (warning object detection means)
5. Navigation system (on-vehicle equipment)
6 ... Audio equipment (in-vehicle equipment)
7 ... Driving support controller 10 ... Operation switch 11 ... Display (alarm means)
12 ... Operation switch 14 ... Alarm object specifying part (Alarm object specifying means)
16: Specific range variable function section (specific range variable means)
17 ... Switch operation monitoring unit (switch operation monitoring means)
18 ... Aside look state determination unit (aside look state determination means)
G ... Alert object

Claims (4)

自車両の周囲の警戒対象物の検知結果に応じて警報を発することが可能な警報手段と、
車載機器のスイッチの操作状態を監視するスイッチ操作監視手段と、
上記スイッチ操作監視手段からの情報をもとに脇見状態にあるか否かを推定する脇見状態判定手段と、
を備えていて、
上記脇見状態判定手段は、スイッチの操作間隔を無操作時間とし、該無操作時間が所定設定時間以内である場合は脇見状態であると判定し、
上記スイッチ操作監視手段による監視の結果、運転者への警報・告知が必要と判断された場合に上記警報手段を作動させることを特徴とする車両運転支援装置。
An alarm means capable of issuing an alarm according to the detection result of an alarm object around the host vehicle;
Switch operation monitoring means for monitoring the operation state of the switch of the in-vehicle device,
Looking aside state determining means for estimating whether or not the person is looking aside based on information from the switch operation monitoring means,
With
The aside look determination means determines the switch operation interval as a no-operation time, and determines that it is a look-aside state when the no-operation time is within a predetermined set time.
As a result of monitoring by the switch operation monitoring means, when it is determined that an alarm / notification to the driver is necessary, the above-mentioned alarm means is actuated.
自車両の前方の警戒対象物を検知する警戒対象物検知手段と、
記警戒対象物検知手段によって検知された警戒対象物のうち運転者への警報・告知が必要な警戒対象物を要警報対象物として特定する警報対象物特定手段と、
上記警報対象物特定手段からの情報に基づいて運転者への警報・告知を実行する警報手段と、
上記脇見状態判定手段での推定結果に応じ、上記警報対象物特定手段により要警報対象物として特定すべき範囲を切り換える特定範囲可変手段と、
を備えことを特徴とする請求項1に記載の車両運転支援装置。
A warning object detection means for detecting a warning object in front of the host vehicle;
An alarm object specifying means for specifying an alert object requiring warning and notification to the driver of the warning object detected as main alarm object by the upper Symbol Warning object detecting means,
Warning means for executing warning / notification to the driver based on information from the warning object specifying means;
A specific range variable means for switching a range to be specified as an alarm target object by the alarm object specifying means according to the estimation result in the side look state determination means,
Vehicle driving support device according to claim 1, characterized in that with a.
上記特定範囲可変手段は、上記警報対象物特定手段により要警報対象物として特定すべき範囲を広狭二段階に切り換えるようになっていることを特徴とする請求項2に記載の車両運転支援装置。   3. The vehicle driving support device according to claim 2, wherein the specific range variable means switches a range to be specified as an alarm target object by the alarm target object specifying means in two steps. 上記脇見状態判定手段にて脇見状態にあると推定された場合に、上記特定範囲可変手段は、上記警報対象物特定手段が要警報対象物として特定すべき範囲を全ての警戒対象物として指示するものであることを特徴とする請求項3に記載の車両運転支援装置。   When it is estimated that the side-by-side state determining unit is in the side-by-side state, the specific range variable unit instructs the range to be specified as the alarm target object by the alarm target object specifying unit as all the alarm target objects. The vehicle driving support device according to claim 3, wherein the vehicle driving support device is a device.
JP2008184407A 2008-07-16 2008-07-16 Vehicle driving support device Active JP5004887B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008184407A JP5004887B2 (en) 2008-07-16 2008-07-16 Vehicle driving support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008184407A JP5004887B2 (en) 2008-07-16 2008-07-16 Vehicle driving support device

Publications (2)

Publication Number Publication Date
JP2010026619A JP2010026619A (en) 2010-02-04
JP5004887B2 true JP5004887B2 (en) 2012-08-22

Family

ID=41732422

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008184407A Active JP5004887B2 (en) 2008-07-16 2008-07-16 Vehicle driving support device

Country Status (1)

Country Link
JP (1) JP5004887B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011198247A (en) * 2010-03-23 2011-10-06 Toyota Motor Corp Driving support device
JP2014211787A (en) * 2013-04-19 2014-11-13 本田技研工業株式会社 Information providing device
JP6349744B2 (en) * 2014-01-28 2018-07-04 株式会社Jvcケンウッド Display device, display method, and display program
JP6190758B2 (en) * 2014-05-21 2017-08-30 本田技研工業株式会社 Object recognition device and vehicle
JP2018088119A (en) * 2016-11-29 2018-06-07 パイオニア株式会社 Control device, control method, and program
JP2021047675A (en) * 2019-09-19 2021-03-25 パナソニックIpマネジメント株式会社 Information processing device, information processing method, and computer program

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05155291A (en) * 1991-12-03 1993-06-22 Mitsubishi Electric Corp Warning device for vehicle
JPH07257301A (en) * 1994-03-24 1995-10-09 Mitsubishi Electric Corp Obstruction alarm system
JP4972913B2 (en) * 2005-11-18 2012-07-11 トヨタ自動車株式会社 Driving support device

Also Published As

Publication number Publication date
JP2010026619A (en) 2010-02-04

Similar Documents

Publication Publication Date Title
JP4774849B2 (en) Vehicle obstacle display device
JP4720386B2 (en) Driving assistance device
JP4517393B2 (en) Driving assistance device
JP4722777B2 (en) Obstacle recognition judgment device
JP5004887B2 (en) Vehicle driving support device
JP2015049842A (en) Alert display device and alert display method
US20120320212A1 (en) Surrounding area monitoring apparatus for vehicle
JP2007034988A (en) Obstacle avoidance warning device for vehicle
JP6439667B2 (en) In-vehicle warning system
JP2005267108A (en) Driving support device
JP5898001B2 (en) Vehicle periphery monitoring device
JP7074164B2 (en) Monitoring system, monitoring method and monitoring program
JP2008013070A (en) Vehicular display device
JP2007249757A (en) Warning device
CN111645674B (en) Vehicle control device
JP2007286959A (en) Operation support device
JP2003030799A (en) Obstacle information display device
JP4499525B2 (en) Danger warning system
JP5192007B2 (en) Vehicle periphery monitoring device
JP2013161440A (en) Vehicle surroundings monitoring device
JPH11139229A (en) Running environment supervisory alarm device
JP6927787B2 (en) On-board unit and driving support device
JP2013235378A (en) Vehicle information providing device
JP4884806B2 (en) Vehicle perimeter monitoring system
JP2010026807A (en) Alarm display control apparatus for vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100715

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20100907

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20101005

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111213

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120424

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120522

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150601

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5004887

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350