JP2007122578A - Virtual lane display apparatus - Google Patents

Virtual lane display apparatus Download PDF

Info

Publication number
JP2007122578A
JP2007122578A JP2005316478A JP2005316478A JP2007122578A JP 2007122578 A JP2007122578 A JP 2007122578A JP 2005316478 A JP2005316478 A JP 2005316478A JP 2005316478 A JP2005316478 A JP 2005316478A JP 2007122578 A JP2007122578 A JP 2007122578A
Authority
JP
Japan
Prior art keywords
vehicle
virtual lane
visibility
driving operation
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005316478A
Other languages
Japanese (ja)
Other versions
JP4888761B2 (en
Inventor
Tatsuya Muramatsu
竜弥 村松
Masao Kawai
正夫 川合
Yoichi Nomoto
洋一 野本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Equos Research Co Ltd
Original Assignee
Equos Research Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Equos Research Co Ltd filed Critical Equos Research Co Ltd
Priority to JP2005316478A priority Critical patent/JP4888761B2/en
Publication of JP2007122578A publication Critical patent/JP2007122578A/en
Application granted granted Critical
Publication of JP4888761B2 publication Critical patent/JP4888761B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Instrument Panels (AREA)
  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To accurately display a virtual lane to a driver in poor visibility. <P>SOLUTION: An image of the view outside a vehicle is analyzed to determine whether visibility is poor. Further, changes in driving operation and changes in the driver's biological information are detected in order to determine whether or not the driver is in a situation where it is difficult to drive because of poor visibility. If poor visibility affects the driving operation and the biological information indicates some abnormality, a virtual lane is displayed. The virtual lane displayed is erased when the biological information reverts to normal. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、仮想車線表示装置に係り、車両前方の視認性に応じて仮想車線を表示する車両制御装置に関する。   The present invention relates to a virtual lane display device, and more particularly to a vehicle control device that displays a virtual lane according to visibility in front of the vehicle.

車両前方の視認性が悪い場合に、視認性を向上させる技術が提案されている。
例えば、特許文献1では、車線の形状を記憶しておきヘッドアップディスプレイに表示することで、降雨時や積雪時等であっても車線認識を可能にする技術が提案されている。
この特許文献1記載技術では常に車線形状が表示されるのに対して、特許文献2では、走路形状が運転者によって視認可能であると判定された場合には、車両のフロントガラスへの走路形状の表示を非表示にする技術、すなわち、視認不可能な場合にのみ走路形状を表示する技術について提案されている。
A technique for improving visibility when visibility in front of the vehicle is poor has been proposed.
For example, Patent Document 1 proposes a technique that enables lane recognition even when it is raining or snowing by storing the shape of the lane and displaying it on a head-up display.
In the technique described in Patent Document 1, the lane shape is always displayed, whereas in Patent Document 2, when it is determined that the road shape is visible by the driver, the shape of the road to the windshield of the vehicle is determined. Has been proposed as a technology for hiding the display, that is, a technology for displaying the shape of the runway only when it is not visible.

特開2000−211452号公報JP 2000-211142 A 特開2005−170323号公報JP 2005-170323 A

特許文献1、2記載技術では、視認性が悪い場合に常に車線や走路形状がフロントガラスに表示されている。
しかし、視認性が悪いことが必ずしも運転者にとって車線表示が必要であるとは限らない。すなわち、視認性の悪さが運転者の運転操作に影響を与えないのであれば、車線の表示は運転者にとって過剰な情報の提示となり、逆に運転操作の支障となる可能性がある。
In the technologies described in Patent Documents 1 and 2, the lane and the running road shape are always displayed on the windshield when the visibility is poor.
However, it is not always necessary for the driver to display lanes because of poor visibility. That is, if the poor visibility does not affect the driving operation of the driver, the display of the lane may present excessive information to the driver, and conversely, the driving operation may be hindered.

そこで本発明は、運転者にとってより的確な状況において仮想車線を表示することが可能な仮想車線表示装置を提供することを目的とする。   Therefore, an object of the present invention is to provide a virtual lane display device capable of displaying a virtual lane in a more accurate situation for the driver.

(1)請求項1に記載した発明では、車両外部の環境情報を取得する車外情報取得手段と、前記取得した環境情報から、車両前方の視認性の良否を判定する視認性判定手段と、運転者の生体情報を取得する生体情報取得手段と、前記取得した生体情報が所定の閾値を越えているか否かを判定する生体情報判定手段と、車両が現在走行している道路形状を認識する道路形状認識手段と、前記視認性が良くないと判断され、かつ、前記生体情報が所定の閾値を越えていると判断された場合に、前記認識した道路形状に合わせて仮想の車線を表示する仮想車線表示手段と、を仮想車線表示装置に具備させて前記目的を達成する。
(2)請求項2に記載した発明では、車両外部の環境情報を取得する車外情報取得手段と、前記取得した環境情報から、車両前方の視認性の良否を判定する視認性判定手段と、運転者の運転操作を検出する運転操作検出手段と、前記検出した運転操作が、視認性が良くない場合の運転操作として予め規定された異常操作に該当するか否かを判断する異常操作判断手段と、車両が現在走行している道路形状を認識する道路形状認識手段と、前記視認性が良くないと判断され、かつ、前記異常運転操作に該当すると判断された場合に、前記認識した道路形状に合わせて仮想の車線を表示する仮想車線表示手段と、を仮想車線表示装置に具備させて前記目的を達成する。
(3)請求項3に記載した発明では、請求項1又は請求項2に記載の仮想車線表示装置において、前記仮想車線表示手段は、道路上又はフロントガラスに仮想車線を表示する、ことを特徴とする請求項1又は請求項2に記載の仮想車線表示装置。
(4)請求項4に記載した発明では、請求項1、請求項2、又は請求項3に記載の仮想車線表示装置において、車両前方に存在する障害物を検出する障害物検出手段を備え、前記仮想車線表示手段は、前記検出した障害物を避ける仮想車線を表示する、ことを特徴とする。
(5)請求項5に記載した発明では、請求項1、請求項2、又は請求項3に記載の仮想車線表示装置において、車両前方に存在する他の走行車両、及び障害物を検出する前方存在物検出手段を備え、前記検出した他の走行車両又は障害物に応じてその存在を警告する警告手段と、を具備したことを特徴とする。
(1) In the invention described in claim 1, outside information acquisition means for acquiring environmental information outside the vehicle, visibility determination means for determining the visibility of the front of the vehicle from the acquired environmental information, and driving A biometric information acquisition unit that acquires the biometric information of the person, a biometric information determination unit that determines whether or not the acquired biometric information exceeds a predetermined threshold, and a road that recognizes a road shape on which the vehicle is currently traveling A virtual shape that displays a virtual lane in accordance with the recognized road shape when it is determined that the visibility is not good and the biological information exceeds a predetermined threshold. A lane display means is provided in the virtual lane display device to achieve the object.
(2) In the invention described in claim 2, outside information acquisition means for acquiring environmental information outside the vehicle, visibility determination means for determining the visibility of the front of the vehicle from the acquired environmental information, and driving Driving operation detecting means for detecting a driving operation of the user, abnormal operation determining means for determining whether the detected driving operation corresponds to an abnormal operation defined in advance as a driving operation when visibility is not good, and Road shape recognition means for recognizing the road shape on which the vehicle is currently traveling, and when the visibility is determined to be poor and the abnormal driving operation is determined, the recognized road shape In addition, the virtual lane display means for displaying the virtual lane is provided in the virtual lane display device to achieve the object.
(3) In the invention described in claim 3, in the virtual lane display device according to claim 1 or 2, the virtual lane display means displays the virtual lane on the road or on the windshield. The virtual lane display device according to claim 1 or 2.
(4) In the invention described in claim 4, in the virtual lane display device according to claim 1, claim 2, or claim 3, the virtual lane display device further includes an obstacle detection means for detecting an obstacle existing in front of the vehicle, The virtual lane display means displays a virtual lane that avoids the detected obstacle.
(5) In the invention described in claim 5, in the virtual lane display device described in claim 1, claim 2, or claim 3, another traveling vehicle existing in front of the vehicle and a front detecting an obstacle And a warning means for warning the presence of the detected vehicle according to the detected other traveling vehicle or obstacle.

請求項1に記載した発明によれば、視認性が良くないと判断されただけではなく、更に、生体情報が所定の閾値を越えている場合に、仮想の車線を表示するようにしたので、運転者にとってより的確に仮想車線を表示することができる。
請求項2に記載した発明によれば、視認性が良くないと判断されただけではなく、更に、視認性が良くない場合の運転操作として予め規定された異常操作に該当する運転操作が検出された場合に、仮想の車線を表示するようにしたので、運転者にとってより的確に仮想車線を表示することができる。
According to the first aspect of the present invention, not only is it determined that the visibility is not good, but also the virtual lane is displayed when the biological information exceeds a predetermined threshold. The virtual lane can be displayed more accurately for the driver.
According to the second aspect of the present invention, not only is it determined that the visibility is not good, but also a driving operation corresponding to an abnormal operation defined in advance as a driving operation when the visibility is not good is detected. In this case, since the virtual lane is displayed, the virtual lane can be displayed more accurately for the driver.

以下、本発明の仮想車線表示装置における好適な実施の形態について、図1から図5を参照して詳細に説明する。
(1)実施形態の概要
本実施形態の仮想車線表示装置では、車両外部を撮像するカメラの撮像画像を画像解析することで、視認性が良くない状態か否かを判断する。例えば、夜で雨の場合や逆光で車両前方の視界が悪い場合や車線が見にくい(全く見えない場合を含む)場合、霧で車両前方の視界が悪い場合等を視認性が良くない場合として認識する。
Hereinafter, a preferred embodiment of the virtual lane display device of the present invention will be described in detail with reference to FIGS. 1 to 5.
(1) Outline of Embodiment In the virtual lane display device of the present embodiment, it is determined whether or not visibility is poor by analyzing an image captured by a camera that images the outside of the vehicle. For example, it is recognized that the visibility is not good when it is raining at night, when the visibility in front of the vehicle is bad due to backlight, when the lane is difficult to see (including when it is not visible at all), or when the visibility in front of the vehicle is poor due to fog To do.

更に、運転者にとって、視認性が良くないことが原因で運転操作がしにくい状況か否かを判断するために、運転操作の変化と運転者の生体情報の変化を検出する。
すなわち、運転操作の変化として、アクセル操作が極端に弱くなった場合やブレーキ回数が増えた場合等の視認性が良くない場合の運転操作を異常運転操作として予め規定しておき、運転操作が異常操作に該当するか否かを判断する。
また、心拍数、発汗量、瞳孔が開いている状態(瞳孔の大きさ)、脳波等の自律神経系の情報のうち少なくとも1つの情報を生体情報として検出し、通常走行時における平均値と比較して所定値以上変化しているか否か(例えば心拍数が30以上変化した場合)や、予め決められた所定の閾値を越えているか否か(例えば、心拍数が100を越えている場合)を判断する。
Further, in order to determine whether or not it is difficult for the driver to perform a driving operation due to poor visibility, a change in driving operation and a change in biological information of the driver are detected.
In other words, as a change in driving operation, the driving operation when visibility is not good, such as when the accelerator operation becomes extremely weak or the number of brakes increases, is defined in advance as an abnormal driving operation, and the driving operation is abnormal It is determined whether or not the operation is applicable.
In addition, at least one piece of information on the autonomic nervous system, such as heart rate, sweating volume, pupil open state (pupil size), and brain waves, is detected as biometric information and compared with the average value during normal running Whether the heart rate has changed by more than a predetermined value (for example, when the heart rate has changed by 30 or more), or whether a predetermined threshold value has been exceeded (for example, when the heart rate has exceeded 100). Judging.

そして、視認性が良くない状況において、運転操作が予め規定された異常操作に該当し、且つ、生体情報が所定の閾値を越えている場合には、視認性が良くないことが原因である可能性が高いので、そのような場合において、仮想車線を表示する。
仮想車線は、車両の現在位置を特定して現在走行している道路形状を道路地図データーベースを使用して認識し、認識した道路形状に合わせて、ヘッドアップディスプレイにより車両のフロントガラスに表示する。
なお、レーザ光をスキャンさせることで、仮想車線を道路上に直接表示するようにしてもよい。この場合の照射範囲(仮想車線表示範囲)は前方車両を照射しない範囲とする。
In a situation where visibility is not good, if the driving operation corresponds to a predetermined abnormal operation and the biological information exceeds a predetermined threshold value, the visibility may not be good. In such a case, the virtual lane is displayed.
The virtual lane identifies the current position of the vehicle and recognizes the current road shape using the road map database, and displays it on the windshield of the vehicle with a head-up display according to the recognized road shape. .
Note that the virtual lane may be directly displayed on the road by scanning the laser beam. In this case, the irradiation range (virtual lane display range) is a range in which the preceding vehicle is not irradiated.

仮想車線は、道路形状がカーブしている場合には該カーブに合わせて表示される。
また、ミリ波レーダにより車両前方に障害物が検出される場合には、該障害物を避けるように仮想車線が表示される。
更に、走行中の車両が前方にある場合には、走行車両の存在を示す画像を表示するようにしてもよい。
また、障害物や前方走行車両が存在する場合には、その旨を音声で警告する。
If the road shape is curved, the virtual lane is displayed according to the curve.
When an obstacle is detected in front of the vehicle by the millimeter wave radar, a virtual lane is displayed so as to avoid the obstacle.
Furthermore, when the traveling vehicle is ahead, an image indicating the presence of the traveling vehicle may be displayed.
Further, when there is an obstacle or a vehicle traveling ahead, a warning to that effect is given.

(2)実施形態の詳細
以下、本発明の仮想車線表示装置における好適な実施の形態について、図1から図5を参照して詳細に説明する。
図1は、本実施形態における仮想車線表示装置の構成を表したものである。
この図1に示すように、仮想車線表示装置は、各種プログラムやデータに従って仮想車線表示装置全体を制御するECU(電子制御装置)10を備えており、ECU10には現在位置検出装置11、生体情報センサ12、車外環境取得部13、運転操作検出部14、表示装置15、データ記憶部16、プログラム記憶部17、音声出力装置18、その他の装置(通信手段として外部の情報センタやインターネットと接続するための通信制御装置等)が接続されている。
(2) Details of Embodiment Hereinafter, a preferred embodiment of the virtual lane display device of the present invention will be described in detail with reference to FIGS. 1 to 5.
FIG. 1 shows a configuration of a virtual lane display device in the present embodiment.
As shown in FIG. 1, the virtual lane display device includes an ECU (electronic control device) 10 that controls the entire virtual lane display device according to various programs and data. The ECU 10 includes a current position detection device 11, biological information. Sensor 12, exterior environment acquisition unit 13, driving operation detection unit 14, display device 15, data storage unit 16, program storage unit 17, audio output unit 18, and other devices (connect to an external information center or the Internet as a communication means) A communication control device or the like) is connected.

現在位置検出装置11は、仮想車線表示装置が搭載される車両の現在位置(緯度、経度からなる絶対座標値)を検出するためのものであり、人工衛星を利用して車両の位置を測定するGPS(Global Positioning System)受信装置111、地磁気を検出して車両の方位を求める地磁気センサ112、ジャイロセンサ113、車速センサ114等の1又は複数が使用される。   The current position detection device 11 is for detecting the current position (absolute coordinate value composed of latitude and longitude) of the vehicle on which the virtual lane display device is mounted, and measures the position of the vehicle using an artificial satellite. A GPS (Global Positioning System) receiver 111, one or more of a geomagnetic sensor 112, a gyro sensor 113, a vehicle speed sensor 114, and the like that detect geomagnetism and determine the direction of the vehicle are used.

生体情報センサ12は、運転者の生体情報を取得するセンサとして、心拍センサ121、発汗センサ122、血圧センサ123を備えている。
車両が走行を開始すると、所定時間間隔で心拍数と発汗量を検出してECU10に供給するようになっている。
The biological information sensor 12 includes a heart rate sensor 121, a sweat sensor 122, and a blood pressure sensor 123 as sensors for acquiring the driver's biological information.
When the vehicle starts running, the heart rate and the amount of sweat are detected at predetermined time intervals and supplied to the ECU 10.

心拍センサ121は、運転者の心拍数を検出するセンサで、運転者の脈拍数から心拍数を検出する。本実施形態における心拍センサ121は、ステアリングに配置された電極により、運転中の運転者の手から心拍信号を採取することで心拍数を検出するようになっている。なお、心拍センサ121は、専用のセンサを手首等の運転者の身体に配置するようにしてもよい。   The heart rate sensor 121 is a sensor that detects the heart rate of the driver, and detects the heart rate from the pulse rate of the driver. The heart rate sensor 121 according to the present embodiment detects a heart rate by collecting a heart rate signal from the hand of a driver who is driving by an electrode disposed on a steering wheel. The heart rate sensor 121 may be provided with a dedicated sensor on the driver's body such as a wrist.

発汗センサ122は、ステアリングに配置され、発汗状態によって流れる電流値の変化から発汗状態を検出する。   The perspiration sensor 122 is disposed on the steering and detects the perspiration state from the change in the current value that flows depending on the perspiration state.

血圧センサ123は、運転者の血圧を検出するセンサである。
本実施形態において、血圧センサ123は、例えば、人体において心臓の収縮に伴う血液の脈波が心臓から指先に到達するまでの脈波伝播時間(PWTT:Pulse Wave Transmit Time)と血圧との相関関係を利用して血圧測定を行うものである。
血圧センサ123は、心臓の拍動時に発生する電位変化を検知して心臓の収縮タイミングを検知するための電極センサと、指先の血流量の変化を赤外線により検知して脈波が指先に到達したタイミング(脈拍)を捉えるための赤外線センサを備えており、これらセンサにより検知した脈波伝播時間に基づいた演算により血圧を測定する。
なお、特開2000−107141号公報に記載されるように、心臓からの距離の差を利用して、脈拍を計測する脈拍センサを両センサ部に配置するようにしてもよい。
The blood pressure sensor 123 is a sensor that detects the blood pressure of the driver.
In the present embodiment, the blood pressure sensor 123 is, for example, a correlation between a pulse wave transmission time (PWTT: Pulse Wave Transmit Time) until the blood pulse wave accompanying the heart contraction reaches the fingertip from the heart and blood pressure in the human body. Is used to measure blood pressure.
The blood pressure sensor 123 detects an electrical potential change that occurs when the heart beats and detects a heart contraction timing, and detects a change in blood flow of the fingertip with infrared rays, and a pulse wave reaches the fingertip. An infrared sensor for capturing timing (pulse) is provided, and blood pressure is measured by calculation based on the pulse wave propagation time detected by these sensors.
As described in JP 2000-107141 A, pulse sensors that measure a pulse by using a difference in distance from the heart may be arranged in both sensor units.

車外環境取得部13は、カメラ131、ミリ波レーダ132、ワイパーセンサ133、ヘッドランプセンサ134を備えている。   The vehicle exterior environment acquisition unit 13 includes a camera 131, a millimeter wave radar 132, a wiper sensor 133, and a headlamp sensor 134.

カメラ131は、車両前方に配置され、車両外前方を撮像する。カメラ131による撮像画像は画像認識処理により、運転者の視界が悪い状態か否かを判断する。
運転者の視界が悪い場合として、例えば、後述する道路地図データーベースによると現在走行している道路には車線が存在しているにもかかわらず、撮像画像からは車線(白線や黄線)を認識できない場合に視界が悪いと判断される。
また、ミリ波レーダ132で検出される車両を撮像画像から認識することができない場合にも、霧や雨等により視界が悪いと判断される。
本実施形態においてカメラ131は、CCDカメラで構成されている。
The camera 131 is disposed in front of the vehicle and images the front outside the vehicle. An image captured by the camera 131 is subjected to image recognition processing to determine whether or not the driver's field of view is in a poor state.
As a case where the visibility of the driver is poor, for example, according to a road map database described later, a lane (white line or yellow line) is detected from a captured image even though a lane is present on a currently running road. If it cannot be recognized, it is determined that the field of view is poor.
Further, when the vehicle detected by the millimeter wave radar 132 cannot be recognized from the captured image, it is determined that the field of view is poor due to fog, rain, and the like.
In the present embodiment, the camera 131 is a CCD camera.

カメラ131による撮像画像は車両外の明るさを検出するのにも使用されるが、カメラの撮像画像に代えて、又は加えて、明るさを検出する各種センサ(フォトダイオード等)を使用してもよい。   The image captured by the camera 131 is also used to detect the brightness outside the vehicle, but instead of or in addition to the image captured by the camera, various sensors (such as photodiodes) that detect the brightness are used. Also good.

ミリ波レーダ132は、車両前方をミリ波によりスキャンすることで、前方に存在する車両や障害物等を検出し、存在する場合には前方車両や障害物との距離を検出する
ミリ波レーダ132は、ミリ波帯の電波を用いた電波レーダで、本実施形態のミリ波レーダとしては、ミリ波FMCWレーダ装置が使用されている。
FMCWレーダ装置は、変調用三角波によってFM変調された連続波を送信波として前方に位置する自動車などの障害物に向けて送信して、障害物によって反射されて戻ってきた反射波を受信波として取り入れ、その時の送信波と受信波をミキシングして得られるビート信号をFFT等の周波数解析手法によって信号処理することで障害物との距離、及び相対速度を算出するようになっている。
The millimeter wave radar 132 scans the front of the vehicle with millimeter waves to detect a vehicle, an obstacle, or the like existing ahead, and if present, detects a distance from the preceding vehicle or the obstacle. Is a radio wave radar using radio waves in the millimeter wave band, and a millimeter wave FMCW radar device is used as the millimeter wave radar of this embodiment.
The FMCW radar apparatus transmits a continuous wave, which is FM-modulated by a modulating triangular wave, as a transmission wave toward an obstacle such as an automobile located in front of the FMCW radar apparatus, and a reflected wave that has been reflected and returned by the obstacle as a reception wave The distance to the obstacle and the relative velocity are calculated by processing the beat signal obtained by taking in and mixing the transmission wave and the reception wave at that time by a frequency analysis method such as FFT.

なお、本実施形態において車両前方の車両や障害物などを検出するためにミリ波レーダ132を使用するが、これに代えて又は加えて赤外線レーザレーダ等のレーザレーダを使用するようにしてもよい。   In this embodiment, the millimeter wave radar 132 is used to detect a vehicle or an obstacle in front of the vehicle, but a laser radar such as an infrared laser radar may be used instead of or in addition to this. .

ワイパーセンサ133、ヘッドランプセンサ134は、それぞれワイパー及びヘッドランプがオンされている状態を検出する。
本実施形態では、ワイパーセンサ133及びヘッドランプセンサ134の双方がオン状態を検出した場合には、夜間に雨が降っている場合なので視界が悪いと判断される。
The wiper sensor 133 and the headlamp sensor 134 detect a state where the wiper and the headlamp are turned on, respectively.
In this embodiment, when both the wiper sensor 133 and the headlamp sensor 134 detect the on state, it is determined that the field of view is poor because it is raining at night.

運転操作検出部14は、アクセルセンサ141、ブレーキセンサ142、及びハンドルセンサ143を備えている。
アクセルセンサ141は、アクセルを踏み込む速度や、踏力、踏む回数等を検出する。
ブレーキセンサ142は、ブレーキを踏み込む速度や、踏力、踏む回数等を検出する。
ハンドルセンサ143は、ハンドル操作の緩急及びハンドルを握る圧力を検出する。なお、ハンドルにはハンドルセンサ143の他に、上述した生体情報センサとしての発汗センサ122も配設されている。
The driving operation detection unit 14 includes an accelerator sensor 141, a brake sensor 142, and a handle sensor 143.
The accelerator sensor 141 detects the speed of stepping on the accelerator, the stepping force, the number of times of stepping, and the like.
The brake sensor 142 detects the speed at which the brake is depressed, the depression force, the number of depressions, and the like.
The handle sensor 143 detects the speed of handle operation and the pressure for gripping the handle. In addition to the handle sensor 143, the handle is also provided with a sweat sensor 122 as a biological information sensor described above.

なお、運転操作検出部14としては明示していないが、車両制御装置は平均速度検出部を備えており、車速センサ114で検出した車速から平均車速が検出されるようになっている。   Although not explicitly shown as the driving operation detection unit 14, the vehicle control device includes an average speed detection unit, and the average vehicle speed is detected from the vehicle speed detected by the vehicle speed sensor 114.

表示装置15は、本実施形態における仮想車線を表示する装置である。
本実施形態における表示装置15は、ヘッドアップディスプレイで構成され、ECU10から供給される仮想車線の画像を車両のフロントガラスに投影して表示するようになっている。
なお、表示装置15は、ヘッドアップディスプレイの他、走行中の路面上に所定色のレーザー光等の照射光により仮想車線をライン表示する光照射装置により構成するようにしてもよい。この場合、前方に車両や人が車外環境取得部13で検出されるときには、検出した車両等を照射光の照射範囲から除外するようになっている。
The display device 15 is a device that displays a virtual lane in the present embodiment.
The display device 15 in the present embodiment is configured by a head-up display, and projects and displays an image of a virtual lane supplied from the ECU 10 on the windshield of the vehicle.
In addition to the head-up display, the display device 15 may be configured by a light irradiation device that displays a virtual lane in a line with irradiation light such as laser light of a predetermined color on a running road surface. In this case, when a vehicle or a person is detected ahead by the vehicle environment acquisition unit 13, the detected vehicle or the like is excluded from the irradiation light irradiation range.

データ記憶部16と、プログラム記憶部17には、ROM、RAMの他、フレキシブルディスク、ハードディスク、磁気テープ等の磁気記録媒体、メモリチップやICカード等の半導体記録媒体、CD−ROMやMO、PD(相変化書換型光ディスク)等の光学的に情報が読み取られる記録媒体、その他各種方法でデータやコンピュータプログラムが記録される記録媒体が含まれる。
記録媒体には、記録内容に応じて異なる媒体を使用するようにしてもよい。
In addition to ROM and RAM, the data storage unit 16 and the program storage unit 17 include magnetic recording media such as flexible disks, hard disks, and magnetic tapes, semiconductor recording media such as memory chips and IC cards, CD-ROMs, MOs, and PDs. Examples include a recording medium on which information is optically read, such as a (phase change rewritable optical disk), and a recording medium on which data and computer programs are recorded by various methods.
Different recording media may be used depending on the recording contents.

データ記憶部16は、道路地図データベース161、車外環境判定データ162、運転操作判定データ163、生体情報判定データ164、履歴データ165、車両データ166等の本実施形態において使用される各種データが格納されている。   The data storage unit 16 stores various data used in the present embodiment, such as a road map database 161, vehicle exterior environment determination data 162, driving operation determination data 163, biological information determination data 164, history data 165, vehicle data 166, and the like. ing.

道路地図データーベース161は、ナビゲーション機能で使用されるデータが使用され、車両の現在地周辺や目的地周辺等の各種地図や道路を表示装置に表示するための地図情報や、目的地までの経路探索に使用される道路情報、各施設に対する情報が格納された施設情報(POI情報)等の各種地図や道路に関するデータが格納されたデータベースである。   The road map database 161 uses data used in the navigation function, and displays map information for displaying various maps and roads around the current location of the vehicle and around the destination on the display device, and route search to the destination. It is a database storing various maps and road-related data such as road information and facility information (POI information) in which information on each facility is stored.

本実施形態において道路地図データベース161は、現在位置検出手段11で検出した車両の現在位置と、道路データとのマップマッチングにより、現在走行している道路上の位置を検出するために使用される。
検出した道路上の位置は、道路データに基づき走行中の道路形状を特定し、特定した道路形状と車両前方の障害物等に応じた仮想車線の形状(仮想車線画像)を決定するために使用される。
In the present embodiment, the road map database 161 is used to detect a position on the currently traveling road by map matching between the current position of the vehicle detected by the current position detecting means 11 and road data.
The detected position on the road is used to identify the shape of the running road based on the road data and to determine the shape of the virtual lane (virtual lane image) according to the identified road shape and obstacles ahead of the vehicle. Is done.

車外環境判定データ162は、車外環境が認識不可とされる場合、すなわち、運転者の視界が悪いとされる場合について規定したデータである。
運転操作判定データ163は、視界が悪くなったことにより、運転行動(運転操作)が変化したとされる場合について規定したデータである。
生体情報判定データ164は、視界が悪く、運転操作が変化したことで、生体情報に異常がでたと判断される場合について規定したデータである。
The vehicle exterior environment determination data 162 is data that defines a case where the vehicle exterior environment cannot be recognized, that is, a case where the driver's view is poor.
The driving operation determination data 163 is data that defines the case where the driving behavior (driving operation) is changed due to the poor visibility.
The biometric information determination data 164 is data that defines a case where it is determined that there is an abnormality in the biometric information due to poor visibility and a change in driving operation.

図2は、車外環境取得部13、運転操作検出部14、生体情報センサ12のそれぞれで検出される状態の区分を例示したものである。
そして、これらの各検出状態と、車外環境判定データ162、運転操作判定データ163、生体情報判定データ164に規定される判断基準に基づいて、車外環境、運転操作、生体情報の各々についてECU10で判断される。
FIG. 2 exemplifies the classification of states detected by the vehicle exterior environment acquisition unit 13, the driving operation detection unit 14, and the biological information sensor 12.
The ECU 10 determines each of the outside environment, the driving operation, and the biological information based on each of these detection states and the determination criteria defined in the outside environment determination data 162, the driving operation determination data 163, and the biological information determination data 164. Is done.

図2(a)は、車外環境の状態区分を例示したものである。
車外環境の「車線」は、車線の「なし」(認識できず)と「あり」(認識可能)に区分され、カメラ131の撮像画像から認識処理される。
「天気」は、「雨」、「曇」、「雪」、「晴」、「霧」に区分される。この「天気」は、撮像画像の認識処理及びワイパーセンサ133の検出結果から判断される。ワイパーセンサ133がオンを検出している場合には雨、雪、霧のいずれかと判断され、ワイパーセンサ133がオフを検出している場合には、曇か晴れと判断される。
そして、カメラ131の撮像画像から画像処理により、雨、雪、霧、又は曇、晴れのいずれかが判断される。
FIG. 2A illustrates state classification of the environment outside the vehicle.
The “lane” in the environment outside the vehicle is divided into “none” (cannot be recognized) and “present” (can be recognized) of the lane, and recognition processing is performed from an image captured by the camera 131.
“Weather” is classified into “rain”, “cloudy”, “snow”, “sunny”, and “mist”. This “weather” is determined from the recognition processing of the captured image and the detection result of the wiper sensor 133. When the wiper sensor 133 detects ON, it is determined as rain, snow, or fog, and when the wiper sensor 133 detects OFF, it is determined as cloudy or sunny.
Then, rain, snow, fog, cloudy, or sunny is determined from the captured image of the camera 131 by image processing.

「明るさ」は、「暗」と「明」に区分される。「明るさ」は、カメラ131の撮像画像から画像処理によって判断される。なお、照度センサを使用して「暗」と「明」を判断するようにしてもよい。
「障害物」は、「多」、「少」、「なし」に区分される。「障害物」は、ミリ波レーダ132で検出される。
「周辺車両」は、「多」、「少」、「なし」に区分される。「周辺車両」は、ミリ波レーダ132及び撮像画像の画像処理によって検出される。
“Brightness” is divided into “dark” and “bright”. “Brightness” is determined by image processing from an image captured by the camera 131. Note that “dark” and “bright” may be determined using an illuminance sensor.
The “obstacle” is classified into “many”, “small”, and “none”. The “obstacle” is detected by the millimeter wave radar 132.
“Nearby vehicles” are classified into “many”, “small”, and “none”. The “peripheral vehicle” is detected by the millimeter wave radar 132 and image processing of the captured image.

そして、車外環境認識不可とされる車外環境判定データ162には、図2(a)に示される車外環境の状態区分のうち、次の各場合が規定されている。
(1)ミリ波レーダ132により障害物が検知されても撮像画像の画像処理からは当該障害物を認識できない場合。
(2)撮像画像の画像処理により、認識した車線が自車両から5m以下である場合、すなわち、車両の前方5mよりも先の車線を認識できない場合。
(3)雨が降っていて、車両の周囲が暗い場合。
(4)雪が降っている場合。
(5)狭路や障害物が多い場所での対向車とのすれ違いの場合。
In the vehicle exterior environment determination data 162 that cannot recognize the vehicle exterior environment, the following cases are defined in the vehicle exterior environment state classification shown in FIG.
(1) Even when an obstacle is detected by the millimeter wave radar 132, the obstacle cannot be recognized from the image processing of the captured image.
(2) When the recognized lane is 5 m or less from the host vehicle by image processing of the captured image, that is, when the lane ahead of 5 m ahead of the vehicle cannot be recognized.
(3) When it is raining and the surroundings of the vehicle are dark.
(4) When it is snowing.
(5) In the case of passing with an oncoming vehicle in a place with many narrow roads and obstacles.

図2(b)は、運転操作の状態区分を例示したものである。
運転操作の「アクセル操作」は「強」、「中」、「弱」に区分される。「アクセル操作」は、アクセルセンサ141により検出される。
「ブレーキ回数」は、「多」、「中」、「少」に区分される。「ブレーキ回数」はブレーキセンサ142により検出される。
「ハンドル」は、「強」、「中」、「弱」に区分される。「ハンドル」は、ハンドルセンサ143により検出される。
「挙動」は「あり」、「なし」に区分され、ハンドルセンサ143により「ハンドル操作量」として検出される。
FIG. 2B illustrates the state classification of the driving operation.
“Acceleration operation” of driving operation is classified into “strong”, “medium”, and “weak”. The “accelerator operation” is detected by the accelerator sensor 141.
The “brake count” is classified into “many”, “medium”, and “small”. The “brake count” is detected by the brake sensor 142.
The “handle” is classified into “strong”, “medium”, and “weak”. The “handle” is detected by the handle sensor 143.
“Behavior” is classified into “present” and “none”, and is detected as “handle operation amount” by the handle sensor 143.

そして、運転行動が変化したと判断される運転操作判定データ163には、図2(b)に示される運転操作の状態区分のうち、次の各場合が規定されている。
(1)アクセル操作が極端に弱くなった場合。
(2)ブレーキ回数が増えた場合。
(3)急なハンドル操作(強の場合)が増えた場合。
(4)ハンドル操作が増える挙動がでた場合。
Then, in the driving operation determination data 163 that is determined that the driving behavior has changed, the following cases are defined among the state classifications of the driving operation shown in FIG.
(1) When accelerator operation becomes extremely weak.
(2) When the number of brakes increases.
(3) When the number of sudden steering operations (when strong) increases.
(4) When the handle operation increases.

図2(c)は、生体情報の状態区分を例示したものである。
生体情報の「心拍」は、「高」、「中」、「低」に区分される。「心拍」は、心拍センサ121により検出される。
「発汗」は、「多」、「少」、「なし」に区分される。「発汗」は、発汗センサ122により検出される。
「血圧」は、「高」、「中」、「低」に区分される。「血圧」は、血圧センサ123で検出される。
FIG. 2C illustrates the state classification of the biological information.
The “heart rate” of the biological information is classified into “high”, “medium”, and “low”. “Heartbeat” is detected by the heartbeat sensor 121.
“Sweating” is classified into “many”, “small”, and “none”. “Sweating” is detected by the sweat sensor 122.
“Blood pressure” is classified into “high”, “medium”, and “low”. “Blood pressure” is detected by the blood pressure sensor 123.

そして、生体情報が異常であると判断される生体情報判定データ164は、図2(c)に示される生体情報の区分のうち、次の各場合が規定されている。すなわち、心拍数や発汗量が交感神経系優位の状態であると判断される次の場合が規定されている。
(1)心拍数が上昇した場合
(2)心拍数が急に減少した場合
(3)発汗量が増えた場合
(4)血圧が急上昇した場合
(5)血圧が急下降した場合
The biometric information determination data 164 that determines that the biometric information is abnormal stipulates the following cases among the categories of the biometric information shown in FIG. That is, the following cases are defined in which it is determined that the heart rate and the amount of sweat are in a sympathetic nervous system dominant state.
(1) When the heart rate increases (2) When the heart rate decreases suddenly (3) When the amount of sweat increases (4) When the blood pressure increases rapidly (5) When the blood pressure decreases rapidly

図1において、データ記憶部16の履歴データ165には、運転操作検出部14で検出される運転者の各種運転操作、及び生体情報センサ12で検出される運転者の生体情報が格納される。
履歴データ165は、仮想車線表示処理プログラム171において、運転操作が変化したか否か、及び、生体情報が異常か否かを判断するために使用される。RAMの所定領域に格納される。
In FIG. 1, the history data 165 of the data storage unit 16 stores various driving operations of the driver detected by the driving operation detection unit 14 and the driver's biological information detected by the biological information sensor 12.
The history data 165 is used in the virtual lane display processing program 171 to determine whether or not the driving operation has changed and whether or not the biological information is abnormal. Stored in a predetermined area of the RAM.

履歴データ165には、アクセルセンサ141、ブレーキセンサ142、ハンドルセンサ143からの出力信号が格納される。
車両データ166は、仮想車線表示装置が搭載される車両について、車両寸法、カメラ131の配置位置(高さ等)などのデータが格納されている。
The history data 165 stores output signals from the accelerator sensor 141, the brake sensor 142, and the handle sensor 143.
The vehicle data 166 stores data such as the vehicle dimensions and the position (height) of the camera 131 for the vehicle on which the virtual lane display device is mounted.

プログラム記憶部17には、仮想車線表示プログラム171、運転操作収集プログラム172、生体情報収集プログラム173、その他のプログラム174が格納されている。   The program storage unit 17 stores a virtual lane display program 171, a driving operation collection program 172, a biological information collection program 173, and other programs 174.

仮想車線表示プログラム171では、車外環境検出、視界判定、運転操作検出、運転行動変化判定、生体情報検出、生体情報チェック、車両位置検出、他車両検出、道路形状算出、仮想車線表示等の各種機能を実行することで、運転者にとってより必要性が高い場合における仮想車線を表示するプログラムである。   In the virtual lane display program 171, various functions such as vehicle exterior environment detection, visibility determination, driving operation detection, driving behavior change determination, biological information detection, biological information check, vehicle position detection, other vehicle detection, road shape calculation, virtual lane display, etc. Is a program that displays a virtual lane when the driver is more necessary.

運転操作収集プログラム172は、運転操作検出部14で検出した各種運転操作を所定時間間隔毎に取得し、履歴データ165に格納するプログラムである。
生体情報収集プログラム173は、生体情報センサ12で検出した生体情報(心拍数、発汗状態、血圧)を所定時間間隔毎に取得し、履歴データ165に格納するプログラムである。
履歴データ165に格納した運転操作及び生体情報は、所定時間、例えば、2分間分保存され、最も古い情報が削除されて最新の情報が保存されるようになっている。なお、生体情報は、所定時間分ではなくて所定数分保存するようにしてもよい。
The driving operation collection program 172 is a program that acquires various driving operations detected by the driving operation detector 14 at predetermined time intervals and stores them in the history data 165.
The biometric information collection program 173 is a program that acquires biometric information (heart rate, sweating state, blood pressure) detected by the biometric information sensor 12 at predetermined time intervals and stores it in the history data 165.
The driving operation and the biological information stored in the history data 165 are stored for a predetermined time, for example, 2 minutes, and the oldest information is deleted and the latest information is stored. The biometric information may be stored for a predetermined number of times instead of a predetermined time.

運転操作収集プログラム172及び生体情報収集プログラム173は、車両走行中において常時実行されるプログラムであり、仮想車線表示プログラム171等の他のプログラムとは独立して実行されるようになっている。   The driving operation collection program 172 and the biological information collection program 173 are programs that are always executed while the vehicle is running, and are executed independently of other programs such as the virtual lane display program 171.

音声出力装置18は、車内に配置された複数のスピーカで構成され、音声制御部で制御された音声、例えば、本実施形態の仮想車線表示処理において車両前方に障害物が存在すことを警告する音声が出力されるようになっている。
この音声出力装置18は、オーディオ用のスピーカと兼用するようにしてもよい。
The audio output device 18 includes a plurality of speakers arranged in the vehicle, and warns that there is an obstacle in front of the audio controlled by the audio control unit, for example, in the virtual lane display processing of the present embodiment. Audio is output.
The audio output device 18 may also be used as an audio speaker.

次に、以上のように構成された仮想車線表示装置における仮想車線表示処理について、図3のフローチャートに従って説明する。
この仮想車線表示処理は、車両の走行開始、又はイグニッションオンにより実行される。
Next, virtual lane display processing in the virtual lane display device configured as described above will be described with reference to the flowchart of FIG.
This virtual lane display process is executed when the vehicle starts to travel or when the ignition is turned on.

まずECU10は、車外環境取得部13による検出結果により車外環境を検出する(ステップ11)。
すなわち、ECU10は、カメラ131、ミリ波レーダ132、ワイパーセンサ133、ヘッドランプセンサ134による撮像画像や検出から、車外環境(車線、天気、明るさ、障害物、周辺車両(図2(a)参照))を認識及び検出(判断)する。
First, the ECU 10 detects the environment outside the vehicle based on the detection result by the vehicle environment acquisition unit 13 (step 11).
That is, the ECU 10 determines the environment outside the vehicle (lane, weather, brightness, obstacles, surrounding vehicles (see FIG. 2A) based on images and detections by the camera 131, the millimeter wave radar 132, the wiper sensor 133, and the headlamp sensor 134. )) Is recognized and detected (determined).

そして、ECU10は、認識及び検出した車外環境が、視界が悪い場合を規定した、車外環境判定データ162を満足するか否か、すなわち、視界が悪いか否かを判断する(ステップ12)。
視界が悪くないと判断された場合(ステップ12;N)には、仮想車線の表示は不要なので、ステップ11に戻って、車外環境の検出と視界の判定を継続する。
Then, the ECU 10 determines whether or not the recognized and detected outside environment satisfies the outside environment determination data 162 that defines the case where the visibility is bad, that is, whether or not the visibility is bad (step 12).
If it is determined that the field of view is not bad (step 12; N), the display of the virtual lane is unnecessary, so the process returns to step 11 to continue the detection of the environment outside the vehicle and the determination of the field of view.

一方、視界が悪いと判断された場合(ステップ12;Y)、ECU10は、運転操作検出部14で検出され、運転操作収集プログラム172に従って履歴データ165に格納されている運転操作履歴から、アクセル操作、ブレーキ回数、ハンドル操作、挙動等(図2(b)参照)の運転動作が変化したか否か、について判断する(ステップ13、14)。 すなわち、ECU10は、視界が悪くなったことが原因で、アクセル操作や平均車速が変化したか否かを、運転操作判定データ163に基づいて判断する。   On the other hand, if it is determined that the visibility is poor (step 12; Y), the ECU 10 detects the accelerator operation from the driving operation history detected by the driving operation detection unit 14 and stored in the history data 165 according to the driving operation collection program 172. Then, it is determined whether or not the driving operation such as the number of times of braking, steering wheel operation, behavior (see FIG. 2B) has changed (steps 13 and 14). That is, the ECU 10 determines, based on the driving operation determination data 163, whether or not the accelerator operation or the average vehicle speed has changed because the visibility has deteriorated.

運転行動に変化がない場合(ステップ14;N)、視界が悪くなったとしても運転操作に影響が出ていないので、運転者に仮想車線の表示は不要であるとの判断のもと、ECU10はステップ11に戻って処理を継続する。   If there is no change in the driving behavior (step 14; N), the ECU 10 determines that the display of the virtual lane is unnecessary for the driver because the driving operation is not affected even if the visibility is deteriorated. Returns to step 11 and continues processing.

一方、運転行動に変換が有った場合(ステップ14;Y)、ECU10は、生体情報センサ12で検出され、生体情報収集プログラム173に従って履歴データ165に格納されている生体情報履歴から、心拍、発汗、血圧等(図2(c)参照)の生体情報が異常か否か、について判断する(ステップ15、16)。
すなわち、ECU10は、視界が悪く、運転操作が変化したことで、生体情報に異常があるか否かを、生体情報判定データ164に基づいて判断する。
生体情報に異常がない場合(ステップ16;N)、視界が悪くなり運転操作に変化が現れても、運転者は精神的に不安な状態には至っていず、仮想車線の表示は不要であるとの判断のもと、ECU10は、ステップ11に戻って処理を継続する。
On the other hand, when there is a conversion in the driving behavior (step 14; Y), the ECU 10 detects the heartbeat, from the biological information history detected by the biological information sensor 12 and stored in the history data 165 according to the biological information collection program 173. It is determined whether or not the biological information of sweating, blood pressure, etc. (see FIG. 2C) is abnormal (steps 15 and 16).
That is, the ECU 10 determines whether or not there is an abnormality in the biological information based on the biological information determination data 164 because the visibility is poor and the driving operation has changed.
If there is no abnormality in the biological information (step 16; N), even if the visibility is deteriorated and the driving operation changes, the driver is not mentally uneasy, and the display of the virtual lane is unnecessary. The ECU 10 returns to step 11 and continues processing.

生体情報が異常である場合(ステップ16;Y)、すなわち、視界が悪く、運転操作が変化したことで、生体情報に異常が発生している場合、ECU10は、仮想車線を表示する(ステップ17)。   If the biological information is abnormal (step 16; Y), that is, if the biological information is abnormal because of poor visibility and a change in driving operation, the ECU 10 displays a virtual lane (step 17). ).

すなわち、ECU10は、まず仮想車線を表示する道路の形状を、地図データから特定する。この場合、ECU10は、現在位置検出手段11で検出した車両の現在位置に対応する道路をマップマッチングにより特定し、地図データから現在走行している道路の形状を取得する。   That is, the ECU 10 first identifies the shape of the road displaying the virtual lane from the map data. In this case, the ECU 10 specifies a road corresponding to the current position of the vehicle detected by the current position detection unit 11 by map matching, and acquires the shape of the road currently running from the map data.

ついで、ECU10は、カメラ131による車両前方の撮像画像の画像認識結果や、ミリ波レーダ132の検出データから、道路形状を補正する。
さらに、撮像画像やミリ波レーダの検出値から、車両前方に存在する障害物(停車中の車両を含む)や、走行中の他車両を認識する。
そして、ECU10は、補正した道路形状及と障害物に対応した仮想車線の仮想車線画像を生成し、表示装置15により仮想車線をフロントガラスに表示する。
ここで、仮想車線画像は、車両データ168に格納されている車幅+α(例えば、左右50cm)の幅の仮想車線画像2本が生成され、障害物が存在する場合には該障害物を避けた形状の仮想車線画像が生成される。
Next, the ECU 10 corrects the road shape from the image recognition result of the captured image in front of the vehicle by the camera 131 and the detection data of the millimeter wave radar 132.
Furthermore, obstacles (including a stopped vehicle) existing in front of the vehicle and other vehicles that are running are recognized from the captured image and the detection value of the millimeter wave radar.
Then, the ECU 10 generates a virtual lane image of the virtual lane corresponding to the corrected road shape and obstacle, and displays the virtual lane on the windshield by the display device 15.
Here, as the virtual lane image, two virtual lane images having a width of the vehicle width + α (for example, 50 cm left and right) stored in the vehicle data 168 are generated, and when an obstacle exists, the obstacle is avoided. A virtual lane image having a different shape is generated.

なお、現在走行中の道路がカーブである場合には、カーブ曲率を計算して仮想車線画像を生成する。
カーブ曲率については、道路データから取得するようにしてもよい。
If the currently running road is a curve, a curve curvature is calculated and a virtual lane image is generated.
The curve curvature may be acquired from road data.

ついで、ECU10は、仮想車線表示後の生体情報が異常状態がまだ継続しているか否かについて判断する(ステップ18、19)。
なお、ステップ18、19の処理はステップ15、16と同様である。
Next, the ECU 10 determines whether or not the biological information after displaying the virtual lane is still in an abnormal state (steps 18 and 19).
The processing in steps 18 and 19 is the same as that in steps 15 and 16.

生体情報の異常が継続している場合(ステップ19;Y)、ECU10は、ステップ17に戻って、仮想車線の表示と生体情報異常状態の監視を継続する。   When the abnormality of the biological information continues (step 19; Y), the ECU 10 returns to step 17 and continues to display the virtual lane and monitor the abnormal biological information state.

一方、生体情報の異常状態が正常に戻った場合(ステップ19;N)、ECU10は、表示している仮想車線を消去(表示を終了)し(ステップ20)、ステップ11に戻って戻って、車外環境の検出と視界の判定を継続する。   On the other hand, when the abnormal state of the biological information returns to normal (step 19; N), the ECU 10 deletes the displayed virtual lane (ends display) (step 20), returns to step 11, and returns. Continue to detect outside environment and determine visibility.

図4、図5は、本実施形態による仮想車線の表示状態を表したものである。
図4(a)は、カメラ131の撮像画像と、ミリ波レーダ132の検出値から作成した3D画像データである。この画像の場合、車両から車線の認識が5m未満しか認識できない状態なので、視界が悪いと判断される。
一方、図4(b)に示すように地図データから、道路形状が認識される。
そして、ECU10は、図4(c)に示されるように、車幅+αの幅で仮想車線151をフロントガラスに表示する。この、図4(c)は、運転者の視界を説明のための図であり、フロントガラスに仮想車線151が表示されることで、運転者とっての視界状態が表されている。
4 and 5 show the display state of the virtual lane according to the present embodiment.
FIG. 4A shows 3D image data created from the captured image of the camera 131 and the detection value of the millimeter wave radar 132. In the case of this image, since the lane recognition from the vehicle can be recognized only less than 5 m, it is determined that the field of view is poor.
On the other hand, the road shape is recognized from the map data as shown in FIG.
Then, as shown in FIG. 4C, the ECU 10 displays the virtual lane 151 on the windshield with the vehicle width + α. FIG. 4C is a diagram for explaining the driver's field of view. The virtual lane 151 is displayed on the windshield, so that the driver's field of view is represented.

なお、図4(c)に示されるように、仮想車線151は、運転者にとって見えている道路の形状に合わせて表示されるため、直線道路であっても平行線が表示されるわけではなく、遠方の道路幅が狭くなるように表示されるようになっている。   As shown in FIG. 4C, the virtual lane 151 is displayed in accordance with the shape of the road that is visible to the driver, so parallel lines are not displayed even on a straight road. The distant road width is displayed narrowly.

図5は、車両前方に障害物(停車車両)が存在する場合(a)、狭くて車線のないカーブ(b)における仮想車線の表示状態を表したものである。
なお、図5(a)、(b)は、運転者にとって見える状態を表した図4とは異なり、仮想車線の形状を説明するために、上部からみた状態を表している。従って、仮想車線以外についても明瞭に表示しているが、実際に仮想車線が表示される場合には視界が悪い状態である。
FIG. 5 shows a virtual lane display state in a curve (b) that is narrow and has no lane when an obstacle (stopped vehicle) is present in front of the vehicle (a).
5 (a) and 5 (b) show the state seen from the top in order to explain the shape of the virtual lane, unlike FIG. 4 showing the state visible to the driver. Therefore, although other than the virtual lane is clearly displayed, the field of view is poor when the virtual lane is actually displayed.

図5(a)に示されるように、自車両Aの前方に障害物(路上駐車等)152が検出された場合、検出した障害物152を避けるための軌跡を仮想車線で表示する。
そして、図5(a)に示されるように、対抗車線を走行する車両153、154が存在する等の理由で、障害物を避けて表示した仮想車線通りに走行することができない場合、仮想車線を薄く表示、又は表示しないようにすると共に、視界が悪い状態なので、その旨を音声により警告する。
音声による警告としては、例えば、「今、左前方に存在する障害物を避けて通過すると、対向車に接触する可能性があります。」等の音声で警告する。
As shown in FIG. 5A, when an obstacle (road parking etc.) 152 is detected in front of the host vehicle A, a path for avoiding the detected obstacle 152 is displayed in a virtual lane.
Then, as shown in FIG. 5 (a), when there is a vehicle 153, 154 that travels in the opposite lane, the virtual lane cannot be traveled according to the displayed virtual lane while avoiding obstacles. Is displayed lightly or not, and the visual field is poor.
As a warning by voice, for example, a warning such as “There is a possibility of coming into contact with an oncoming vehicle when passing by avoiding an obstacle present in the left front” is given.

なお、対向車の有無にかかわらず、車線をまたぐ(対向車線にはみ出して走行する)場合は、自動でウィンカーを作動させるようにしてもよい。   In addition, you may make it operate a winker automatically, when crossing a lane (it runs ahead of an oncoming lane) regardless of the presence or absence of an oncoming vehicle.

一方、図5(b)に示されるように、車線が無く、狭いカーブを走行する場合には、上述したようにカーブ曲率に基づいて認識した道路形状に合わせた仮想車線が表示されるとともに、対抗車両が存在する場合には、その旨の警告をするようにしてもよい。   On the other hand, as shown in FIG. 5 (b), when there is no lane and the vehicle travels on a narrow curve, a virtual lane that matches the road shape recognized based on the curve curvature as described above is displayed, If there is a counter vehicle, a warning to that effect may be given.

以上、本発明の仮想車線表示装置における1実施形態について説明したが、本発明は説明した実施形態に限定されるものではなく、各請求項に記載した範囲において各種の変形を行うことが可能である。
例えば、説明した実施形態では、検出する生体情報として、脈拍数と発汗情報を検出するようにしたが、他の生体情報として瞳孔や脳波などの自律神経系の他の情報を検出し、その変化から交感神経系優位状態の場合に生体情報異常と判断するようにしてもよい。
The embodiment of the virtual lane display device of the present invention has been described above. However, the present invention is not limited to the described embodiment, and various modifications can be made within the scope described in each claim. is there.
For example, in the described embodiment, the pulse rate and sweating information are detected as the biological information to be detected, but other information of the autonomic nervous system such as the pupil and brain waves is detected as the other biological information, and the change Therefore, it may be determined that the biological information is abnormal when the sympathetic nervous system is dominant.

説明した実施形態では、仮想車線の表示(ステップ17)の後、生体情報が正常に戻った場合(ステップ19;N)に、表示中の仮想車線を消去する(ステップ20)ようにしたが、視界が良くない状況において仮想車線が表示されて安心したために生体情報の異常が解消した場合も考えられる。
そこで、生体異常の解消(正常化)と、運転行動の変化が解消した場合の両条件を満たした場合に、仮想車線を消去(ステップ20)するようにしてもよい。
また、ステップ17、18の処理に代えて、視界が良くなったか否かの判断(ステップ11、12の処理)を行い、視界が良くなったことを条件として仮想車線を消去(ステップ20)するようにしてもよい。
In the described embodiment, after the display of the virtual lane (step 17), when the biological information returns to normal (step 19; N), the displayed virtual lane is deleted (step 20). There may be a case where the abnormality of the biological information is resolved because the virtual lane is displayed and the patient is relieved in a situation where visibility is not good.
Therefore, the virtual lane may be erased (step 20) when both conditions of elimination (normalization) of a biological abnormality and a change in driving behavior are satisfied are satisfied.
Further, instead of the processing in steps 17 and 18, it is determined whether or not the visibility has improved (processing in steps 11 and 12), and the virtual lane is deleted on the condition that the visibility has improved (step 20). You may do it.

本発明の1実施形態における仮想車線表示装置の構成図である。It is a block diagram of the virtual lane display apparatus in one Embodiment of this invention. 車外環境取得部、運転操作検出部、生体情報センサのそれぞれで検出される状態の区分を例示した説明図である。It is explanatory drawing which illustrated the division | segmentation of the state detected by each of a vehicle exterior environment acquisition part, a driving operation detection part, and a biometric information sensor. 仮想車線表示処理の内容を表したフローチャートである。It is a flowchart showing the content of the virtual lane display process. 本実施形態による仮想車線の表示状態を表した説明図である。It is explanatory drawing showing the display state of the virtual lane by this embodiment. 本実施形態による仮想車線の他の表示状態を表した説明図である。It is explanatory drawing showing the other display state of the virtual lane by this embodiment.

符号の説明Explanation of symbols

10 ECU
11 現在位置検出装置
12 生体情報センサ
121 心拍センサ
122 発汗センサ
123 血圧センサ
13 車外環境取得部
131 カメラ
132 ミリ波レーダ
133 ワイパーセンサ
134 ヘッドランプセンサ
14 運転操作検出部
141 アクセルセンサ
142 ブレーキセンサ
143 ハンドルセンサ
15 表示装置
16 データ記憶部
17 プログラム記憶部
18 音声出力装置
10 ECU
DESCRIPTION OF SYMBOLS 11 Current position detection apparatus 12 Biological information sensor 121 Heart rate sensor 122 Sweating sensor 123 Blood pressure sensor 13 Outside vehicle environment acquisition part 131 Camera 132 Millimeter wave radar 133 Wiper sensor 134 Headlamp sensor 14 Driving | operation operation detection part 141 Accelerator sensor 142 Brake sensor 143 Handle sensor DESCRIPTION OF SYMBOLS 15 Display apparatus 16 Data storage part 17 Program storage part 18 Audio | voice output apparatus

Claims (5)

車両外部の環境情報を取得する車外情報取得手段と、
前記取得した環境情報から、車両前方の視認性の良否を判定する視認性判定手段と、
運転者の生体情報を取得する生体情報取得手段と、
前記取得した生体情報が所定の閾値を越えているか否かを判定する生体情報判定手段と、
車両が現在走行している道路形状を認識する道路形状認識手段と、
前記視認性が良くないと判断され、かつ、前記生体情報が所定の閾値を越えていると判断された場合に、前記認識した道路形状に合わせて仮想の車線を表示する仮想車線表示手段と、
を具備したことを特徴とする仮想車線表示装置。
Vehicle information acquisition means for acquiring environmental information outside the vehicle;
Visibility determination means for determining the quality of the visibility ahead of the vehicle from the acquired environmental information;
Biometric information acquisition means for acquiring the biometric information of the driver;
Biometric information determination means for determining whether or not the acquired biometric information exceeds a predetermined threshold;
Road shape recognition means for recognizing the road shape on which the vehicle is currently traveling;
Virtual lane display means for displaying a virtual lane in accordance with the recognized road shape when it is determined that the visibility is not good and the biometric information is determined to exceed a predetermined threshold;
A virtual lane display device comprising:
車両外部の環境情報を取得する車外情報取得手段と、
前記取得した環境情報から、車両前方の視認性の良否を判定する視認性判定手段と、
運転者の運転操作を検出する運転操作検出手段と、
前記検出した運転操作が、視認性が良くない場合の運転操作として予め規定された異常操作に該当するか否かを判断する異常操作判断手段と、
車両が現在走行している道路形状を認識する道路形状認識手段と、
前記視認性が良くないと判断され、かつ、前記異常運転操作に該当すると判断された場合に、前記認識した道路形状に合わせて仮想の車線を表示する仮想車線表示手段と、
を具備したことを特徴とする仮想車線表示装置。
Vehicle information acquisition means for acquiring environmental information outside the vehicle;
Visibility determination means for determining the quality of the visibility ahead of the vehicle from the acquired environmental information;
Driving operation detection means for detecting the driving operation of the driver;
An abnormal operation determining means for determining whether the detected driving operation corresponds to an abnormal operation defined in advance as a driving operation when visibility is not good;
Road shape recognition means for recognizing the road shape on which the vehicle is currently traveling;
Virtual lane display means for displaying a virtual lane in accordance with the recognized road shape when it is determined that the visibility is not good and the abnormal driving operation is determined;
A virtual lane display device comprising:
前記仮想車線表示手段は、道路上又はフロントガラスに仮想車線を表示する、ことを特徴とする請求項1又は請求項2に記載の仮想車線表示装置。
The virtual lane display device according to claim 1, wherein the virtual lane display means displays a virtual lane on a road or on a windshield.
車両前方に存在する障害物を検出する障害物検出手段を備え、
前記仮想車線表示手段は、前記検出した障害物を避ける仮想車線を表示する、ことを特徴とする請求項1、請求項2、又は請求項3に記載の仮想車線表示装置。
An obstacle detection means for detecting an obstacle present in front of the vehicle;
The virtual lane display device according to claim 1, wherein the virtual lane display means displays a virtual lane that avoids the detected obstacle.
車両前方に存在する他の走行車両、及び障害物を検出する前方存在物検出手段を備え、
前記検出した他の走行車両又は障害物に応じてその存在を警告する警告手段と、
を具備したことを特徴とする請求項1、請求項2、又は請求項3に記載の仮想車線表示装置。
Other traveling vehicles existing in front of the vehicle, and a front entity detection means for detecting obstacles,
Warning means for warning the presence of the detected other traveling vehicle or obstacle according to the detected vehicle;
The virtual lane display device according to claim 1, 2, or 3.
JP2005316478A 2005-10-31 2005-10-31 Virtual lane display device Expired - Fee Related JP4888761B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005316478A JP4888761B2 (en) 2005-10-31 2005-10-31 Virtual lane display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005316478A JP4888761B2 (en) 2005-10-31 2005-10-31 Virtual lane display device

Publications (2)

Publication Number Publication Date
JP2007122578A true JP2007122578A (en) 2007-05-17
JP4888761B2 JP4888761B2 (en) 2012-02-29

Family

ID=38146332

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005316478A Expired - Fee Related JP4888761B2 (en) 2005-10-31 2005-10-31 Virtual lane display device

Country Status (1)

Country Link
JP (1) JP4888761B2 (en)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009023471A (en) * 2007-07-19 2009-02-05 Clarion Co Ltd Vehicle information display device
JP2009169814A (en) * 2008-01-18 2009-07-30 Honda Motor Co Ltd Vehicular collision avoidance support system
WO2010029707A3 (en) * 2008-09-12 2010-05-06 株式会社 東芝 Image projection system and image projection method
JP2010234851A (en) * 2009-03-30 2010-10-21 Mazda Motor Corp Display device for vehicle
JP2011134071A (en) * 2009-12-24 2011-07-07 Denso Corp Virtual white line setting method, virtual white line setting apparatus, and course change support apparatus using the same
JP2013002926A (en) * 2011-06-15 2013-01-07 Nissan Motor Co Ltd Route search device and route information generation method
JP2015022412A (en) * 2013-07-17 2015-02-02 矢崎総業株式会社 Display device
JP2015153057A (en) * 2014-02-13 2015-08-24 株式会社小糸製作所 Vehicle drive support device
CN106364403A (en) * 2016-10-14 2017-02-01 深圳市元征科技股份有限公司 Lane recognizing method and mobile terminal
US20170039856A1 (en) * 2015-08-05 2017-02-09 Lg Electronics Inc. Driver Assistance Apparatus And Vehicle Including The Same
KR20170137689A (en) * 2017-12-01 2017-12-13 팅크웨어(주) Electronic device and mehtod of shooting pictures thereof
JP2018045273A (en) * 2016-09-12 2018-03-22 本田技研工業株式会社 Display
WO2018101709A1 (en) * 2016-11-30 2018-06-07 현대엠엔소프트 주식회사 Autonomous driving control apparatus and method
WO2018143589A1 (en) * 2017-02-03 2018-08-09 삼성전자 주식회사 Method and device for outputting lane information
CN108509832A (en) * 2017-02-28 2018-09-07 三星电子株式会社 Method and apparatus for generating virtual track
JPWO2018179252A1 (en) * 2017-03-30 2019-11-21 本田技研工業株式会社 Vehicle control apparatus and vehicle control method
JP2022142900A (en) * 2021-03-17 2022-10-03 株式会社日立製作所 Traffic control system, travel control device and traffic control method

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05221253A (en) * 1992-02-12 1993-08-31 Toyota Motor Corp Running control device for vehicle
JPH079886A (en) * 1993-06-29 1995-01-13 Hitachi Ltd Drive information device for vehicle
JPH11151230A (en) * 1997-11-19 1999-06-08 Nissan Motor Co Ltd Driver state measuring instrument for vehicle
JP2000211452A (en) * 1999-01-20 2000-08-02 Toyota Motor Corp Travel path shape display device and map data base recording medium
JP2003291683A (en) * 2002-04-03 2003-10-15 Nissan Motor Co Ltd Information providing device for vehicle
JP2003317197A (en) * 2002-04-26 2003-11-07 Aisin Aw Co Ltd Alarm system
JP2004034881A (en) * 2002-07-05 2004-02-05 Honda Motor Co Ltd Running controller for vehicle
JP2005078414A (en) * 2003-09-01 2005-03-24 Denso Corp Vehicle travel support device
JP2005170323A (en) * 2003-12-15 2005-06-30 Denso Corp Runway profile displaying device
JP2005199992A (en) * 2003-12-17 2005-07-28 Denso Corp Vehicle information display system
JP2007051973A (en) * 2005-08-19 2007-03-01 Denso Corp Danger place information display unit for

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05221253A (en) * 1992-02-12 1993-08-31 Toyota Motor Corp Running control device for vehicle
JPH079886A (en) * 1993-06-29 1995-01-13 Hitachi Ltd Drive information device for vehicle
JPH11151230A (en) * 1997-11-19 1999-06-08 Nissan Motor Co Ltd Driver state measuring instrument for vehicle
JP2000211452A (en) * 1999-01-20 2000-08-02 Toyota Motor Corp Travel path shape display device and map data base recording medium
JP2003291683A (en) * 2002-04-03 2003-10-15 Nissan Motor Co Ltd Information providing device for vehicle
JP2003317197A (en) * 2002-04-26 2003-11-07 Aisin Aw Co Ltd Alarm system
JP2004034881A (en) * 2002-07-05 2004-02-05 Honda Motor Co Ltd Running controller for vehicle
JP2005078414A (en) * 2003-09-01 2005-03-24 Denso Corp Vehicle travel support device
JP2005170323A (en) * 2003-12-15 2005-06-30 Denso Corp Runway profile displaying device
JP2005199992A (en) * 2003-12-17 2005-07-28 Denso Corp Vehicle information display system
JP2007051973A (en) * 2005-08-19 2007-03-01 Denso Corp Danger place information display unit for

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009023471A (en) * 2007-07-19 2009-02-05 Clarion Co Ltd Vehicle information display device
JP2009169814A (en) * 2008-01-18 2009-07-30 Honda Motor Co Ltd Vehicular collision avoidance support system
WO2010029707A3 (en) * 2008-09-12 2010-05-06 株式会社 東芝 Image projection system and image projection method
JP2010234851A (en) * 2009-03-30 2010-10-21 Mazda Motor Corp Display device for vehicle
JP2011134071A (en) * 2009-12-24 2011-07-07 Denso Corp Virtual white line setting method, virtual white line setting apparatus, and course change support apparatus using the same
JP2013002926A (en) * 2011-06-15 2013-01-07 Nissan Motor Co Ltd Route search device and route information generation method
JP2015022412A (en) * 2013-07-17 2015-02-02 矢崎総業株式会社 Display device
JP2015153057A (en) * 2014-02-13 2015-08-24 株式会社小糸製作所 Vehicle drive support device
KR101714185B1 (en) * 2015-08-05 2017-03-22 엘지전자 주식회사 Driver Assistance Apparatus and Vehicle Having The Same
US10127820B2 (en) 2015-08-05 2018-11-13 Lg Electronics Inc. Driver assistance apparatus and vehicle including the same
KR20170017203A (en) * 2015-08-05 2017-02-15 엘지전자 주식회사 Driver Assistance Apparatus and Vehicle Having The Same
CN106448260A (en) * 2015-08-05 2017-02-22 Lg电子株式会社 Driver assistance apparatus and vehicle including the same
US20170039856A1 (en) * 2015-08-05 2017-02-09 Lg Electronics Inc. Driver Assistance Apparatus And Vehicle Including The Same
EP3127771A3 (en) * 2015-08-05 2017-04-26 LG Electronics Inc. Driver assistance apparatus and vehicle including the same
JP2018045273A (en) * 2016-09-12 2018-03-22 本田技研工業株式会社 Display
CN106364403A (en) * 2016-10-14 2017-02-01 深圳市元征科技股份有限公司 Lane recognizing method and mobile terminal
US11194332B2 (en) 2016-11-30 2021-12-07 Hyundai Mnsoft, Inc. Autonomous driving control apparatus and method
WO2018101709A1 (en) * 2016-11-30 2018-06-07 현대엠엔소프트 주식회사 Autonomous driving control apparatus and method
WO2018143589A1 (en) * 2017-02-03 2018-08-09 삼성전자 주식회사 Method and device for outputting lane information
US11512973B2 (en) 2017-02-03 2022-11-29 Samsung Electronics Co., Ltd Method and device for outputting lane information
JP7121497B2 (en) 2017-02-28 2022-08-18 三星電子株式会社 Virtual roadway generation device and method
JP2018142309A (en) * 2017-02-28 2018-09-13 三星電子株式会社Samsung Electronics Co.,Ltd. Virtual roadway generating apparatus and method
CN108509832A (en) * 2017-02-28 2018-09-07 三星电子株式会社 Method and apparatus for generating virtual track
CN108509832B (en) * 2017-02-28 2023-12-12 三星电子株式会社 Method and device for generating virtual lanes
JPWO2018179252A1 (en) * 2017-03-30 2019-11-21 本田技研工業株式会社 Vehicle control apparatus and vehicle control method
KR102091017B1 (en) * 2017-12-01 2020-03-19 팅크웨어(주) Electronic device and mehtod of shooting pictures thereof
KR20170137689A (en) * 2017-12-01 2017-12-13 팅크웨어(주) Electronic device and mehtod of shooting pictures thereof
JP2022142900A (en) * 2021-03-17 2022-10-03 株式会社日立製作所 Traffic control system, travel control device and traffic control method
JP7413302B2 (en) 2021-03-17 2024-01-15 株式会社日立製作所 Air traffic control system, travel control device and air traffic control method

Also Published As

Publication number Publication date
JP4888761B2 (en) 2012-02-29

Similar Documents

Publication Publication Date Title
JP4888761B2 (en) Virtual lane display device
CN114026611A (en) Detecting driver attentiveness using heatmaps
JP4396597B2 (en) Dangerous reaction point recording system and driving support system
CN105197011B (en) Vehicle steering person&#39;s hazard index management system and its method
JP4986135B2 (en) Database creation device and database creation program
JP6292054B2 (en) Driving support device, method, and program
JP5136871B2 (en) Driving assistance device
JP6460058B2 (en) Vehicle control device
US8160772B2 (en) Drive control apparatus, drive control method, drive control program, and recording medium
CN114375467B (en) System and method for detecting an emergency vehicle
JP2008015561A (en) Information providing vehicle and driving support device
US10745030B2 (en) Providing location and driving behavior based alerts
US20130135092A1 (en) Driving behavior analysis and warning system and method thereof
JP2019091412A5 (en)
US20190339697A1 (en) Managing drive modes of a vehicle
US10861336B2 (en) Monitoring drivers and external environment for vehicles
EP1894779A1 (en) Method of operating a night-view system in a vehicle and corresponding night-view system
JP2008186045A (en) Driving evaluation apparatus
JP4756895B2 (en) Driving support device
JP4622749B2 (en) Vehicle data collection device, vehicle driving support device, and vehicle safe driving support system
US11878698B2 (en) Display control device, display control method, and storage medium storing display control program
JP4952545B2 (en) Vehicle environment information notification system and vehicle environment information notification method
EP3566921A1 (en) Providing relevant alerts to a driver of a vehicle
US11967007B2 (en) Vehicle surroundings information displaying system and vehicle surroundings information displaying method
JP2008090683A (en) Onboard navigation device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080926

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111201

R150 Certificate of patent or registration of utility model

Ref document number: 4888761

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141222

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees