JP2014071001A - System, method and program for guiding recommended lane - Google Patents

System, method and program for guiding recommended lane Download PDF

Info

Publication number
JP2014071001A
JP2014071001A JP2012217028A JP2012217028A JP2014071001A JP 2014071001 A JP2014071001 A JP 2014071001A JP 2012217028 A JP2012217028 A JP 2012217028A JP 2012217028 A JP2012217028 A JP 2012217028A JP 2014071001 A JP2014071001 A JP 2014071001A
Authority
JP
Japan
Prior art keywords
lane
recommended lane
vehicle
image
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012217028A
Other languages
Japanese (ja)
Other versions
JP5954085B2 (en
Inventor
Takeshi Ishikawa
健 石川
Takesuke Morita
雄亮 守田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Priority to JP2012217028A priority Critical patent/JP5954085B2/en
Publication of JP2014071001A publication Critical patent/JP2014071001A/en
Application granted granted Critical
Publication of JP5954085B2 publication Critical patent/JP5954085B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a technique that can guide a position of a recommended lane so as to follow a change in an image of the recommended lane in a front landscape, even when a vehicle moves in a width direction of the lane.SOLUTION: A recommended lane guidance system includes: recommended lane acquiring means for acquiring a recommended lane on which a vehicle should drive; reference line setting means for identifying an image of the recommended lane in a display image in which landscape in front of the vehicle is captured, and for setting a reference line so as to follow the image of the identified recommended lane; and display controlling means for displaying on a display unit the front landscape on which a guidance image is overlapped, the guidance image including the recommended lane portion of which the reference line is set as a center line. When the vehicle starts to move in the width direction, the display controlling means acquires a line formed by moving the reference line set at a start time at which the vehicle starts to move in a width direction the lane, to the opposite to the moving direction of the vehicle in the width direction of the lane, and allows the display unit to overlap the guidance image including the recommended lane portion of which the acquired line is set as the center line on the front landscape and display a resulting image on the display unit.

Description

本発明は、車両が走行すべき推奨レーンを案内する推奨レーン案内システム、方法およびプログラムに関する。   The present invention relates to a recommended lane guidance system, method, and program for guiding recommended lanes that a vehicle should travel.

従来、車両に備えられたカメラによって車両の前方を撮影した道路画像に対して、矢印を重畳して表示させる技術が知られている(特許文献1、参照。)。特許文献1では、分岐地点にて案内分岐方向に退出できるレーンである案内走行レーンの中央の表す線を生成し、当該生成した線に幅を持たせることにより案内走行レーンの位置を案内する矢印を生成する。   2. Description of the Related Art Conventionally, a technique is known in which an arrow is superimposed and displayed on a road image obtained by photographing the front of a vehicle with a camera provided in the vehicle (see Patent Document 1). In Patent Document 1, an arrow that generates a line representing the center of a guided traveling lane that is a lane that can exit in a guided branching direction at a branching point, and guides the position of the guided traveling lane by giving the generated line a width. Is generated.

特開平10−281795号公報Japanese Patent Laid-Open No. 10-281795

特許文献1において、案内走行レーンの中央の線は地図情報に記録されたノードの位置に基づいて設定されるため、ノードの位置が不正確な場合、案内走行レーンからずれた位置を矢印が案内してしまう。これに対して、道路画像の画像認識によって認識した案内走行レーンの像の位置に基づいて、道路画像における案内走行レーンの像内に矢印を重畳するようにすれば、案内走行レーンからずれた位置を矢印が案内することを防止できる。
しかしながら、車両がレーンの幅方向に移動する場合、道路画像において案内走行レーンの像の形状や位置や方向が変化するため、案内走行レーンの像の認識精度が悪化したり、案内走行レーンの像の認識が遅延したりするという場合があった。このような場合、案内走行レーンからずれた位置を矢印が案内してしまう。
本発明は、前記課題にかんがみてなされたもので、車両がレーンの幅方向に移動する場合でも、前方風景における推奨レーンの像の変化に追従するように推奨レーンの位置を案内できる技術の提供を目的とする。
In Patent Document 1, the center line of the guide lane is set based on the position of the node recorded in the map information. Therefore, if the position of the node is inaccurate, the arrow guides the position deviated from the guide lane. Resulting in. On the other hand, if an arrow is superimposed on the image of the guide travel lane in the road image based on the position of the image of the guide travel lane recognized by the image recognition of the road image, the position shifted from the guide travel lane. Can be prevented from being guided by the arrow.
However, when the vehicle moves in the width direction of the lane, the shape, position, and direction of the image of the guided travel lane in the road image change, so that the recognition accuracy of the image of the guided travel lane deteriorates or the image of the guided travel lane There was a case that recognition of was delayed. In such a case, the arrow guides the position deviating from the guidance travel lane.
The present invention has been made in view of the above problems, and provides a technique capable of guiding the position of a recommended lane so as to follow the change in the image of the recommended lane in the forward scenery even when the vehicle moves in the width direction of the lane. With the goal.

前記の目的を達成するため、本発明において、推奨レーン取得手段は、車両が走行すべき推奨レーンを取得する。基準線設定手段は、車両の前方風景を撮影した画像において推奨レーンの像を認識し、当該認識した推奨レーンの像に沿うように基準線を設定する。表示制御手段は、基準線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させる。さらに、表示制御手段は、車両がレーンの幅方向の移動を開始した場合に、車両がレーンの幅方向の移動を開始した開始時刻において設定された基準線(以下、開始基準線)を、レーンの幅方向における車両の移動方向の反対方向に移動させた線(以下、移動基準線)を取得し、当該移動基準線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させる。   In order to achieve the above object, in the present invention, the recommended lane acquisition means acquires a recommended lane that the vehicle should travel. The reference line setting unit recognizes an image of a recommended lane in an image obtained by capturing a front landscape of the vehicle, and sets a reference line so as to follow the recognized image of the recommended lane. The display control means causes the display unit to display a guide image including a recommended lane portion having the reference line as the center line, superimposed on the front scenery. Further, when the vehicle starts moving in the width direction of the lane, the display control means displays a reference line (hereinafter referred to as a start reference line) set at the start time when the vehicle starts moving in the width direction of the lane. A line moved in the direction opposite to the moving direction of the vehicle in the width direction (hereinafter referred to as a movement reference line) is acquired, and a guide image including a recommended lane portion with the movement reference line as a central line is superimposed on the front landscape. Display on the display.

車両がレーンの幅方向に移動した場合に、前方風景において推奨レーンの像はレーンの幅方向における車両の移動方向と反対方向に移動する。例えば、車両が右方向に移動すれば、前方風景において推奨レーンの像は左方向に移動する。そのため、車両がレーンの幅方向の移動を開始した開始時刻よりも後における推奨レーンの像は、当該開始時刻における推奨レーンの像よりも、レーンの幅方向における車両の移動方向と反対方向に移動した位置に存在することとなる。従って、車両がレーンの幅方向の移動を開始した開始時刻において認識した推奨レーンの像に基づいて設定された開始基準線を、レーンの幅方向における車両の移動方向の反対方向に移動させた移動基準線は、当該開始時刻よりも後における推奨レーンの像の移動に追従した位置の線となる。そのため、車両がレーンの幅方向に移動した場合に、移動基準線を推奨レーン部分の中央の線とすることにより、前方風景における推奨レーンの像の移動に追従するように推奨レーン部分を表示させることができる。また、開始基準線の位置を記録しておけば、車両がレーンの幅方向の移動を開始した開始時刻よりも後における推奨レーンの像の認識結果とは無関係に移動基準線を設定できる。従って、車両がレーンの幅方向の移動を開始した後において、推奨レーンの像の認識精度が悪化していたり、推奨レーンの像の認識が遅延したりしていても、前方風景における推奨レーンの像の移動に追従するように推奨レーン部分を表示させることができる。また、推奨レーンの像が認識できない場合や、推奨レーンの像の認識を行わない場合でも、前方風景における推奨レーンの像の移動に追従するように推奨レーン部分を表示させることができる。   When the vehicle moves in the width direction of the lane, the image of the recommended lane moves in the direction opposite to the moving direction of the vehicle in the width direction of the lane in the front landscape. For example, if the vehicle moves to the right, the recommended lane image moves to the left in the forward scenery. Therefore, the recommended lane image after the start time when the vehicle starts moving in the lane width direction moves in the opposite direction to the vehicle movement direction in the lane width direction than the recommended lane image at the start time. It will exist at the position. Therefore, the movement in which the start reference line set based on the recommended lane image recognized at the start time when the vehicle starts moving in the width direction of the lane is moved in the direction opposite to the moving direction of the vehicle in the width direction of the lane. The reference line is a line at a position following the movement of the recommended lane image after the start time. Therefore, when the vehicle moves in the width direction of the lane, the recommended lane portion is displayed so as to follow the movement of the image of the recommended lane in the forward scenery by setting the movement reference line as the center line of the recommended lane portion. be able to. If the position of the start reference line is recorded, the movement reference line can be set regardless of the recognition result of the recommended lane image after the start time when the vehicle starts moving in the width direction of the lane. Therefore, after the vehicle starts moving in the width direction of the lane, even if the recognition accuracy of the recommended lane image has deteriorated or the recognition of the recommended lane image is delayed, The recommended lane portion can be displayed so as to follow the movement of the image. Further, even when the recommended lane image cannot be recognized or when the recommended lane image is not recognized, the recommended lane portion can be displayed so as to follow the movement of the recommended lane image in the forward scenery.

ここで、推奨レーンは、車両が走行している道路である走行道路を構成するレーンのうち走行が推奨されるレーンである。例えば、推奨レーンは、走行予定経路上の交差点に接続する道路のうち、走行予定経路上の道路へと退出できるレーンであってもよい。基準線設定手段は、推奨レーンの左右の区画線の像を公知の線認識手法によって認識し、当該認識した区画線の像に挟まれた領域を推奨レーンの像として認識してもよい。基準線設定手段は、推奨レーンの像に沿うように基準線を設定すればよく、推奨レーンの像内において推奨レーンの像の長さ方向の基準線を設定してもよい。例えば、基準線設定手段は、推奨レーンの像の長さ方向の線に対する平行度が閾値以上の基準線を設定してもよい。なお、前方風景における推奨レーンの像の長さ方向は、推奨レーンのレーン方向を表す。レーン方向とは、車両がレーン上をレーンに沿って走行する方向であり、レーンの区画線の方向である。一方、レーンの幅方向とは、レーン上を走行する車両の車幅方向であり、レーンの区画線の方向と直交する方向である。   Here, the recommended lane is a lane in which traveling is recommended among lanes constituting a traveling road that is a road on which the vehicle is traveling. For example, the recommended lane may be a lane that can exit to a road on the planned travel route among roads connected to an intersection on the planned travel route. The reference line setting means may recognize the image of the left and right lane markings of the recommended lane by a known line recognition method, and may recognize the region sandwiched between the recognized lane marking images as the recommended lane image. The reference line setting means may set the reference line along the recommended lane image, and may set the reference line in the length direction of the recommended lane image within the recommended lane image. For example, the reference line setting unit may set a reference line whose parallelism with respect to a line in the length direction of the recommended lane image is equal to or greater than a threshold value. The length direction of the recommended lane image in the front landscape represents the lane direction of the recommended lane. The lane direction is the direction in which the vehicle travels on the lane along the lane, and is the direction of the lane markings. On the other hand, the width direction of the lane is the vehicle width direction of the vehicle traveling on the lane, and is a direction orthogonal to the direction of the lane markings.

表示制御手段は、基準線が推奨レーン部分の中央の線を構成するようにすればよく、基準線によって推奨レーン部分が幾何学的に二等分されるようにしてもよい。表示制御手段は、推奨レーン部分を含む案内画像を前方風景に重畳すればよく、案内画像は推奨レーン部分以外の部分を含んでもよいし、推奨レーン部分のみで構成されてもよい。   The display control means may be such that the reference line constitutes the center line of the recommended lane portion, and the recommended lane portion may be geometrically divided into two by the reference line. The display control means may superimpose a guidance image including a recommended lane portion on the front landscape, and the guidance image may include a portion other than the recommended lane portion, or may be configured by only the recommended lane portion.

表示制御手段は、車両がレーンの幅方向の移動を開始したか否かを判定するが、前方風景を撮影した画像の画像認識に基づいて車両がレーンの幅方向の移動を開始したか否かを判定してもよい。また、表示制御手段は、車両の状態(運動状態、操作状態等)を検知するセンサの出力信号に基づいて、車両がレーンの幅方向の移動を開始したか否かを判定してもよい。なお、レーンの幅方向における車両の移動方向は、推奨レーンに接近する方向であってもよいし、推奨レーンから遠ざかる方向であってもよい。   The display control means determines whether or not the vehicle has started moving in the width direction of the lane, but whether or not the vehicle has started moving in the width direction of the lane based on the image recognition of the image obtained by capturing the front landscape. May be determined. Further, the display control means may determine whether or not the vehicle has started moving in the width direction of the lane based on an output signal of a sensor that detects the state of the vehicle (movement state, operation state, etc.). The moving direction of the vehicle in the width direction of the lane may be a direction approaching the recommended lane or a direction away from the recommended lane.

表示制御手段は、案内画像を、前方風景を表す画像(以下、前方画像)に重畳してもよい。すなわち、表示制御手段は、案内画像を前方画像に重畳して、当該案内画像が重畳された前方画像を表示部に表示させてもよい。前方画像は、イメージセンサによって前方風景を撮影した画像であってもよいし、前方風景を地図情報に基づいて描画した画像であってもよい。さらに、表示部は、車両のフロントガラス越しに運転者が視認する現実の前方風景に案内画像が重畳されるように表示するヘッドアップディスプレイとして構成されてもよい。   The display control means may superimpose the guide image on an image representing the front scenery (hereinafter referred to as a front image). That is, the display control unit may superimpose the guide image on the front image and display the front image on which the guide image is superimposed on the display unit. The front image may be an image obtained by photographing a front landscape by an image sensor, or may be an image obtained by drawing the front landscape based on map information. Furthermore, the display unit may be configured as a head-up display that displays the guidance image so as to be superimposed on an actual front view visually recognized by the driver through the windshield of the vehicle.

表示制御手段は、車両がレーンの幅方向の移動を開始した場合に、車両がレーンの幅方向の移動を開始した開始時刻からの経過期間が長くなるほど、開始基準線をレーンの幅方向における車両の移動方向の反対方向に大きく移動させた移動基準線を取得し、当該移動基準線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させてもよい。車両がレーン変更を開始した場合、車両がレーンの幅方向の移動を開始した開始時刻からの経過期間が長くなるほど、レーンの幅方向において車両が移動した累積の距離が長くなる。従って、車両がレーンの幅方向の移動を開始した開始時刻からの経過期間が長くなるほど、開始基準線を大きく移動させた線を移動基準線とすることにより、当該開始時刻から推奨レーンの像が左右方向に移動した累積の距離に相応する距離だけ推奨レーン部分を移動させることができる。   When the vehicle starts moving in the width direction of the lane, the display control means sets the start reference line in the width direction of the lane as the elapsed time from the start time when the vehicle started moving in the width direction of the lane becomes longer. A movement reference line that is largely moved in the opposite direction of the movement direction may be acquired, and a guide image including a recommended lane portion having the movement reference line as a center line may be superimposed on the front landscape and displayed on the display unit. . When the vehicle starts a lane change, the cumulative distance that the vehicle has moved in the lane width direction becomes longer as the elapsed period from the start time at which the vehicle started moving in the lane width direction becomes longer. Therefore, the longer the elapsed time from the start time when the vehicle starts moving in the width direction of the lane, the longer the start reference line is moved, the moving reference line is used, so that an image of the recommended lane from the start time is obtained. The recommended lane portion can be moved by a distance corresponding to the accumulated distance moved in the left-right direction.

なお、表示制御手段は、車両がレーンの幅方向の移動を開始した開始時刻からの経過期間が長くなるほど、開始基準線に対する移動基準線の移動量を大きくすればよく、当該移動量を経過期間に応じて線形的に増加させてもよいし、非線形的に増加させてもよい。また、車両がレーンの幅方向の移動を開始した開始時刻よりも後において推奨レーンの像が前方風景にて左右に移動する量は、車速や操舵角(レーンの方向に対する進行方向の傾き)が大きいほど大きくなるため、表示制御手段は、車速や操舵角が大きいほど開始基準線に対する移動基準線の移動量を大きくしてもよい。   The display control means may increase the movement amount of the movement reference line with respect to the start reference line as the elapsed period from the start time when the vehicle starts moving in the width direction of the lane increases. It may be increased linearly or in a non-linear manner. The amount by which the image of the recommended lane moves left and right in the forward landscape after the start time when the vehicle starts moving in the width direction of the lane depends on the vehicle speed and the steering angle (the inclination of the traveling direction with respect to the lane direction). The display control means may increase the amount of movement of the movement reference line with respect to the start reference line as the vehicle speed or the steering angle increases.

さらに、表示制御手段は、車両がレーンの幅方向の移動を開始した場合に、車両がレーンの幅方向の移動を開始した開始時刻における推奨レーン部分の幅と同一の幅に維持された推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させてもよい。このように、幅が一定に維持された案内画像を移動させることにより、車両がレーンの幅方向の移動を開始した開始時刻よりも後においても同一の推奨レーンが継続して案内されているような印象を与えることができる。   Further, the display control means, when the vehicle starts moving in the width direction of the lane, the recommended lane maintained at the same width as the width of the recommended lane portion at the start time when the vehicle starts moving in the width direction of the lane. A guidance image including a part may be superimposed on the front scenery and displayed on the display unit. In this way, the same recommended lane is continuously guided even after the start time when the vehicle starts moving in the width direction of the lane by moving the guide image whose width is maintained constant. Can give an impression.

また、表示制御手段は、車両がレーンの幅方向の移動を開始した場合に、車両がレーンの幅方向の移動を開始した開始時刻からの経過時間が長くなるほど、幅を狭くした推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させてもよい。推奨レーン部分の幅を狭くすることにより、推奨レーン部分が推奨レーンの像からはみ出す可能性を低減することができる。従って、推奨レーン部分が推奨レーンの像からはみ出すことにより、推奨レーン部分が推奨レーン以外のレーンを案内しているような印象を与えることを防止できる。   In addition, when the vehicle starts moving in the width direction of the lane, the display control means displays the recommended lane portion with a narrower width as the elapsed time from the start time when the vehicle started moving in the width direction of the lane becomes longer. The guidance image that is included may be superimposed on the front scenery and displayed on the display unit. By narrowing the width of the recommended lane portion, the possibility that the recommended lane portion protrudes from the image of the recommended lane can be reduced. Therefore, it can be prevented that the recommended lane portion protrudes from the image of the recommended lane to give the impression that the recommended lane portion guides a lane other than the recommended lane.

また、表示制御手段は、車両がレーンの幅方向において推奨レーンに接近する方向に移動を開始した場合に、開始基準線を、前方風景の縦方向の線に対する平行度が大きくなるように回転させた移動基準線を取得し、当該移動基準線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させもよい。車両の進行方向に対して推奨レーンの方向が平行である場合、レーンの幅方向において推奨レーンが車両に近づくほど、推奨レーンの像は前方風景の縦方向の線に対して平行に近づくように回転する。最終的に、車両が推奨レーン上を走行する状態となった場合、推奨レーンの像は、前方風景の縦方向の像となる。従って、車両がレーンの幅方向において推奨レーンに接近する方向に移動を開始した場合に、開始基準線を、前方風景の縦方向の線に対する平行度が大きくなるように回転させた移動基準線を推奨レーン部分の中央の線とすることにより、推奨レーンの像の回転に追従するように推奨レーン部分を表示させることができる。
反対に、車両がレーンの幅方向において推奨レーンから遠ざかる方向に移動を開始した場合に、開始基準線を、前方風景の横方向の線に対する平行度が大きくなるように回転させた移動基準線を取得し、当該移動基準線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させもよい。車両の進行方向に対して推奨レーンの方向が平行である場合、レーンの幅方向において推奨レーンが車両から遠ざかるほど、推奨レーンの像は前方風景の横方向の線に対して平行に近づくように回転するからである。
In addition, when the vehicle starts moving in the direction of approaching the recommended lane in the width direction of the lane, the display control means rotates the start reference line so that the parallelism with the vertical line of the front landscape increases. It is also possible to acquire the movement reference line and display a guidance image including a recommended lane portion with the movement reference line as the center line on the display portion so as to be superimposed on the front landscape. If the direction of the recommended lane is parallel to the direction of travel of the vehicle, the closer the recommended lane is to the vehicle in the width direction of the lane, the closer the image of the recommended lane is to parallel to the vertical line of the front landscape. Rotate. When the vehicle finally travels on the recommended lane, the image of the recommended lane is a vertical image of the front landscape. Therefore, when the vehicle starts to move in the direction of approaching the recommended lane in the width direction of the lane, the movement reference line that is rotated so that the parallelism with respect to the vertical line of the front landscape is increased. By using the center line of the recommended lane portion, the recommended lane portion can be displayed so as to follow the rotation of the image of the recommended lane.
On the other hand, when the vehicle starts to move away from the recommended lane in the width direction of the lane, the movement reference line that is rotated so that the parallelism with the horizontal line of the front landscape is increased is used. The guide image including the recommended lane portion that is acquired and has the movement reference line as the center line may be superimposed on the front scenery and displayed on the display unit. If the direction of the recommended lane is parallel to the direction of travel of the vehicle, the distance of the recommended lane from the vehicle in the width direction of the lane is such that the image of the recommended lane approaches parallel to the horizontal line of the front landscape. This is because it rotates.

さらに、車両がレーンの幅方向の移動を開始した直後においては、車両の進行方向はレーンの方向に対して傾き、車両から見た前方風景の視認方向もレーンの方向に対して傾くこととなる。車両がレーンの幅方向における左方向に移動を開始した場合、すなわち平面視において前方風景の視認方向が反時計回りに回転した場合に、前方風景において推奨レーンの像は時計回りに回転する。従って、表示制御手段は、車両がレーンの幅方向における左方向に移動を開始した直後の所定期間において、開始基準線を時計回りに回転させた線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳して表示部に表示させてもよい。これにより、車両がレーンの幅方向における左方向に移動を開始した直後においても、前方風景における推奨レーンの像の回転に追従するように推奨レーン部分を表示させることができる。
反対に、表示制御手段は、車両がレーンの幅方向における右方向に移動を開始した直後の所定期間において、開始基準線を反時計回りに回転させた線を取得し、当該取得した線を中央の線とする推奨レーン部分を含む案内画像を前方風景に重畳すればよい。これにより、車両がレーンの幅方向における右方向に移動を開始した直後においても、前方風景における推奨レーンの像の回転に追従するように推奨レーン部分を表示させることができる。
Further, immediately after the vehicle starts moving in the width direction of the lane, the traveling direction of the vehicle is inclined with respect to the lane direction, and the viewing direction of the front scenery viewed from the vehicle is also inclined with respect to the lane direction. . When the vehicle starts to move to the left in the width direction of the lane, that is, when the viewing direction of the front landscape rotates counterclockwise in plan view, the image of the recommended lane rotates clockwise in the front landscape. Therefore, the display control means includes a recommended lane portion including a recommended lane portion whose center line is a line obtained by rotating the start reference line clockwise in a predetermined period immediately after the vehicle starts moving leftward in the lane width direction. The image may be displayed on the display unit so as to be superimposed on the front landscape. Thereby, even immediately after the vehicle starts moving in the left direction in the width direction of the lane, the recommended lane portion can be displayed so as to follow the rotation of the image of the recommended lane in the forward scenery.
Conversely, the display control means acquires a line obtained by rotating the start reference line counterclockwise in a predetermined period immediately after the vehicle starts moving rightward in the width direction of the lane, and the acquired line is centered. A guide image including a recommended lane portion that is a line of sq. Thereby, even immediately after the vehicle starts moving in the right direction in the width direction of the lane, the recommended lane portion can be displayed so as to follow the rotation of the image of the recommended lane in the forward scenery.

さらに、表示制御手段は、車両が走行している走行レーンの区画線と車両との位置関係に基づいて、車両がレーンの幅方向の移動を開始したか否かを判定してもよい。例えば、表示制御手段は、車両が走行レーンの区画線に対して所定距離以内まで接近した場合に、車両がレーンの幅方向の移動を開始したと判定してもよい。さらに、表示制御手段は、走行レーンの幅方向の中央線から所定距離以上幅方向に移動した場合に、車両がレーンの幅方向の移動を開始したと判定してもよい。   Further, the display control means may determine whether or not the vehicle has started moving in the width direction of the lane based on the positional relationship between the lane markings of the traveling lane in which the vehicle is traveling and the vehicle. For example, the display control unit may determine that the vehicle has started moving in the width direction of the lane when the vehicle approaches the lane marking of the travel lane within a predetermined distance. Further, the display control means may determine that the vehicle has started moving in the width direction of the lane when moving in the width direction by a predetermined distance or more from the center line in the width direction of the traveling lane.

表示制御手段は、車両が走行している走行レーンの区画線に対する車両の進行方向の傾きが閾値以上となった場合に、車両がレーンの幅方向の移動を開始したと判定してもよい。すなわち、表示制御手段は、車両の進行方向がレーンの方向に対して大きく傾いた場合に、車両がレーンの幅方向の移動を開始したと判定してもよい。車両の進行方向がレーンの方向に対して大きく傾いた場合、前方風景における推奨レーンの像の方向が変化するため、推奨レーンの像の認識が困難となる。従って、推奨レーンの像の認識が困難な状況において、推奨レーンの像の認識とは無関係に推奨レーン部分を生成する状態へと切り替えることができる。閾値は、推奨レーンの像の認識が困難となる際における走行レーンの区画線に対する車両の進行方向の傾きであってもよく、例えば推奨レーンの像の認識精度や認識信頼度が所定値まで悪化する際における走行レーンの区画線に対する車両の進行方向の傾きであってもよい。さらに、閾値は、レーン変更をすることなく走行レーン上を車両がそのまま走行する際(単に車両がふらついた際)における走行レーンの区画線に対する車両の進行方向の傾きの上限値であってもよい。レーン変更をしない場合には、走行レーンの区画線に対する車両の進行方向の傾きが一時的に大きくなっても再度小さくなることが予測され、推奨レーンの像の認識精度や認識信頼度が改善することが予測されるからである。   The display control means may determine that the vehicle has started moving in the width direction of the lane when the inclination of the traveling direction of the vehicle with respect to the lane marking of the traveling lane in which the vehicle is traveling is equal to or greater than a threshold value. That is, the display control means may determine that the vehicle has started moving in the width direction of the lane when the traveling direction of the vehicle is greatly inclined with respect to the lane direction. When the traveling direction of the vehicle is greatly inclined with respect to the lane direction, the direction of the recommended lane image in the forward scenery changes, and it is difficult to recognize the recommended lane image. Therefore, in a situation where the recognition of the recommended lane image is difficult, it is possible to switch to a state in which the recommended lane portion is generated regardless of the recognition of the recommended lane image. The threshold value may be the inclination of the traveling direction of the vehicle with respect to the lane marking when the recommended lane image is difficult to recognize. For example, the recognition accuracy and the recognition reliability of the recommended lane image deteriorate to a predetermined value. The inclination of the traveling direction of the vehicle with respect to the lane marking of the traveling lane may be used. Furthermore, the threshold value may be an upper limit value of the inclination of the traveling direction of the vehicle with respect to the lane marking of the traveling lane when the vehicle travels as it is on the traveling lane without changing the lane (simply when the vehicle fluctuates). . If the lane is not changed, it is predicted that the inclination of the traveling direction of the vehicle with respect to the lane marking of the traveling lane will temporarily increase again, and the recognition accuracy and recognition reliability of the recommended lane image are improved. This is because it is predicted.

さらに、本発明のように、案内画像により推奨レーンを案内する手法は、プログラムや方法としても適用可能である。また、以上のような推奨レーン案内システム、プログラム、方法は、単独の装置として実現される場合もあれば、車両に備えられる各部と共有の部品を利用して実現される場合もあり、各種の態様を含むものである。すなわち、推奨レーン案内システムを構成する各手段が複数の実体的な装置に分散して備えられてもよい。各手段が複数の実体的な装置に分散して備えられる場合に、各手段を機能させるために必要なデータを送受信する通信手段が備えられてもよい。さらに、以上のような推奨レーン案内システムの少なくとも一部を備えたナビゲーション装置や方法、プログラムを提供することが可能である。また、一部がソフトウェアであり一部がハードウェアであったりするなど、適宜、変更可能である。さらに、推奨レーン案内システムを制御するプログラムの記録媒体としても発明は成立する。むろん、そのソフトウェアの記録媒体は、磁気記録媒体であってもよいし光磁気記録媒体であってもよいし、今後開発されるいかなる記録媒体においても全く同様に考えることができる。   Furthermore, as in the present invention, the method of guiding recommended lanes using guide images can also be applied as a program or method. In addition, the recommended lane guidance system, program, and method described above may be realized as a single device or may be realized using parts shared with each part provided in the vehicle. Including embodiments. That is, each means constituting the recommended lane guidance system may be distributed and provided in a plurality of substantial devices. When each means is distributed and provided in a plurality of substantive devices, a communication means for transmitting and receiving data necessary to make each means function may be provided. Furthermore, it is possible to provide a navigation device, method, and program that include at least a part of the recommended lane guidance system as described above. Further, some changes may be made as appropriate, such as a part of software and a part of hardware. Furthermore, the present invention can be realized as a recording medium for a program for controlling the recommended lane guidance system. Of course, the software recording medium may be a magnetic recording medium, a magneto-optical recording medium, or any recording medium to be developed in the future.

ナビゲーション装置のブロック図である。It is a block diagram of a navigation apparatus. (2A)〜(2C)はカメラの視野を示す図、(2D)は前方画像を示す図である。(2A)-(2C) is a figure which shows the visual field of a camera, (2D) is a figure which shows a front image. (3A)〜(3C)は前方画像を示す図、(3D)は移動基準線の移動量のグラフである。(3A) to (3C) are diagrams showing a front image, and (3D) is a graph of the movement amount of the movement reference line. 推奨レーン案内処理のフローチャートである。It is a flowchart of a recommended lane guidance process. (5A)〜(5C)は前方画像を示す図、(5D)は案内画像を示す図である。(5A)-(5C) is a figure which shows a front image, (5D) is a figure which shows a guidance image.

ここでは、下記の順序に従って本発明の実施の形態について説明する。
(1)ナビゲーション装置の構成:
(2)推奨レーン案内処理:
(3)他の実施形態:
Here, embodiments of the present invention will be described in the following order.
(1) Configuration of navigation device:
(2) Recommended lane guidance processing:
(3) Other embodiments:

(1)ナビゲーション装置の構成:
図1は、本発明の一実施形態にかかる推奨レーン案内システムとしてのナビゲーション装置10の構成を示すブロック図である。ナビゲーション装置10は、車両に備えられている。ナビゲーション装置10は、制御部20と記録媒体30とを備えている。制御部20は、CPUとRAMとROM等を備え、記録媒体30やROMに記憶されたプログラムを実行する。記録媒体30は、地図情報30aを記録する。地図情報30aは、道路の端点(交差点)に対応して設定されたノードの位置を示すノードデータと、ノード間の道路に関する情報を示すリンクデータと、ノード間の道路の幅方向の中央位置を特定するための形状補間点データ等を含んでいる。リンクデータには、道路が含むレーンの数と、道路における幅方向の一方(本実施形態では左側)の端のレーンから数えた各レーンのレーン番号と、レーンを交差点まで走行した場合に当該交差点から退出できる道路とを示すレーン情報とが含まれる。
(1) Configuration of navigation device:
FIG. 1 is a block diagram showing a configuration of a navigation device 10 as a recommended lane guidance system according to an embodiment of the present invention. The navigation device 10 is provided in a vehicle. The navigation device 10 includes a control unit 20 and a recording medium 30. The control unit 20 includes a CPU, a RAM, a ROM, and the like, and executes a program stored in the recording medium 30 or the ROM. The recording medium 30 records map information 30a. The map information 30a includes node data indicating the position of the node set corresponding to the end point (intersection) of the road, link data indicating information regarding the road between the nodes, and the center position in the width direction of the road between the nodes. Shape interpolation point data and the like for specifying are included. The link data includes the number of lanes included in the road, the lane number of each lane counted from one lane in the width direction of the road (left side in this embodiment), and the intersection when the lane is traveled to the intersection. Lane information indicating roads that can exit the road.

また、車両は、GPS受信部41と車速センサ42とジャイロセンサ43とカメラ44とディスプレイ45とを備えている。GPS受信部41は、GPS衛星からの電波を受信し、図示しないインタフェースを介して車両の現在位置を算出するための信号を制御部20に出力する。車速センサ42は、車両が備える車輪の回転速度に対応した信号を制御部20に出力する。ジャイロセンサ43は、車両に作用する角加速度に対応した信号を制御部20に出力する。制御部20は、GPS受信部41、車速センサ42およびジャイロセンサ43等からの出力信号や地図情報30aに基づいて車両の現在位置を特定する。制御部20は、地図情報30aのリンクデータに基づいて車両が走行している道路を走行道路として特定し、地図情報30aの形状補間点データに基づいて車両の現在位置を走行道路の幅方向の中央位置に補正する。さらに、制御部20は、ジャイロセンサ43からの出力信号等に基づいて車両の進行方向を特定する。   The vehicle also includes a GPS receiver 41, a vehicle speed sensor 42, a gyro sensor 43, a camera 44, and a display 45. The GPS receiver 41 receives radio waves from GPS satellites and outputs a signal for calculating the current position of the vehicle to the controller 20 via an interface (not shown). The vehicle speed sensor 42 outputs a signal corresponding to the rotational speed of the wheels included in the vehicle to the control unit 20. The gyro sensor 43 outputs a signal corresponding to the angular acceleration acting on the vehicle to the control unit 20. The control unit 20 specifies the current position of the vehicle based on output signals from the GPS receiving unit 41, the vehicle speed sensor 42, the gyro sensor 43, and the like, and the map information 30a. The control unit 20 identifies the road on which the vehicle is traveling based on the link data of the map information 30a as the traveling road, and determines the current position of the vehicle in the width direction of the traveling road based on the shape interpolation point data of the map information 30a. Correct to the center position. Further, the control unit 20 specifies the traveling direction of the vehicle based on the output signal from the gyro sensor 43 and the like.

カメラ44は、車両の前方の前方風景を撮影し、当該前方風景を表す前方画像を生成するイメージセンサである。図2A〜2Cは、カメラ44が前方画像を撮影する様子を示す平面図である。図2A〜2Cに示すように、カメラ44は車両の正面前方を光軸の方向とする視野Vを有し、当該視野V内の前方風景を表す前方画像を生成する。カメラ44は、所定の時間周期または走行距離周期ごとに前方風景を撮影し、図示しないインタフェースを介して前方画像を制御部20に出力する。本実施形態において、カメラ44は、車両の幅方向の中央位置に備えられている。車両の進行方向Fは、車両の幅方向の中央位置から正面前方に向かう方向であり、水平方向におけるカメラ44の光軸の方向と一致する。ディスプレイ45は、制御部20から出力された映像信号に基づいて前方画像と案内画像とを含む各種画像を表示する。   The camera 44 is an image sensor that captures a front landscape in front of the vehicle and generates a front image representing the front landscape. 2A to 2C are plan views showing how the camera 44 captures a front image. As shown in FIGS. 2A to 2C, the camera 44 has a field of view V with the front side of the vehicle in the direction of the optical axis, and generates a front image representing a front scene in the field of view V. The camera 44 captures a front landscape every predetermined time period or mileage period, and outputs a front image to the control unit 20 via an interface (not shown). In the present embodiment, the camera 44 is provided at the center position in the width direction of the vehicle. The traveling direction F of the vehicle is a direction from the center position in the width direction of the vehicle toward the front front, and coincides with the direction of the optical axis of the camera 44 in the horizontal direction. The display 45 displays various images including a front image and a guide image based on the video signal output from the control unit 20.

図2Dは前方画像を示す図である。前方画像における横方向(画像の水平方向)は道路およびレーンの幅方向に対応し、路面上において車両から前方に遠い位置にある物体の像ほど前方画像の縦方向(画像の垂直方向)の上方に位置する。また、前方画像の下辺の中点が車両の現在位置P(カメラ44の位置)に対応し、前方画像の横方向の二等分線上の位置が投影空間Kにおける直進線F上の位置に対応する。   FIG. 2D is a diagram illustrating a front image. The horizontal direction in the front image (the horizontal direction of the image) corresponds to the width direction of the road and lane, and the image of the object located farther from the vehicle on the road surface is higher in the vertical direction of the front image (vertical direction of the image). Located in. The midpoint of the lower side of the front image corresponds to the current position P of the vehicle (the position of the camera 44), and the position on the horizontal bisector of the front image corresponds to the position on the straight line F in the projection space K. To do.

推奨レーン案内プログラム21は、推奨レーン取得部21aと基準線設定部21bと表示制御部21cとを含む。推奨レーン取得部21aは、車両が走行すべき推奨レーンを取得する機能を制御部20に実行させるモジュールである。推奨レーン取得部21aの機能により制御部20は、地図情報30aに基づいて目的地点に到達可能な走行予定経路を公知の経路探索手法により探索し、当該走行予定経路に基づいて推奨レーンを取得する。なお、制御部20は、走行予定経路を取得できればよく、外部のコンピュータにおいて探索された走行予定経路を通信等を介して取得してもよいし、リムーバブルメモリから読み出して取得してもよい。   The recommended lane guidance program 21 includes a recommended lane acquisition unit 21a, a reference line setting unit 21b, and a display control unit 21c. The recommended lane acquisition unit 21a is a module that causes the control unit 20 to execute a function of acquiring a recommended lane that the vehicle should travel. With the function of the recommended lane acquisition unit 21a, the control unit 20 searches for a planned travel route that can reach the destination point based on the map information 30a by a known route search method, and acquires a recommended lane based on the planned travel route. . Note that the control unit 20 only needs to be able to acquire the planned travel route, and may acquire the planned travel route searched by an external computer via communication or the like, or may be read from the removable memory and acquired.

推奨レーン取得部21aの機能により制御部20は、車両が現在走行している走行道路が走行予定経路上の道路である場合に、当該走行道路の終点をなす交差点を直近交差点として特定する。さらに、制御部20は、直近交差点に接続する接続道路のうち、直近交差点から退出すべき走行予定経路上の道路である退出道路を特定する。そして、制御部20は、走行道路が含むレーンのうち、直近交差点にて走行予定経路上の退出道路へと退出できるレーンを推奨レーンとして取得する。図2A〜2Cに示すように、本実施形態では走行道路の右端のレーンが推奨レーンであることとする。   With the function of the recommended lane acquisition unit 21a, the control unit 20 specifies the intersection that forms the end point of the traveling road as the nearest intersection when the traveling road on which the vehicle is currently traveling is a road on the planned traveling route. Further, the control unit 20 specifies an exit road that is a road on the planned travel route to exit from the nearest intersection among the connection roads connected to the nearest intersection. Then, the control unit 20 acquires, as recommended lanes, lanes that can exit to the exit road on the planned travel route at the nearest intersection among the lanes included in the travel road. As shown in FIGS. 2A to 2C, in the present embodiment, the rightmost lane of the traveling road is a recommended lane.

基準線設定部21bは、車両の前方風景を撮影した前方画像において推奨レーンの像を認識し、当該認識した推奨レーンの像に沿うように基準線を設定する機能を制御部20に実行させるモジュールである。基準線設定部21bの機能により制御部20は、公知のハフ変換等を行うことにより、前方画像において各レーンの区画線の像を認識する。そして、制御部20は、前方画像においてレーンの区画線の像に挟まれた領域をレーンの像として認識し、当該認識したレーンの像のうち、前方画像の左側から数えた順序が推奨レーンのレーン番号と一致するレーンの像を推奨レーンの像として認識する。   The reference line setting unit 21b recognizes a recommended lane image in a front image obtained by photographing a front landscape of the vehicle, and causes the control unit 20 to execute a function of setting a reference line along the recognized recommended lane image. It is. With the function of the reference line setting unit 21b, the control unit 20 recognizes the image of the lane markings of each lane in the front image by performing a known Hough transform or the like. Then, the control unit 20 recognizes an area between the lane markings in the front image as a lane image, and the order counted from the left side of the front image among the recognized lane images is the recommended lane. The lane image that matches the lane number is recognized as the recommended lane image.

基準線設定部21bの機能により制御部20は、推奨レーンの像の横方向の中央線RCを取得し、当該中央線に沿うように基準線を設定する。本実施形態において、制御部20は、前方画像における推奨レーンの像の横方向の中央線RC上に基準線Zを設定する。推奨レーンの像の横方向の中央線は、実空間において推奨レーンの幅方向の中央位置が存在する線に対応し、推奨レーンの方向を表す線である。推奨レーンの方向とは、推奨レーンの区画線の方向である。   With the function of the reference line setting unit 21b, the control unit 20 acquires the horizontal center line RC of the recommended lane image, and sets the reference line along the center line. In the present embodiment, the control unit 20 sets the reference line Z on the horizontal center line RC of the recommended lane image in the front image. The center line in the horizontal direction of the image of the recommended lane corresponds to the line where the center position in the width direction of the recommended lane exists in the real space, and is a line representing the direction of the recommended lane. The recommended lane direction is the direction of the lane marking of the recommended lane.

ここで、推奨レーンの像の横方向の中央線を特定する手順を説明する。図2Dに示すように、基準線設定部21bの機能により制御部20は、前方画像の横方向における推奨レーンの左右の区画線の像BLの中点を通過する中央線RC(一点鎖線)を特定する。制御部20は、前方画像において横方向の補助直線O(二点鎖線)と推奨レーンの左右の区画線の像BLのそれぞれとの交点a(白丸)間の横方向の中点b(白三角)を特定する。
そして、制御部20は、縦方向の位置が異なる2本以上の補助直線Oのそれぞれについて、推奨レーンの左右の区画線の像BLの横方向の中点bを特定し、当該中点b同士を結ぶ線を推奨レーンにおける幅方向の中央位置を示す中央線RCとして特定する。なお、推奨レーンが直線状のレーンでない場合には、推奨レーンの左右の区画線の像BLの横方向の中点bを3本以上の補助直線Oについて特定し、当該中点b同士を結ぶ曲線や折れ線を中央線RCとして特定してもよい。
Here, a procedure for specifying the horizontal center line of the recommended lane image will be described. As shown in FIG. 2D, the control unit 20 uses the function of the reference line setting unit 21b to display a center line RC (dashed line) that passes through the midpoint of the image BL of the left and right partition lines of the recommended lane in the horizontal direction of the front image. Identify. In the front image, the control unit 20 controls the horizontal midpoint b (white triangle) between the intersection points a (white circles) between the horizontal auxiliary straight line O (two-dot chain line) and the left and right partition line images BL of the recommended lane. ).
Then, the control unit 20 specifies the horizontal midpoint b of the image BL of the left and right partition lines of the recommended lane for each of two or more auxiliary straight lines O having different vertical positions, and the midpoints b Is identified as the center line RC indicating the center position in the width direction in the recommended lane. If the recommended lane is not a straight lane, the horizontal midpoint b of the image BL of the left and right partition lines of the recommended lane is specified for three or more auxiliary straight lines O, and the midpoints b are connected to each other. A curve or a broken line may be specified as the center line RC.

基準線設定部21bの機能により制御部20は、中央線RC上において前方側端点FEと後方側端点BEとを設定し、前方側端点FEと後方側端点BEとを接続する直線を基準線Zとして設定する。制御部20は、中央線RC上、かつ、前方画像の縦方向における所定の高さH1の位置に前方側端点FEを設定する。同様に、制御部20は、中央線RC上、かつ、前方画像の縦方向において前方側端点FEよりも低い高さH2(<H1)の位置に後方側端点BEを設定する。前方側端点FEと後方側端点BEとが設定される前方画像の縦方向における高さH1,H2は一定に維持され、その結果、前方画像の縦方向における基準線Zの長さも一定に維持される。なお、中央線RCは推奨レーンの像内の線であるため、基準線Zも推奨レーンの像内の線となる。 By the function of the reference line setting unit 21b, the control unit 20 sets the front end point FE and the rear end point BE on the center line RC, and sets a straight line connecting the front end point FE and the rear end point BE to the reference line Z. Set as. Control unit 20, on the center line RC, and sets the front end point FE in the position of a predetermined height H 1 in the vertical direction of the front image. Similarly, the control unit 20 sets the rear end point BE at the position of the height H 2 (<H 1 ) lower than the front end point FE in the longitudinal direction of the front image on the center line RC. The heights H 1 and H 2 in the vertical direction of the front image where the front end point FE and the rear end point BE are set are maintained constant, and as a result, the length of the reference line Z in the vertical direction of the front image is also constant. Maintained. Since the center line RC is a line in the recommended lane image, the reference line Z is also a line in the recommended lane image.

本実施形態において、基準線Zは中央線RC上の直線となる。ただし、制御部20は、中央線RCに沿うように基準線Zを設定すればよく、必ずしも中央線RC上に基準線Zを設定しなくてもよい。例えば、制御部20は、中央線RCと基準線Zとが所定距離以内、かつ、中央線RCと基準線Zとがなす角が所定角度以内となるように基準線Zを設定してもよい。さらに、中央線RCが折れ線や曲線である場合において、制御部20は、中央線RCの近似曲線を基準線Zとして設定してもよい。   In the present embodiment, the reference line Z is a straight line on the center line RC. However, the control part 20 should just set the reference line Z so that the center line RC may be followed, and does not necessarily need to set the reference line Z on the center line RC. For example, the control unit 20 may set the reference line Z such that the center line RC and the reference line Z are within a predetermined distance and the angle formed by the center line RC and the reference line Z is within a predetermined angle. . Furthermore, when the center line RC is a broken line or a curve, the control unit 20 may set an approximate curve of the center line RC as the reference line Z.

表示制御部21cは、前方画像において、基準線Zを中央の線とする推奨レーン部分を含む案内画像を前方画像に重畳してディスプレイ45に表示させる機能を制御部20に実行させるモジュールである。すなわち、制御部20は、前方画像において認識した推奨レーンの像に基づいて設定された基準線Zを推奨レーン部分の中央の線とする。具体的に、制御部20は、基準線Zに関して線対称となる推奨レーン部分を生成することにより、基準線Zを推奨レーン部分の幅方向の中央の線とする。推奨レーン部分の幅方向とは、基準線Zに直交する方向である。   The display control unit 21c is a module that causes the control unit 20 to execute a function of superimposing a guide image including a recommended lane portion with the reference line Z as a center line on the front image on the front image and displaying it on the display 45. That is, the control unit 20 sets the reference line Z set based on the recommended lane image recognized in the front image as the center line of the recommended lane portion. Specifically, the control unit 20 generates a recommended lane portion that is line-symmetric with respect to the reference line Z, thereby setting the reference line Z as a central line in the width direction of the recommended lane portion. The width direction of the recommended lane portion is a direction orthogonal to the reference line Z.

図3Aは、推奨レーン部分RLを含む案内画像が重畳された前方画像を示す図である。本実施形態の案内画像は、矢印形状の推奨レーン部分RLのみからなる。推奨レーン部分RLが示す矢印の頭部は三角形状であり、矢印の頭部の先端に対応する頂点が前方側端点FEとなる。制御部20は、推奨レーン部分RLの全体が前方画像における推奨レーンの像内に収まるように、推奨レーン部分RLの幅を設定する。具体的に、制御部20は、推奨レーン部分RLのうち、最も幅が広くなる矢印の頭部の下端(頭部の三角形の底辺)の幅に基づいて推奨レーン部分RLの幅を設定することとする。   FIG. 3A is a diagram illustrating a front image on which a guide image including a recommended lane portion RL is superimposed. The guide image of this embodiment consists of only the recommended lane portion RL having an arrow shape. The head of the arrow indicated by the recommended lane portion RL has a triangular shape, and the vertex corresponding to the tip of the head of the arrow is the front end point FE. The control unit 20 sets the width of the recommended lane portion RL so that the entire recommended lane portion RL falls within the recommended lane image in the front image. Specifically, the control unit 20 sets the width of the recommended lane portion RL based on the width of the lower end of the head of the arrow having the widest width (the base of the triangle of the head) among the recommended lane portions RL. And

すなわち、制御部20は、推奨レーン部分RLの矢印の頭部の下端が設定される直線HL(基準線Zに直交する破線)上において、推奨レーンの左右の区画線の像BLのそれぞれと基準線Zとの距離を特定し、当該特定した距離のうち小さい方の2倍以下となるように推奨レーン部分RLの矢印の頭部の下端の幅を設定する。なお、基準線Zと直線HLとの交点の前方側端点FEからの距離(矢印の頭部の高さ)は記録媒体30に記録されている。また、本実施形態において、基準線Z上における前方側端点FEからの距離ごとに、矢印の頭部の下端の幅に対する推奨レーン部分RLの幅の比率が記録媒体30に記録されていることとする。そして、制御部20は、基準線Z上における前方側端点FEからの距離に応じた比率を矢印の頭部の下端の幅に乗じることにより、基準線Z上の各位置について推奨レーン部分RLの幅を特定し、当該特定した幅を有する推奨レーン部分RLを生成する。推奨レーン部分RLを生成すると、表示制御部21cの機能により制御部20は、推奨レーン部分RLを前方画像に重畳してディスプレイ45に表示させる。   That is, the control unit 20 controls the reference BL and the left and right division line images BL of the recommended lane on the straight line HL (broken line orthogonal to the reference line Z) where the lower end of the head of the arrow of the recommended lane portion RL is set. The distance to the line Z is specified, and the width of the lower end of the head of the arrow of the recommended lane portion RL is set so that it is not more than twice the smaller one of the specified distances. The distance from the front end point FE (the height of the head of the arrow) at the intersection of the reference line Z and the straight line HL is recorded on the recording medium 30. In this embodiment, the ratio of the width of the recommended lane portion RL to the width of the lower end of the head of the arrow is recorded on the recording medium 30 for each distance from the front end point FE on the reference line Z. To do. Then, the control unit 20 multiplies the width corresponding to the distance from the front end point FE on the reference line Z by the width of the lower end of the head of the arrow, so that the recommended lane portion RL of each position on the reference line Z is obtained. A width is specified, and a recommended lane portion RL having the specified width is generated. When the recommended lane portion RL is generated, the control unit 20 causes the display 45 to display the recommended lane portion RL superimposed on the front image by the function of the display control unit 21c.

上述したように、表示制御部21cの機能により制御部20は、前方画像において認識した推奨レーンの像に基づいて設定された基準線Zを推奨レーン部分RLの中央の線とする。最新の前方画像が取得されるごとに推奨レーンの像を認識し、当該認識した推奨レーンの像に基づいて推奨レーン部分RLの基準線Zが設定されるため、前方画像における推奨レーンの像の変化に推奨レーン部分RLを追従させることができる。すなわち、前方画像において推奨レーンの像の位置や形状が変化しても、推奨レーンの像内に収まるように推奨レーン部分RLを前方画像に重畳できる。ただし、制御部20は、車両がレーンの幅方向に移動している場合には、前方画像において認識した推奨レーンの像に基づいて精度よく基準線Zを設定できないとして、上記の手法とは異なる手法により推奨レーン部分RLを生成する。   As described above, by the function of the display control unit 21c, the control unit 20 sets the reference line Z set based on the image of the recommended lane recognized in the front image as the center line of the recommended lane portion RL. Each time the latest front image is acquired, the image of the recommended lane is recognized, and the reference line Z of the recommended lane portion RL is set based on the recognized recommended lane image. The recommended lane portion RL can be made to follow the change. That is, even if the position or shape of the recommended lane image in the front image changes, the recommended lane portion RL can be superimposed on the front image so as to be within the recommended lane image. However, when the vehicle is moving in the width direction of the lane, the control unit 20 is different from the above method because the reference line Z cannot be accurately set based on the recommended lane image recognized in the front image. A recommended lane portion RL is generated by a technique.

表示制御部21cの機能により制御部20は、車両がレーンの幅方向の移動を開始した場合に、車両がレーンの幅方向の移動を開始した開始時刻において設定された基準線Z(開始基準線Z0)を、レーンの幅方向における車両の移動方向の反対方向に移動させた線(移動基準線ZT)を取得し、当該移動基準線ZTを中央の線とする推奨レーン部分RLを含む案内画像を前方画像に重畳してディスプレイ45に表示させる。すなわち、車両がレーンの幅方向の移動を開始した場合には、最新の前方画像にて認識した推奨レーンの像に基づく基準線Zではなく、車両がレーンの幅方向の移動を開始した開始時刻における開始基準線Z0を移動させた移動基準線ZTを中央の線とする推奨レーン部分RLを生成する。 By the function of the display control unit 21c, the control unit 20 causes the reference line Z (start reference line) set at the start time when the vehicle starts moving in the width direction of the lane when the vehicle starts moving in the width direction of the lane. Z 0 ) is acquired in a direction (movement reference line Z T ) obtained by moving Z 0 ) in the direction opposite to the moving direction of the vehicle in the width direction of the lane, and the recommended lane portion RL having the movement reference line Z T as the center line is obtained. The included guide image is superimposed on the front image and displayed on the display 45. That is, when the vehicle starts moving in the width direction of the lane, it is not the reference line Z based on the recommended lane image recognized in the latest front image, but the start time when the vehicle starts moving in the width direction of the lane The recommended lane portion RL is generated with the movement reference line Z T obtained by moving the start reference line Z 0 at the center as the center line.

表示制御部21cの機能により制御部20は、車両が走行している走行レーンの区画線と車両との位置関係に基づいて、車両がレーンの幅方向の移動を開始したか否かを判定する。具体的に、表示制御部21cの機能により制御部20は、車両が走行している走行レーンの区画線に対する車両の進行方向の傾きが閾値以上となった場合に、車両がレーンの幅方向の移動を開始したと判定する。図2Aは、走行レーンの区画線に対する車両の進行方向Fの傾き角Aが0°となり、車両がレーンの幅方向の移動を開始したと判定されない状態を示す。図2Aの場合、前方画像において推奨レーンの像を問題なく認識できるとして、図3Aのように推奨レーンの像に基づく基準線Zを中心の線とする推奨レーン部分RLをディスプレイ45に表示させる。図2B,2Cは、走行レーンの区画線に対する車両の進行方向Fの傾き角Aが閾値以上となり、車両がレーンの幅方向の移動を開始したと判定される状態を示す。図2Bでは右端の推奨レーンに接近するように車両が右方向に移動し、図2Cでは右端の推奨レーンから遠ざかるように車両が左方向に移動している。   Based on the function of the display control unit 21c, the control unit 20 determines whether or not the vehicle has started moving in the width direction of the lane based on the positional relationship between the lane markings of the traveling lane in which the vehicle is traveling and the vehicle. . Specifically, by the function of the display control unit 21c, the control unit 20 causes the vehicle to move in the width direction of the lane when the inclination of the traveling direction of the vehicle with respect to the lane marking of the traveling lane in which the vehicle is traveling is equal to or greater than a threshold. It is determined that the movement has started. FIG. 2A shows a state in which the inclination angle A of the traveling direction F of the vehicle with respect to the lane marking of the traveling lane is 0 °, and it is not determined that the vehicle has started moving in the width direction of the lane. In the case of FIG. 2A, assuming that the image of the recommended lane can be recognized without any problem in the front image, the recommended lane portion RL having the reference line Z based on the image of the recommended lane as the center line as shown in FIG. 2B and 2C show a state in which it is determined that the inclination angle A of the traveling direction F of the vehicle with respect to the lane marking of the traveling lane is equal to or greater than a threshold value and the vehicle has started moving in the width direction of the lane. In FIG. 2B, the vehicle moves rightward so as to approach the recommended lane on the right end, and in FIG. 2C, the vehicle moves leftward so as to move away from the recommended lane on the right end.

制御部20は、前方画像において認識した走行レーンの区画線の像BLの位置と方向、および、カメラ44の光学的な仕様(光軸方向、視野角、結像倍率等)に基づいて、走行レーンの区画線に対する車両の進行方向Fの傾き角Aを特定する。なお、車両の位置(カメラ44の位置)を示す前方画像の下辺の中点CCよりも左側において中点CCに最も近い区画線の像BLが走行レーンの左側の区画線の像BLであり、中点CCよりも右側において中点CCに最も近い区画線の像BLが走行レーンの右側の区画線の像BLである。本実施形態において、制御部20は、走行レーンの左右の区画線の像BLのうち、認識した際の信頼度(前回認識した区画線の像との類似度やエッジ量等)が大きい方の区画線の像BLに基づいて傾き角Aを特定する。さらに、制御部20は、傾き角Aが閾値以上となった期間が所定の基準期間よりも長く継続した場合に、車両がレーンの幅方向の移動を開始したと判定する。すなわち、傾き角Aが閾値以上となった期間が基準期間と等しくなる時刻が、車両がレーンの幅方向の移動を開始した開始時刻t0を意味する。 The controller 20 travels based on the position and direction of the lane marking line BL recognized in the front image and the optical specifications of the camera 44 (optical axis direction, viewing angle, imaging magnification, etc.). The inclination angle A of the traveling direction F of the vehicle with respect to the lane marking is specified. The lane marking image BL closest to the midpoint CC on the left side of the midpoint CC on the lower side of the front image indicating the position of the vehicle (the position of the camera 44) is the lane marking image BL on the left side of the travel lane. The lane marking image BL closest to the midpoint CC on the right side of the midpoint CC is the lane marking image BL on the right side of the travel lane. In the present embodiment, the control unit 20 has a higher reliability (recognition degree, edge amount, etc. with the previously recognized lane marking image) among the left and right lane marking images BL of the traveling lane. The inclination angle A is specified based on the image line lane marking BL. Furthermore, the control unit 20 determines that the vehicle has started moving in the width direction of the lane when the period in which the inclination angle A is equal to or greater than the threshold value continues longer than the predetermined reference period. That is, the time when the period in which the inclination angle A is equal to or greater than the threshold is equal to the reference period means the start time t 0 when the vehicle starts moving in the width direction of the lane.

閾値と基準期間は、記録媒体30に記録されている。本実施形態において、閾値は、レーン変更をすることなく単一のレーン上を車両が走行する場合の傾き角Aの上限値であり、実験に基づいて設定されている。基準期間は、傾き角Aが閾値と等しくなってから車両が走行レーンの区画線を跨ぐまでの平均的な期間であり、実験に基づいて設定されている。なお、レーンの幅が大きいほど、レーン変更をすることなく単一のレーン上を車両が走行する場合の傾き角Aが大きくなり得る。従って、レーンの幅が大きいほど、傾き角Aを大きく設定してもよい。また、レーンの幅が大きいほど、走行レーンの区画線を跨ぐまでの期間が長くなる。従って、レーンの幅が大きいほど、基準期間を長く設定してもよい。また、車速が大きいほど、走行レーンの区画線を跨ぐまでの期間が短くなる。従って、車速が大きいほど、基準期間を短く設定してもよい。さらに、制御部20は、必ずしも走行レーンの区画線の像BLに基づいて傾き角Aを特定しなくてもよく、前方画像において認識した走行道路のレーンの像のうち、線認識における信頼度が最も大きい区画線の像BLに基づいて傾き角Aを特定してもよい。また、制御部20は、ジャイロセンサ43からの出力信号や車両の操舵角を検知するステアリングセンサからの出力信号に基づいて傾き角Aを特定してもよい。また、制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0において基準線Zを設定し、当該設定した基準線Zを開始基準線Z0として記録媒体30に記録する。さらに、車両がレーンの幅方向の移動を開始した開始時刻t0において前方画像に重畳した推奨レーン部分RLの形状(幅)を記録媒体30に記録する。 The threshold value and the reference period are recorded on the recording medium 30. In the present embodiment, the threshold value is an upper limit value of the inclination angle A when the vehicle travels on a single lane without changing the lane, and is set based on experiments. The reference period is an average period from when the inclination angle A becomes equal to the threshold value until the vehicle crosses the lane marking of the travel lane, and is set based on experiments. Note that the greater the lane width, the greater the inclination angle A when the vehicle travels on a single lane without changing the lane. Therefore, the inclination angle A may be set larger as the lane width is larger. In addition, the longer the lane width, the longer the period until it crosses the lane marking of the traveling lane. Therefore, the reference period may be set longer as the lane width is larger. In addition, the longer the vehicle speed, the shorter the period until the lane line of the travel lane is crossed. Therefore, the reference period may be set shorter as the vehicle speed increases. Further, the control unit 20 does not necessarily specify the inclination angle A based on the lane marking line BL of the travel lane. Among the travel road lane images recognized in the front image, the reliability in the line recognition is high. The tilt angle A may be specified based on the image BL of the largest marking line. The control unit 20 may specify the tilt angle A based on the output signal from the gyro sensor 43 or the output signal from the steering sensor that detects the steering angle of the vehicle. Further, the control unit 20 sets the reference line Z at the start time t 0 when the vehicle starts moving in the width direction of the lane, and records the set reference line Z on the recording medium 30 as the start reference line Z 0 . Further, the shape (width) of the recommended lane portion RL superimposed on the front image is recorded on the recording medium 30 at the start time t 0 when the vehicle starts moving in the width direction of the lane.

表示制御部21cの機能により制御部20は、車両がレーンの幅方向の移動を開始した場合に、開始基準線Z0をレーンの幅方向における車両の移動方向の反対方向に移動させた移動基準線ZTを取得し、当該移動基準線ZTを中央の線とする推奨レーン部分RLを含む案内画像を前方画像に重畳してディスプレイ45に表示させる。制御部20は、走行レーンの区画線の像BLの方向に対して車両の進行方向Fが右方向に傾いている場合(図2B)には、レーンの幅方向における車両の移動方向が右方向であると特定する。同様に、制御部20は、走行レーンの区画線の像BLの方向に対して車両の進行方向Fが左方向に傾いている場合(図2C)には、レーンの幅方向における車両の移動方向が左方向であると特定する。 Control unit 20 of the function of the display control unit 21c, when the vehicle starts to move in the width direction of the lane, moving the reference moving the start reference line Z 0 in the direction opposite to the direction of the movement of the vehicle in the width direction of the lane The line Z T is acquired, and the guide image including the recommended lane portion RL having the movement reference line Z T as the center line is superimposed on the front image and displayed on the display 45. When the traveling direction F of the vehicle is tilted to the right with respect to the direction of the lane marking image BL of the traveling lane (FIG. 2B), the controller 20 moves the vehicle in the lane width direction to the right. To be identified. Similarly, when the traveling direction F of the vehicle is tilted to the left with respect to the direction of the lane marking image BL of the travel lane (FIG. 2C), the control unit 20 moves the vehicle in the lane width direction. Is the left direction.

制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0から経過期間tを取得し、当該経過期間tが長いほど大きくなる移動量X(t)を取得する。そして、制御部20は、開始基準線Z0をレーンの幅方向における車両の移動方向の反対方向(前方画像の横方向)に移動量X(t)だけ平行移動させた移動基準線ZTを取得する。図3B,3Cは、図2B,図2Cの場合おいて取得される移動基準線ZTを示す図である。図2Bのように車両が右方向に移動すると開始基準線Z0(破線)に対して左方向に移動した移動基準線ZT(実線)が取得され(図3B)、図2Cのように車両が左方向に移動すると開始基準線Z0(破線)に対して右方向に移動した移動基準線ZTが取得される(図3C)。 The control unit 20 acquires the elapsed period t from the start time t 0 when the vehicle starts moving in the width direction of the lane, and acquires the movement amount X (t) that increases as the elapsed period t increases. Then, the control unit 20 translates the movement reference line Z T obtained by translating the start reference line Z 0 by the movement amount X (t) in the direction opposite to the vehicle movement direction in the width direction of the lane (lateral direction of the front image). get. 3B and 3C are diagrams showing the movement reference line Z T acquired in the case of FIGS. 2B and 2C. When the vehicle moves to the right as shown in FIG. 2B, a movement reference line Z T (solid line) moved to the left with respect to the start reference line Z 0 (broken line) is acquired (FIG. 3B), and the vehicle as shown in FIG. 2C. Is moved in the left direction, a movement reference line Z T moved in the right direction with respect to the start reference line Z 0 (broken line) is acquired (FIG. 3C).

図3Dは、経過期間tと移動量X(t)との関係を示すグラフである。図3Dにおいて実線で示すように、経過期間tが長くなるほど移動量X(t)が線形的に大きくなる。例えば、移動量X(t)は、経過期間tごとに撮影された前方画像における推奨レーンの像の横方向の移動量を調査することにより設定される。なお、移動量X(t)は、経過期間tごとに記録媒体30に記録されている。   FIG. 3D is a graph showing the relationship between the elapsed period t and the movement amount X (t). As indicated by a solid line in FIG. 3D, the movement amount X (t) increases linearly as the elapsed period t increases. For example, the moving amount X (t) is set by investigating the moving amount in the horizontal direction of the image of the recommended lane in the forward image taken every elapsed period t. The movement amount X (t) is recorded on the recording medium 30 for each elapsed period t.

表示制御部21cの機能により制御部20は、レーンの幅方向における車両の移動方向の反対方向に移動量X(t)だけ開始基準線Z0を移動させた移動基準線ZTを中央の線とする推奨レーン部分RLを生成する。制御部20は、移動基準線ZTに関して線対称となる推奨レーン部分RLを生成することにより、移動基準線ZTを幅方向の中央の線となる推奨レーン部分RLを生成する。 Control unit 20 of the function of the display control unit 21c, the movement reference line Z T moving the moving amount X (t) only start reference line Z 0 in the direction opposite to the direction of the movement of the vehicle in the width direction of the lane center line The recommended lane portion RL is generated. Control unit 20, by generating a recommended lane portion RL which is line symmetrical with respect to the moving reference line Z T, to produce a recommended lane portion RL to the moving reference line Z T a middle line in the width direction.

具体的に、表示制御部21cの機能により制御部20は、車両がレーンの幅方向の移動を開始した場合に、車両がレーンの幅方向の移動を開始した開始時刻t0における推奨レーン部分RLの幅と同一の幅に維持された推奨レーン部分RLを含む案内画像を前方画像に重畳してディスプレイ45に表示させる。制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0において前方画像に重畳した推奨レーン部分RLの形状(幅)を記録媒体30から取得し、当該開始時刻t0における推奨レーン部分RLと同一形状(幅)の推奨レーン部分RLを生成する。すなわち、制御部20は、推奨レーン部分RLを幅方向に二等分する二等分線(中央の線)が移動基準線ZTと一致するように、開始時刻t0における推奨レーン部分RLを移動量X(t)だけ前方画像の横方向に平行移動させる。推奨レーン部分RLを生成すると、表示制御部21cの機能により制御部20は、推奨レーン部分RLを前方画像に重畳してディスプレイ45に表示させる。図3B,3Cに示すように、開始基準線Z0(破線)に対して移動量X(t)だけ横方向に平行移動した移動基準線ZT(実線)を中央の線とする推奨レーン部分RLが前方画像に重畳されている。 Specifically, the control unit 20 of the function of the display control unit 21c, when the vehicle starts to move in the width direction of the lane, the recommended lane portion RL at start time t 0 when the vehicle starts to move in the width direction of the lane A guide image including the recommended lane portion RL maintained at the same width as the width of the image is superimposed on the front image and displayed on the display 45. The control unit 20 obtains the shape (width) of the recommended lane portion RL superimposed on the front image from the recording medium 30 at the start time t 0 when the vehicle starts moving in the width direction of the lane, and recommends it at the start time t 0 . A recommended lane portion RL having the same shape (width) as the lane portion RL is generated. That is, the control unit 20 determines the recommended lane portion RL at the start time t 0 so that the bisector (center line) that bisects the recommended lane portion RL in the width direction matches the movement reference line Z T. The translation is performed in the horizontal direction of the front image by the movement amount X (t). When the recommended lane portion RL is generated, the control unit 20 causes the display 45 to display the recommended lane portion RL superimposed on the front image by the function of the display control unit 21c. As shown in FIGS. 3B and 3C, a recommended lane portion having a movement reference line Z T (solid line) translated in the horizontal direction by a movement amount X (t) with respect to the start reference line Z 0 (dashed line) as a center line. RL is superimposed on the front image.

車両がレーンの幅方向に移動した場合に、前方画像において推奨レーンの像はレーンの幅方向における車両の移動方向と反対方向に移動する。従って、車両がレーンの幅方向の移動を開始した開始時刻t0における開始基準線Z0をレーンの幅方向における車両の移動方向の反対方向に移動させた移動基準線ZTを中央の線とする推奨レーン部分RLを前方画像に重畳することにより、前方画像における推奨レーンの像の移動に追従するように推奨レーン部分RLを表示させることができる。また、車両がレーンの幅方向の移動を開始した開始時刻t0よりも後における推奨レーンの像の認識結果とは無関係に移動基準線ZTを設定できる。従って、車両がレーンの幅方向の移動を開始した後において、推奨レーンの像の認識精度が悪化していたり、推奨レーンの像の認識が遅延したりしていても、前方画像における推奨レーンの像の移動に追従するように推奨レーン部分RLを表示させることができる。例えば、認識精度が悪い推奨レーンの像に基づいて設定された基準線Zを中央の線とする推奨レーン部分RLが他のレーンの像上に重畳され、運転者が推奨レーンを誤認することが防止できる。また、推奨レーンの像が認識できない場合でも、前方画像における推奨レーンの像の移動に追従するように推奨レーン部分RLを表示させることができる。 When the vehicle moves in the width direction of the lane, the recommended lane image in the front image moves in the direction opposite to the moving direction of the vehicle in the width direction of the lane. Accordingly, the movement reference line Z T obtained by moving the start reference line Z 0 at the start time t 0 when the vehicle starts moving in the width direction of the lane in the direction opposite to the movement direction of the vehicle in the width direction of the lane is defined as the center line. The recommended lane portion RL can be displayed so as to follow the movement of the recommended lane image in the front image by superimposing the recommended lane portion RL to be performed on the front image. In addition, the movement reference line Z T can be set regardless of the recognition result of the recommended lane image after the start time t 0 when the vehicle starts moving in the width direction of the lane. Therefore, after the vehicle starts moving in the width direction of the lane, even if the recognition accuracy of the image of the recommended lane deteriorates or the recognition of the image of the recommended lane is delayed, the recommended lane in the front image The recommended lane portion RL can be displayed so as to follow the movement of the image. For example, a recommended lane portion RL having a reference line Z set based on an image of a recommended lane with poor recognition accuracy as a central line is superimposed on the image of another lane, and the driver may misidentify the recommended lane. Can be prevented. Further, even when the recommended lane image cannot be recognized, the recommended lane portion RL can be displayed so as to follow the movement of the recommended lane image in the front image.

ここで、車両がレーン変更を開始した開始時刻t0からの経過期間tが長くなるほど、レーンの幅方向の移動方向において車両が移動した累積の距離が長くなる。従って、車両がレーンの幅方向の移動を開始した開始時刻t0からの経過期間tが長くなるほど、開始基準線Z0を大きく移動させた線を移動基準線ZTとすることにより、当該開始時刻t0から推奨レーンの像が左右方向に移動した累積の距離に相応する距離だけ推奨レーン部分RLを移動させることができる。 Here, the longer the elapsed period t from the start time t 0 when the vehicle starts to change lanes, the longer the cumulative distance that the vehicle has moved in the direction of movement in the width direction of the lane. Therefore, the longer the elapsed time t from the start time t 0 when the vehicle starts moving in the width direction of the lane, the longer the start reference line Z 0 is moved, and the start reference line Z T is set as the movement reference line Z T. The recommended lane portion RL can be moved by a distance corresponding to the cumulative distance that the recommended lane image has moved in the left-right direction from time t 0 .

さらに、制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0よりも後において、当該開始時刻t0における推奨レーン部分RLの幅と同一の幅に維持された推奨レーン部分RLを生成する。これにより、同一の推奨レーンが継続して案内されているような印象を与えることができる。 Further, the control unit 20 recommends the recommended lane portion maintained at the same width as the width of the recommended lane portion RL at the start time t 0 after the start time t 0 at which the vehicle starts moving in the lane width direction. Generate RL. Thereby, the impression that the same recommended lane is continuously guided can be given.

制御部20は、車両が走行している走行レーンの区画線に対する車両の進行方向の傾きAが閾値以上となった場合に、車両がレーンの幅方向の移動を開始したと判定する。車両の進行方向がレーンの方向に対して大きく傾いた場合、前方画像における推奨レーンの像の方向が変動するため、推奨レーンの像の認識が困難となる。従って、推奨レーンの像の認識が困難な状況において、推奨レーンの像の認識とは無関係に推奨レーン部分RLを生成する状態へと切り替えることができる。   The control unit 20 determines that the vehicle has started moving in the width direction of the lane when the inclination A in the traveling direction of the vehicle with respect to the lane marking of the traveling lane in which the vehicle is traveling is equal to or greater than a threshold value. When the traveling direction of the vehicle is greatly inclined with respect to the lane direction, the direction of the recommended lane image in the front image varies, and it is difficult to recognize the recommended lane image. Therefore, in a situation where it is difficult to recognize the recommended lane image, it is possible to switch to a state in which the recommended lane portion RL is generated regardless of the recognition of the recommended lane image.

(2)推奨レーン案内処理:
図4は推奨レーン案内処理のフローチャートである。推奨レーン案内処理は、制御部20が所定の時間周期または走行距離周期で前方画像を取得するごとに実行するループ処理である。推奨レーン取得部21aの機能により制御部20は、走行道路が含むレーンのうち、直近交差点にて走行予定経路上の退出道路へと退出できるレーンを推奨レーンとして取得していることとする。
(2) Recommended lane guidance processing:
FIG. 4 is a flowchart of recommended lane guidance processing. The recommended lane guidance process is a loop process that is executed each time the control unit 20 acquires a front image at a predetermined time period or a travel distance period. With the function of the recommended lane acquisition unit 21a, the control unit 20 acquires, as recommended lanes, lanes that can exit to the exit road on the planned travel route at the nearest intersection among the lanes included in the travel road.

まず、制御部20は、カメラ44にて撮影された前方画像を取得する(ステップS100)。次に、表示制御部21cの機能により制御部20は、車両がレーンの幅方向に移動中であるか否かを判定する(ステップS105)。すなわち、制御部20は、前方画像における推奨レーンの像の認識が困難となっているか否かを判定する。具体的に、制御部20は、車両が走行している走行レーンの区画線に対する車両の進行方向Fの傾き角Aが閾値以上となった期間が所定の基準期間よりも長く継続した場合に、車両がレーンの幅方向に移動中であると判定する(図2A〜図2C)。なお、車両がレーンの幅方向に移動中であるとは、車両がレーンの幅方向の移動を開始した後、かつ、車両がレーンの幅方向の移動を終了する前であることを意味する。なお、制御部20は、傾き角Aが閾値以上となった期間が基準期間と等しくなった時刻を、車両がレーンの幅方向の移動を開始した開始時刻t0として特定する。また、制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0において、車両がレーンの幅方向に移動中であるとは判定しない。 First, the control unit 20 acquires a front image captured by the camera 44 (step S100). Next, the control unit 20 determines whether or not the vehicle is moving in the width direction of the lane by the function of the display control unit 21c (step S105). That is, the control unit 20 determines whether it is difficult to recognize the recommended lane image in the front image. Specifically, when the period when the inclination angle A of the traveling direction F of the vehicle with respect to the lane marking of the travel lane in which the vehicle is traveling is equal to or greater than a threshold value continues longer than a predetermined reference period, It is determined that the vehicle is moving in the width direction of the lane (FIGS. 2A to 2C). Note that the vehicle moving in the width direction of the lane means that the vehicle has started moving in the width direction of the lane and before the vehicle has finished moving in the width direction of the lane. The control unit 20 specifies the time when the period in which the inclination angle A is equal to or greater than the threshold becomes equal to the reference period as the start time t 0 when the vehicle starts moving in the width direction of the lane. Further, the control unit 20 does not determine that the vehicle is moving in the width direction of the lane at the start time t 0 when the vehicle starts moving in the width direction of the lane.

車両がレーンの幅方向に移動中であると判定されなかった場合(ステップS105:N)、基準線設定部21bの機能により制御部20は、前方画像において推奨レーンの像を認識する(ステップS110)。すなわち、前方画像における推奨レーンの像の認識が困難となっていない場合に、前方画像において推奨レーンの像を認識する。具体的に、制御部20は、レーンの区画線の像BLに挟まれたレーンの像のうち、前方画像の左側から数えた順序が推奨レーンのレーン番号と一致するレーンの像を推奨レーンの像として認識する。   When it is not determined that the vehicle is moving in the width direction of the lane (step S105: N), the control unit 20 recognizes the image of the recommended lane in the front image by the function of the reference line setting unit 21b (step S110). ). That is, when it is not difficult to recognize the recommended lane image in the front image, the recommended lane image is recognized in the front image. Specifically, the control unit 20 selects a lane image whose order counted from the left side of the front image matches the lane number of the recommended lane among the lane images sandwiched between the lane markings BL. Recognize as an image.

次に、基準線設定部21bの機能により制御部20は、推奨レーンの像に沿った基準線Zを設定する(ステップS115)。すなわち、制御部20は、実空間における推奨レーンの幅方向の中央位置を示す線に対応する基準線Zを推奨レーンの像内において設定する。具体的に、制御部20は、中央線RC上、かつ、前方画像の縦方向における高さH1,H2(<H1)の位置にそれぞれ前方側端点FEと後方側端点BEとを設定し、前方側端点FEと後方側端点BEとを接続する中央線RC上の直線を基準線Zとして設定する(図2D)。 Next, the control unit 20 sets the reference line Z along the recommended lane image by the function of the reference line setting unit 21b (step S115). That is, the control unit 20 sets a reference line Z corresponding to a line indicating the center position in the width direction of the recommended lane in the real space in the image of the recommended lane. Specifically, the control unit 20 sets the front end point FE and the rear end point BE at positions of heights H 1 and H 2 (<H 1 ) in the vertical direction of the front image on the center line RC, respectively. Then, a straight line on the center line RC connecting the front end point FE and the rear end point BE is set as the reference line Z (FIG. 2D).

そして、表示制御部21cの機能により制御部20は、基準線Zを中央の線とする推奨レーン部分RLを生成する(ステップS120)。すなわち、制御部20は、前方画像における推奨レーンの像の認識が困難となっていない場合に、認識した推奨レーンの像に基づく基準線Zを基準として推奨レーン部分RLを生成するように設定する。具体的に、制御部20は、基準線Zに関して線対称となる推奨レーン部分RLを生成する。   And the control part 20 produces | generates the recommendation lane part RL which makes the reference line Z the center line by the function of the display control part 21c (step S120). In other words, the control unit 20 performs setting so that the recommended lane portion RL is generated based on the reference line Z based on the recognized recommended lane image when it is not difficult to recognize the recommended lane image in the front image. . Specifically, the control unit 20 generates a recommended lane portion RL that is line-symmetric with respect to the reference line Z.

本実施形態において、表示制御部21cの機能により制御部20は、推奨レーンの像内に収まる推奨レーン部分RLを生成する。すなわち、前方画像における推奨レーンの像の認識が困難となっていない場合に、認識した推奨レーンの像に収まるように推奨レーン部分RLの幅を設定する。具体的に、制御部20は、推奨レーン部分RLのうち矢印の頭部の下端が設定される直線HL上(図3A)において、推奨レーンの左右の区画線の像BLのそれぞれと基準線Zとの距離を特定し、当該特定した距離のうち小さい方の2倍以下となるように推奨レーン部分RLの矢印の頭部の下端の幅を設定する。そして、制御部20は、以上のように設定した幅を有し、かつ、基準線Zに関して線対称となる推奨レーン部分RLを生成する。なお、表示制御部21cの機能により制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0である場合(傾き角Aが閾値以上となった期間が基準期間と等しかった場合)には、ステップS115にて設定した基準線Zを開始基準線Z0として記録媒体30に記録するとともに、ステップS120にて生成した推奨レーン部分RLの形状(幅)を記録媒体30に記録しておく。 In the present embodiment, the control unit 20 generates a recommended lane portion RL that falls within the recommended lane image by the function of the display control unit 21c. That is, when the recognition of the recommended lane image in the front image is not difficult, the width of the recommended lane portion RL is set so as to fit in the recognized recommended lane image. Specifically, on the straight line HL (FIG. 3A) on which the lower end of the head of the arrow is set in the recommended lane portion RL, the control unit 20 and the reference line Z And the width of the lower end of the head of the arrow of the recommended lane portion RL is set so as to be equal to or less than twice the smaller one of the specified distances. Then, the control unit 20 generates a recommended lane portion RL having the width set as described above and being line symmetric with respect to the reference line Z. The control unit 20 of the function of the display control unit 21c, when the vehicle if a starting time t 0 which starts moving in the width direction of the lane (period inclination angle A is equal to or greater than the threshold value was equal to the reference period the), and records on the recording medium 30 to the reference line Z is set as the start reference line Z 0 at step S115, the recording and the shape of the recommended lane portion RL generated in step S120 (width) on the recording medium 30 Keep it.

次に、表示制御部21cの機能により制御部20は、推奨レーン部分RLを前方画像に重畳してディスプレイ45に表示させる(ステップS160)。以上の処理(ステップS110〜S120,S160)によって、図2Aに示すように車両が走行レーンに沿って走行する場合には、推奨レーンの像に収まるように推奨レーン部分RLを前方画像に重畳することができる(図3A)。前方画像における推奨レーンの像の認識が困難となっていないため、認識した推奨レーンの像に基づいて、推奨レーンの像に収まるように推奨レーン部分RLを前方画像に重畳できる。   Next, by the function of the display control unit 21c, the control unit 20 causes the recommended lane portion RL to be superimposed on the front image and displayed on the display 45 (step S160). With the above processing (steps S110 to S120, S160), when the vehicle travels along the travel lane as shown in FIG. 2A, the recommended lane portion RL is superimposed on the front image so as to fit within the recommended lane image. (FIG. 3A). Since it is not difficult to recognize the recommended lane image in the front image, the recommended lane portion RL can be superimposed on the front image so as to fit in the recommended lane image based on the recognized recommended lane image.

一方、車両がレーンの幅方向に移動中であると判定された場合(ステップS105:Y)、基準線設定部21bの機能により制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0からの経過期間tに基づいて移動量X(t)を取得する(ステップS130)。すなわち、制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0からの経過期間tを取得し、当該経過期間tが長いほど長くなる移動量X(t)を取得する(図3D)。次に、表示制御部21cの機能により制御部20は、レーンの幅方向における車両の移動方向が左方向と右方向とのいずれであるかを判定する(ステップS135)。具体的に、制御部20は、走行レーンの区画線に対して車両の進行方向Fが傾いている方向をレーンの幅方向における車両の移動方向として特定し、当該特定した移動方向が左方向と右方向とのいずれであるかを判定する。 On the other hand, when it is determined that the vehicle is moving in the width direction of the lane (step S105: Y), the control unit 20 starts the movement of the vehicle in the width direction of the lane by the function of the reference line setting unit 21b. The movement amount X (t) is acquired based on the elapsed period t from time t 0 (step S130). That is, the control unit 20 acquires the elapsed period t from the start time t 0 when the vehicle starts moving in the width direction of the lane, and acquires the movement amount X (t) that increases as the elapsed period t increases ( FIG. 3D). Next, by the function of the display control unit 21c, the control unit 20 determines whether the moving direction of the vehicle in the width direction of the lane is the left direction or the right direction (step S135). Specifically, the control unit 20 specifies the direction in which the traveling direction F of the vehicle is inclined with respect to the lane marking of the traveling lane as the moving direction of the vehicle in the width direction of the lane, and the specified moving direction is the left direction. It is determined whether the direction is the right direction.

レーンの幅方向における車両の移動方向が左方向であると判定された場合(ステップS135:左)、基準線設定部21bの機能により制御部20は、開始基準線Z0を右方向に移動させた移動基準線ZTを設定する(ステップS140)。具体的に、制御部20は、記録媒体30に記録されている開始基準線Z0を、経過期間tに応じた移動量X(t)だけ右方向に移動させた線を取得し、当該取得した線を移動基準線ZTとして設定する If the moving direction of the vehicle in the width direction of the lane is determined to be the left direction (step S135: left), the control unit 20 by the function of the reference line setting unit 21b moves the start reference line Z 0 to the right The movement reference line Z T is set (step S140). Specifically, the control unit 20 acquires a line obtained by moving the start reference line Z 0 recorded on the recording medium 30 to the right by the movement amount X (t) corresponding to the elapsed period t, and acquires the line. Set the stroke line as the movement reference line Z T

一方、レーンの幅方向における車両の移動方向が右方向であると判定された場合(ステップS135:右)、基準線設定部21bの機能により制御部20は、開始基準線Z0を左方向に移動させた移動基準線ZTを設定する(ステップS145)。具体的に、制御部20は、記録媒体30に記録されている開始基準線Z0を、経過期間tに応じた移動量X(t)だけ左方向に移動させた線を取得し、当該取得した線を移動基準線ZTとして設定する On the other hand, when the moving direction of the vehicle in the width direction of the lane is determined to be the right direction (step S135: right), the control unit 20 by the function of the reference line setting unit 21b, a start reference line Z 0 to the left The moved movement reference line Z T is set (step S145). Specifically, the control unit 20 acquires a line obtained by moving the start reference line Z 0 recorded on the recording medium 30 leftward by the movement amount X (t) corresponding to the elapsed period t, and acquires the line. Set the stroke line as the movement reference line Z T

次に、表示制御部21cの機能により制御部20は、移動基準線ZTを中央の線とする推奨レーン部分RLを生成する(ステップS150)。すなわち、制御部20は、移動基準線ZTに関して線対称となる推奨レーン部分RLを生成する。具体的に、表示制御部21cの機能により制御部20は、開始時刻t0における推奨レーン部分RLの形状(幅)を記録媒体30から取得し、開始時刻t0における推奨レーン部分RLと同一形状(幅)の推奨レーン部分RLを生成する。すなわち、制御部20は、推奨レーン部分RLを幅方向に二等分する二等分線(中央の線)が移動基準線ZTと一致するように、開始時刻t0における推奨レーン部分RLを移動量X(t)だけ前方画像の横方向に平行移動させる。そして、表示制御部21cの機能により制御部20は、推奨レーン部分RLを含む案内画像を前方画像に重畳してディスプレイ45に表示させる(ステップS160)。以上の処理(ステップS130〜S160)によって、図3B,3Cに示すように、前方画像において推奨レーンの像が横方向に移動するのに追従するように、推奨レーン部分RLを前方画像に重畳することができる。なお、レーン変更がある程度進行すると、レーンの区画線に対する車両の進行方向Fの傾き角Aは再び閾値以下となる。この場合、ステップS105において、レーンの幅方向に移動中でないと判定され、ステップS110にて認識した推奨レーンの像に基づく基準線Zを基準に推奨レーン部分RLが生成される状態に復帰する。 Next, the control unit 20 of the function of the display control unit 21c generates the recommended lane part RL of the moving reference line Z T and the center line (step S150). That is, the control unit 20 generates a recommended lane portion RL that is line symmetric with respect to the movement reference line Z T. Specifically, the control unit 20 of the function of the display control unit 21c, starting the recommended lane portion RL shape at time t 0 (width) obtained from the recording medium 30, the recommended lane portion RL having the same shape at the start time t 0 A (lane) recommended lane portion RL is generated. That is, the control unit 20 determines the recommended lane portion RL at the start time t 0 so that the bisector (center line) that bisects the recommended lane portion RL in the width direction matches the movement reference line Z T. The translation is performed in the horizontal direction of the front image by the movement amount X (t). Then, by the function of the display control unit 21c, the control unit 20 causes the display 45 to display a guide image including the recommended lane portion RL superimposed on the front image (step S160). With the above processing (steps S130 to S160), as shown in FIGS. 3B and 3C, the recommended lane portion RL is superimposed on the front image so as to follow the image of the recommended lane moving in the horizontal direction in the front image. be able to. When the lane change progresses to some extent, the inclination angle A of the traveling direction F of the vehicle with respect to the lane marking is again equal to or less than the threshold value. In this case, in step S105, it is determined that the vehicle is not moving in the width direction of the lane, and the state returns to the state in which the recommended lane portion RL is generated based on the reference line Z based on the recommended lane image recognized in step S110.

(3)他の実施形態:
制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0から車両がレーンの幅方向に移動した距離に対応した移動量X(t)を設定すればよく、当該開始時刻t0からの経過期間tと移動量X(t)との関係は図3Dの実線で示す関係に限定されない。走行レーンの区画線に対する車両の進行方向の傾き角Aや車速が大きいほど、車両がレーンの幅方向に移動する距離が大きくなるため、傾き角Aや車速が大きいほど移動量X(t)が増加する傾きを大きくしてもよい。また、レーン変更を行う場合、傾き角Aは、車両がレーンの幅方向の移動を開始した開始時刻t0から徐々に増加し、ある時刻tCにて極大値をとり、その後、徐々に減少していく。そのため、図3Dにおいて破線で示すように、傾き角Aが極大値となる時刻tCにおいて傾きが減少に転じる変曲点を有する非線形関数によって移動量X(t)が表されてもよい。なお、傾き角Aが極大値となる時刻tCは、運転者のステアリング操作を調査することにより得ることができる。また、カメラ44に近い物体の像ほど前方画像において大きく結像されるため、推奨レーンがカメラ44に近いほど移動量X(t)の傾きを大きくしてもよい。
(3) Other embodiments:
The control unit 20 may set the movement amount X (t) corresponding to the distance that the vehicle has moved in the width direction of the lane from the start time t 0 at which the vehicle has started moving in the width direction of the lane. The relationship between the elapsed period t from 0 and the movement amount X (t) is not limited to the relationship indicated by the solid line in FIG. 3D. The greater the inclination angle A in the traveling direction of the vehicle and the vehicle speed with respect to the lane marking of the travel lane, the greater the distance that the vehicle moves in the width direction of the lane. The increasing slope may be increased. When the lane is changed, the inclination angle A gradually increases from the start time t 0 when the vehicle starts moving in the width direction of the lane, takes a maximum value at a certain time t C and then gradually decreases. I will do it. Therefore, as indicated by a broken line in FIG. 3D, the movement amount X (t) may be represented by a nonlinear function having an inflection point at which the inclination turns to decrease at the time t C when the inclination angle A reaches a maximum value. The time t C at which the inclination angle A reaches the maximum value can be obtained by investigating the driver's steering operation. Further, since an object image closer to the camera 44 is formed larger in the front image, the inclination of the movement amount X (t) may be increased as the recommended lane is closer to the camera 44.

制御部20は、車両がレーンの幅方向において推奨レーンに接近する方向に移動を開始した場合に、開始基準線Z0を、前方画像の縦方向の線に対する平行度が大きくなるように回転させた移動基準線ZTを取得し、当該移動基準線ZTを中央の線とする推奨レーン部分RLを生成してもよい。車両の進行方向Fに対して推奨レーンの方向が平行である場合、レーンの幅方向において推奨レーンが車両に近くなるほど、推奨レーンの像は前方風景の縦方向の線に対して平行に近づくように回転する。最終的に、車両が推奨レーン上を走行する状態となった場合、推奨レーンの像は、前方風景の縦方向の像となる。図2A,2Dは、車両が左端のレーンから数えたレーン番号が2番目の走行レーンを走行する状態を示すが、4番目(右端)のレーンの像よりも幅方向において車両に近い3番目のレーンの像の方が前方画像の縦方向の線に対して平行に近くなる。同様に、3番目のレーンの像よりも2番目の走行レーンの像の方が前方画像の縦方向の線に対して平行に近くなる。従って、車両がレーンの幅方向において推奨レーンに接近する方向に移動を開始した場合に、開始基準線Z0を、前方画像の縦方向の線に対する平行度が大きくなるように回転させた移動基準線ZTを推奨レーン部分RLの中央の線とすることにより、推奨レーンの像の回転に追従するように推奨レーン部分RLを表示させることができる。
反対に、車両がレーンの幅方向において推奨レーンから遠ざかる方向に移動を開始した場合に、開始基準線Z0を、前方画像の横方向の線に対する平行度が大きくなるように回転させた移動基準線ZTを取得し、当該移動基準線ZTを中央の線とする推奨レーン部分RLを生成してもよい。車両の進行方向Fに対して推奨レーンが平行である場合、レーンの幅方向において推奨レーンが車両から遠ざかるほど、推奨レーンの像は前方画像の横方向の線に対して平行に近づくように回転するからである。
When the vehicle starts moving in the direction of approaching the recommended lane in the width direction of the lane, the control unit 20 rotates the start reference line Z 0 so that the parallelism with respect to the vertical line of the front image increases. The movement reference line Z T may be acquired, and a recommended lane portion RL having the movement reference line Z T as a central line may be generated. When the direction of the recommended lane is parallel to the traveling direction F of the vehicle, the closer the recommended lane is to the vehicle in the width direction of the lane, the closer the image of the recommended lane approaches to the vertical line of the front landscape. Rotate to. When the vehicle finally travels on the recommended lane, the image of the recommended lane is a vertical image of the front landscape. 2A and 2D show a state in which the vehicle travels on the second traveling lane with the lane number counted from the leftmost lane, but the third closer to the vehicle in the width direction than the image of the fourth (rightmost) lane. The lane image is closer to being parallel to the vertical line of the front image. Similarly, the image of the second traveling lane is closer to the vertical line of the front image than the image of the third lane. Therefore, when the vehicle starts moving in the direction of approaching the recommended lane in the width direction of the lane, the movement reference is obtained by rotating the start reference line Z 0 so that the parallelism with the vertical line of the front image is increased. By setting the line Z T as the center line of the recommended lane portion RL, the recommended lane portion RL can be displayed so as to follow the rotation of the image of the recommended lane.
On the other hand, when the vehicle starts to move away from the recommended lane in the width direction of the lane, the movement reference is obtained by rotating the start reference line Z 0 so that the parallelism with respect to the horizontal line of the front image is increased. The line Z T may be acquired, and the recommended lane portion RL having the movement reference line Z T as the center line may be generated. When the recommended lane is parallel to the traveling direction F of the vehicle, the image of the recommended lane rotates so as to approach parallel to the horizontal line of the front image as the recommended lane moves away from the vehicle in the width direction of the lane. Because it does.

また、制御部20は、車両がレーンの幅方向における右方向に移動を開始した直後の所定期間において、開始基準線Z0を時計回りに回転させた移動基準線ZTを取得し、当該移動基準線ZTを中央の線とする推奨レーン部分RLを生成してもよい。車両がレーンの幅方向における右方向に移動を開始した直後において、すなわち平面視において前方画像の視認方向が時計回りに回転した直後において(図2A→図2B)、前方画像において推奨レーンの像は反時計回りに回転する(図3A→図3B)。従って、車両がレーンの幅方向における右方向に移動を開始した場合に、図5Aに示すように、開始基準線Z0を反時計回りに角度Gだけ回転させた移動基準線ZTを中央の線とする推奨レーン部分RLを前方画像に重畳すればよい。これにより、前方画像における推奨レーンの像の回転に追従するように推奨レーン部分RLを表示させることができる。むろん、移動基準線ZTを時計回りに回転させながら左方向に平行移動させてもよい。
反対に、制御部20は、車両がレーンの幅方向における左方向に移動を開始した直後の所定期間において(図2A→図2C)、開始基準線Z0を時計回りに回転させた移動基準線ZTを取得し、当該移動基準線ZTを中央の線とする推奨レーン部分RLを前方画像に重畳すればよい。これにより、車両がレーンの幅方向における左方向に移動を開始した直後においても、図5Bに示すように、前方画像における推奨レーンの像の回転に追従するように推奨レーン部分RLを表示させることができる。むろん、移動基準線ZTを反時計回りに回転させながら右方向に平行移動させてもよい。なお、車両がレーンの幅方向における左方向または右方向に移動を開始した直後の所定期間とは、車両がレーンの幅方向の移動を開始した開始時刻t0から傾き角Aが極大値となる時刻tC(図3D)となるまでの期間であってもよいし、時刻tCよりも後において傾き角Aが閾値以下となるまでの期間であってもよい。さらに、所定期間が終了した段階、すなわち車両の進行方向Fが推奨レーンの方向と平行に近くなった段階で、制御部20は、車両がレーンの幅方向において推奨レーンに接近したか否かに応じて、移動基準線ZTを回転させる方向を設定してもよい。
Further, the control unit 20 acquires a movement reference line Z T obtained by rotating the start reference line Z 0 clockwise in a predetermined period immediately after the vehicle starts moving in the right direction in the width direction of the lane, and moves the movement. A recommended lane portion RL having the reference line Z T as the center line may be generated. Immediately after the vehicle starts moving to the right in the width direction of the lane, that is, immediately after the viewing direction of the front image rotates clockwise in plan view (FIG. 2A → FIG. 2B), the image of the recommended lane in the front image is It rotates counterclockwise (FIG. 3A → FIG. 3B). Therefore, when the vehicle starts moving in the right direction in the width direction of the lane, as shown in FIG. 5A, the movement reference line Z T obtained by rotating the start reference line Z 0 counterclockwise by the angle G is set to the center. The recommended lane portion RL as a line may be superimposed on the front image. Thereby, the recommended lane portion RL can be displayed so as to follow the rotation of the image of the recommended lane in the front image. Of course, the movement reference line Z T may be translated in the left direction while rotating clockwise.
Conversely, the control unit 20 moves the start reference line Z 0 clockwise in a predetermined period immediately after the vehicle starts moving leftward in the width direction of the lane (FIG. 2A → FIG. 2C). Z T is acquired, and the recommended lane portion RL having the movement reference line Z T as the center line may be superimposed on the front image. As a result, the recommended lane portion RL is displayed so as to follow the rotation of the recommended lane image in the front image as shown in FIG. 5B even immediately after the vehicle starts moving in the left direction in the width direction of the lane. Can do. Of course, it may be moved parallel to the right while rotating the moving reference line Z T counterclockwise. The predetermined period immediately after the vehicle starts moving leftward or rightward in the width direction of the lane is the maximum inclination angle A from the start time t 0 when the vehicle starts moving in the width direction of the lane. It may be a period until the time t C (FIG. 3D) or a period until the inclination angle A becomes equal to or less than the threshold after the time t C. Further, when the predetermined period ends, that is, when the traveling direction F of the vehicle becomes close to the direction of the recommended lane, the control unit 20 determines whether the vehicle approaches the recommended lane in the width direction of the lane. Correspondingly, it may set a direction of rotating the moving reference line Z T.

制御部20は、推奨レーン部分RLを含む案内画像を前方画像に重畳すればよく、案内画像は推奨レーン部分RL以外の部分を含んでもよい。例えば、図5Cに示すように、案内画像は、推奨レーン部分RLの後方側端点BEと車両の位置(カメラ44の位置)を示す前方画像の下辺の中点CCとを接続する部分CLを含んでもよい。さらに、制御部20は、車両に対する運転操作に基づいて車両がレーンの幅方向の移動を開始したか否かを判定してもよい。例えば、レーン変更をするために方向指示器が操作された場合に、車両がレーンの幅方向の移動を開始したと判定してもよい。   The control unit 20 may superimpose a guide image including the recommended lane portion RL on the front image, and the guide image may include a portion other than the recommended lane portion RL. For example, as shown in FIG. 5C, the guide image includes a portion CL that connects the rear end point BE of the recommended lane portion RL and the midpoint CC of the lower side of the front image indicating the position of the vehicle (the position of the camera 44). But you can. Furthermore, the control unit 20 may determine whether or not the vehicle has started moving in the width direction of the lane based on a driving operation on the vehicle. For example, when a turn indicator is operated to change the lane, it may be determined that the vehicle has started moving in the width direction of the lane.

また、制御部20は、車両がレーンの幅方向の移動を開始した開始時刻t0からの経過時間tが長くなるほど、幅を狭くした推奨レーン部分RLを含む案内画像を前方画像に重畳してディスプレイ45に表示させてもよい。例えば、図5Dに示すように、車両がレーンの幅方向の移動を開始した開始時刻t0における推奨レーン部分RL(破線)よりも推奨レーン部分RLの幅を狭くすることにより、推奨レーン部分RLが推奨レーンの像からはみ出す可能性を低減することができる。従って、推奨レーン部分RLが推奨レーンの像からはみ出すことにより、推奨レーン部分RLが推奨レーン以外のレーンを案内しているような印象を与えることを防止できる。なお、レーンの幅方向における車両の移動方向の反対方向に推奨レーン部分RLの幅を狭くしていくことにより、レーンの幅方向における車両の移動方向の反対方向に開始基準線Z0を移動させた移動基準線ZTを中心の線とする推奨レーン部分RLを生成できる。図5Dの場合、左方向に移動基準線ZTが移動するのにともなって、推奨レーン部分RLの幅が左方向に狭くなっている。 In addition, the control unit 20 superimposes a guide image including the recommended lane portion RL with a narrower width on the front image as the elapsed time t from the start time t 0 when the vehicle starts moving in the width direction of the lane becomes longer. It may be displayed on the display 45. For example, as shown in FIG. 5D, the recommended lane portion RL is made narrower than the recommended lane portion RL (dashed line) at the start time t 0 when the vehicle starts moving in the width direction of the lane. However, the possibility of protruding from the recommended lane image can be reduced. Therefore, it can be prevented that the recommended lane portion RL protrudes from the image of the recommended lane to give the impression that the recommended lane portion RL is guiding a lane other than the recommended lane. Note that, by reducing the width of the recommended lane portion RL in the direction opposite to the vehicle movement direction in the lane width direction, the start reference line Z 0 is moved in the direction opposite to the vehicle movement direction in the lane width direction. The recommended lane portion RL having the movement reference line Z T as the center line can be generated. In the case of FIG. 5D, the width of the recommended lane portion RL becomes narrower in the left direction as the movement reference line Z T moves in the left direction.

さらに、制御部20は、車両が走行している走行レーンの区画線と車両との位置関係として、走行レーンの区画線と車両とが所定距離以内となった場合に、車両がレーンの幅方向の移動を開始したと判定してもよい。所定距離は、車両が走行レーンの区画線を跨いだと判定できる距離、すなわち車幅相当値であってもよい。   Furthermore, the control unit 20 determines that the vehicle is in the width direction of the lane when the lane marking of the traveling lane and the vehicle are within a predetermined distance as the positional relationship between the lane marking of the traveling lane in which the vehicle is traveling and the vehicle. It may be determined that the movement has started. The predetermined distance may be a distance at which it can be determined that the vehicle has straddled the lane marking of the travel lane, that is, a vehicle width equivalent value.

前方画像は、地図情報30aに基づいて前方風景を描画することにより得られてもよい。地図情報30aに基づいて前方風景を描画する場合、前方画像と同時に案内画像を描画するようにしてもよい。ここで、案内画像を前方風景に重畳してディスプレイ45に表示させるとは、案内画像をディスプレイ45に表示させることにより、結果的に案内画像を前方風景に重畳することであってもよい。例えば、ディスプレイ45は、少なくとも案内画像を表示すればよく、前方画像を表示しなくてもよい。すなわち、ディスプレイ45は、案内画像を、車両のフロントガラス越しに運転者が視認する現実の前方風景に重畳してもよい。例えば、ディスプレイ45を半透過型とし、ディスプレイ45から現実の前方風景が透けて見えるようにすることにより、案内画像を現実の前方風景に重畳してもよい。   The forward image may be obtained by drawing a forward landscape based on the map information 30a. When drawing a front landscape based on the map information 30a, a guide image may be drawn simultaneously with the front image. Here, superimposing the guidance image on the front landscape and displaying it on the display 45 may display the guidance image on the display 45 and consequently superimposing the guidance image on the front landscape. For example, the display 45 only needs to display at least a guide image and does not have to display a front image. In other words, the display 45 may superimpose the guidance image on the actual front scenery viewed by the driver through the windshield of the vehicle. For example, the guide image may be superimposed on the actual front landscape by making the display 45 a transflective type so that the actual front landscape can be seen through the display 45.

10…ナビゲーション装置、20…制御部、21…推奨レーン案内プログラム、21a…推奨レーン取得部、21b…基準線設定部、21c…表示制御部、30…記録媒体、30a…地図情報、41…GPS受信部、42…車速センサ、43…ジャイロセンサ、44…カメラ、45…ディスプレイ、b…中点、BE…後方側端点、CC…中点、F…進行方向、FE…前方側端点、RC…中央線、RL…推奨レーン部分、t…経過期間、t0…開始時刻、X(t)…移動量、Z…基準線、Z0…開始基準線、ZT…移動基準線、A…傾き角。 DESCRIPTION OF SYMBOLS 10 ... Navigation apparatus, 20 ... Control part, 21 ... Recommended lane guidance program, 21a ... Recommended lane acquisition part, 21b ... Reference line setting part, 21c ... Display control part, 30 ... Recording medium, 30a ... Map information, 41 ... GPS Receiving part 42 ... Vehicle speed sensor 43 ... Gyro sensor 44 ... Camera 45 ... Display b ... Middle point BE ... Rear end point CC ... Middle point F ... Traveling direction FE ... Front end point RC ... centerline, RL ... recommended lane section, t ... age, t 0 ... start time, X (t) ... movement amount, Z ... reference line, Z 0 ... start reference line, Z T ... moving reference line, A ... slope Horn.

Claims (10)

車両が走行すべき推奨レーンを取得する推奨レーン取得手段と、
前記車両の前方風景を撮影した画像において前記推奨レーンの像を認識し、当該認識した前記推奨レーンの像に沿うように基準線を設定する基準線設定手段と、
前記基準線を中央の線とする推奨レーン部分を含む案内画像を前記前方風景に重畳して表示部に表示させる表示制御手段と、を備える推奨レーン案内システムであって、
前記表示制御手段は、前記車両がレーンの幅方向の移動を開始した場合に、前記車両がレーンの幅方向の移動を開始した開始時刻において設定された前記基準線を、レーンの幅方向における前記車両の移動方向の反対方向に移動させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
推奨レーン案内システム。
A recommended lane acquisition means for acquiring a recommended lane for the vehicle to travel;
A reference line setting means for recognizing an image of the recommended lane in an image obtained by photographing a front landscape of the vehicle, and setting a reference line along the recognized image of the recommended lane;
A recommended lane guidance system comprising display control means for displaying a guidance image including a recommended lane portion with the reference line as a center line on a display portion so as to be superimposed on the front scenery,
When the vehicle starts moving in the width direction of the lane, the display control means displays the reference line set at the start time when the vehicle starts moving in the width direction of the lane in the width direction of the lane. Acquiring a line moved in a direction opposite to the moving direction of the vehicle, and displaying the guidance image including the recommended lane portion with the acquired line as a central line on the front landscape and displaying the same on the display unit;
Recommended lane guidance system.
前記表示制御手段は、前記車両がレーンの幅方向の移動を開始した場合に、前記開始時刻からの経過期間が長くなるほど、前記開始時刻において設定された前記基準線を、レーンの幅方向における前記車両の移動方向の反対方向に大きく移動させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
請求項1に記載の推奨レーン案内システム。
When the vehicle starts moving in the width direction of the lane, the display control means displays the reference line set at the start time in the width direction of the lane as the elapsed period from the start time becomes longer. A line greatly moved in the direction opposite to the moving direction of the vehicle is acquired, and the guide image including the recommended lane portion having the acquired line as a central line is superimposed on the front scenery and displayed on the display unit. ,
The recommended lane guidance system according to claim 1.
前記表示制御手段は、前記車両がレーンの幅方向の移動を開始した場合に、前記開始時刻における前記推奨レーン部分の幅と同一の幅に維持された前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
請求項1または請求項2のいずれかに記載の推奨レーン案内システム。
When the vehicle starts to move in the width direction of the lane, the display control means displays the guide image including the recommended lane portion maintained at the same width as the width of the recommended lane portion at the start time. Superimposed on the front landscape and displayed on the display unit,
The recommended lane guidance system according to claim 1.
前記表示制御手段は、前記車両がレーンの幅方向の移動を開始した場合に、前記開始時刻からの経過時間が長くなるほど、幅を狭くした前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
請求項1または請求項2のいずれかに記載の推奨レーン案内システム。
When the vehicle starts to move in the width direction of the lane, the display control unit displays the guide image including the recommended lane portion with the width narrowed as the elapsed time from the start time becomes longer. Superimposed and displayed on the display unit,
The recommended lane guidance system according to claim 1.
前記表示制御手段は、
前記車両がレーンの幅方向において前記推奨レーンに接近する方向に移動を開始した場合に、前記開始時刻において設定された前記基準線を、前記前方風景の縦方向の線に対する平行度が大きくなるように回転させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させ、
前記車両がレーンの幅方向において前記推奨レーンから遠ざかる方向に移動を開始した場合に、前記開始時刻において設定された前記基準線を、前記前方風景の横方向の線に対する平行度が大きくなるように回転させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
請求項1から請求項4のいずれか一項に記載の推奨レーン案内システム。
The display control means includes
When the vehicle starts to move in the direction of approaching the recommended lane in the width direction of the lane, the reference line set at the start time becomes parallel to the vertical line of the front landscape. A line that has been rotated and the guide image including the recommended lane portion with the acquired line as a central line is superimposed on the front landscape and displayed on the display unit,
When the vehicle starts to move away from the recommended lane in the width direction of the lane, the reference line set at the start time becomes parallel to the horizontal line of the front landscape. Acquiring a rotated line, and superimposing the guidance image including the recommended lane portion with the acquired line as a central line on the front landscape, and causing the display unit to display the guidance image.
The recommended lane guidance system according to any one of claims 1 to 4.
前記表示制御手段は、
前記車両がレーンの幅方向における左方向に移動を開始した直後の所定期間において、前記開始時刻において設定された前記基準線を、時計回りに回転させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させ、
前記車両がレーンの幅方向における右方向に移動を開始した直後の所定期間において、前記開始時刻において設定された前記基準線を、反時計回りに回転させた線を取得し、反時計回りに回転させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
請求項1から請求項5のいずれか一項に記載の推奨レーン案内システム。
The display control means includes
In a predetermined period immediately after the vehicle starts moving leftward in the width direction of the lane, a line obtained by rotating the reference line set at the start time in a clockwise direction is acquired, and the acquired line is The guide image including the recommended lane portion as a line of the image is superimposed on the front scenery and displayed on the display unit,
In a predetermined period immediately after the vehicle starts moving rightward in the width direction of the lane, a line obtained by rotating the reference line set at the start time counterclockwise is obtained and rotated counterclockwise. Acquiring the line, and displaying the guidance image including the recommended lane portion with the acquired line as a central line on the front landscape and displaying the superimposed image on the display unit.
The recommended lane guidance system according to any one of claims 1 to 5.
前記表示制御手段は、前記車両が走行している走行レーンの区画線と前記車両との位置関係に基づいて、前記車両がレーンの幅方向の移動を開始したか否かを判定する、
請求項1から請求項6のいずれか一項に記載の推奨レーン案内システム。
The display control means determines whether or not the vehicle has started moving in the width direction of the lane, based on a positional relationship between a lane marking of a traveling lane in which the vehicle is traveling and the vehicle.
The recommended lane guidance system according to any one of claims 1 to 6.
前記表示制御手段は、前記車両が走行している走行レーンの区画線に対する前記車両の進行方向の傾きが閾値以上となった場合に、前記車両がレーンの幅方向の移動を開始したと判定する、
請求項1から請求項7のいずれか一項に記載の推奨レーン案内システム。
The display control means determines that the vehicle has started moving in the width direction of the lane when the inclination of the traveling direction of the vehicle with respect to the lane marking of the traveling lane in which the vehicle is traveling is equal to or greater than a threshold value. ,
The recommended lane guidance system according to any one of claims 1 to 7.
車両が走行すべき推奨レーンを取得する推奨レーン取得工程と、
前記車両の前方風景を撮影した画像において前記推奨レーンの像を認識し、当該認識した前記推奨レーンの像に沿うように基準線を設定する基準線設定工程と、
前記基準線を中央の線とする推奨レーン部分を含む案内画像を前記前方風景に重畳して表示部に表示させる表示制御工程と、を含む推奨レーン案内方法であって、
前記表示制御工程では、前記車両がレーンの幅方向の移動を開始した場合に、前記車両がレーンの幅方向の移動を開始した開始時刻において設定された前記基準線を、レーンの幅方向における前記車両の移動方向の反対方向に移動させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
推奨レーン案内方法。
A recommended lane acquisition process for acquiring a recommended lane for the vehicle to travel;
A reference line setting step for recognizing an image of the recommended lane in an image obtained by capturing a landscape in front of the vehicle, and setting a reference line along the recognized image of the recommended lane;
A display control step of displaying a guide image including a recommended lane portion with the reference line as a center line on the display portion in a superimposed manner on the front landscape, and a recommended lane guidance method comprising:
In the display control step, when the vehicle starts moving in the width direction of the lane, the reference line set at the start time when the vehicle starts moving in the width direction of the lane is changed to the reference line in the width direction of the lane. Acquiring a line moved in a direction opposite to the moving direction of the vehicle, and displaying the guidance image including the recommended lane portion with the acquired line as a central line on the front landscape and displaying the same on the display unit;
Recommended lane guidance method.
車両が走行すべき推奨レーンを取得する推奨レーン取得機能と、
前記車両の前方風景を撮影した画像において前記推奨レーンの像を認識し、当該認識した前記推奨レーンの像に沿うように基準線を設定する基準線設定機能と、
前記基準線を中央の線とする推奨レーン部分を含む案内画像を前記前方風景に重畳して表示部に表示させる表示制御機能と、をコンピュータに実行させる推奨レーン案内プログラムであって、
前記表示制御機能によりコンピュータは、前記車両がレーンの幅方向の移動を開始した場合に、前記車両がレーンの幅方向の移動を開始した開始時刻において設定された前記基準線を、レーンの幅方向における前記車両の移動方向の反対方向に移動させた線を取得し、当該取得した線を中央の線とする前記推奨レーン部分を含む前記案内画像を前記前方風景に重畳して前記表示部に表示させる、
推奨レーン案内プログラム。
A recommended lane acquisition function for acquiring a recommended lane for the vehicle to travel,
A reference line setting function for recognizing an image of the recommended lane in an image obtained by photographing a front landscape of the vehicle, and setting a reference line along the recognized image of the recommended lane;
A recommended lane guidance program for causing a computer to execute a display control function for superimposing a guidance image including a recommended lane portion with the reference line as a central line on the front landscape to be displayed on a display unit,
When the vehicle starts moving in the width direction of the lane, the display control function causes the computer to display the reference line set at the start time when the vehicle starts moving in the width direction of the lane. A line moved in the direction opposite to the moving direction of the vehicle is acquired, and the guide image including the recommended lane portion with the acquired line as a central line is superimposed on the front landscape and displayed on the display unit Let
Recommended lane guidance program.
JP2012217028A 2012-09-28 2012-09-28 Recommended lane guidance system, method and program Expired - Fee Related JP5954085B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012217028A JP5954085B2 (en) 2012-09-28 2012-09-28 Recommended lane guidance system, method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012217028A JP5954085B2 (en) 2012-09-28 2012-09-28 Recommended lane guidance system, method and program

Publications (2)

Publication Number Publication Date
JP2014071001A true JP2014071001A (en) 2014-04-21
JP5954085B2 JP5954085B2 (en) 2016-07-20

Family

ID=50746337

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012217028A Expired - Fee Related JP5954085B2 (en) 2012-09-28 2012-09-28 Recommended lane guidance system, method and program

Country Status (1)

Country Link
JP (1) JP5954085B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017173125A (en) * 2016-03-24 2017-09-28 アイシン・エィ・ダブリュ株式会社 Lane guide system and lane guide program
CN108170135A (en) * 2016-12-07 2018-06-15 株式会社万都 For along the device and method of canonical path driving vehicle

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10281795A (en) * 1997-04-07 1998-10-23 Toyota Motor Corp Guidance display device for vehicle
JP2008151752A (en) * 2006-12-20 2008-07-03 Nissan Motor Co Ltd Route guidance display device and route guidance method
JP2009078735A (en) * 2007-09-27 2009-04-16 Hitachi Ltd Drive supporting apparatus
WO2010005285A1 (en) * 2008-07-11 2010-01-14 Tele Atlas B.V. Apparatus for and method of junction view display
US20100131197A1 (en) * 2008-11-21 2010-05-27 Gm Global Technology Operations, Inc. Visual guidance for vehicle navigation system
JP2010281781A (en) * 2009-06-08 2010-12-16 Alpine Electronics Inc Driving lane detector

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10281795A (en) * 1997-04-07 1998-10-23 Toyota Motor Corp Guidance display device for vehicle
JP2008151752A (en) * 2006-12-20 2008-07-03 Nissan Motor Co Ltd Route guidance display device and route guidance method
JP2009078735A (en) * 2007-09-27 2009-04-16 Hitachi Ltd Drive supporting apparatus
WO2010005285A1 (en) * 2008-07-11 2010-01-14 Tele Atlas B.V. Apparatus for and method of junction view display
US20100131197A1 (en) * 2008-11-21 2010-05-27 Gm Global Technology Operations, Inc. Visual guidance for vehicle navigation system
JP2010281781A (en) * 2009-06-08 2010-12-16 Alpine Electronics Inc Driving lane detector

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017173125A (en) * 2016-03-24 2017-09-28 アイシン・エィ・ダブリュ株式会社 Lane guide system and lane guide program
CN108170135A (en) * 2016-12-07 2018-06-15 株式会社万都 For along the device and method of canonical path driving vehicle
US10809087B2 (en) 2016-12-07 2020-10-20 Mando Corporation Apparatus and method for driving vehicle along normal route
CN108170135B (en) * 2016-12-07 2022-02-18 万都移动系统股份公司 Apparatus and method for driving a vehicle along a standard route

Also Published As

Publication number Publication date
JP5954085B2 (en) 2016-07-20

Similar Documents

Publication Publication Date Title
JP5708449B2 (en) Lane guidance display system, method and program
EP2863181B1 (en) Intersection navigation system, method, and program
JP5810842B2 (en) Lane guidance display system, method and program
JP5810843B2 (en) Lane guidance display system, method and program
JP6015228B2 (en) Intersection guidance system, method and program
JP6015227B2 (en) Intersection guidance system, method and program
JP6695049B2 (en) Display device and display control method
WO2013065256A1 (en) Lane guidance display system, lane guidance display method, and lane guidance display program
JP2008309529A (en) Navigation system, navigation method and program for navigation
JP6089506B2 (en) Lane guidance display system, method and program
JP5994574B2 (en) Position guidance system, method and program
JP2014185926A (en) Guidance display system
JP7416114B2 (en) Display control device and display control program
JP5954085B2 (en) Recommended lane guidance system, method and program
US20200031227A1 (en) Display control apparatus and method for controlling display
JP5915155B2 (en) Lane guidance display system, method and program
JP2006098348A (en) Navigation device
JP5308810B2 (en) In-vehicle video display
JP2014194383A (en) Cross-point guidance system, method and program
JP5772571B2 (en) Lane guidance display system, method and program
JP2013210321A (en) Lane guide display system, method and program
JP5998977B2 (en) Intersection guidance system, method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160530

R150 Certificate of patent or registration of utility model

Ref document number: 5954085

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees