JP2014185926A - Guidance display system - Google Patents
Guidance display system Download PDFInfo
- Publication number
- JP2014185926A JP2014185926A JP2013060661A JP2013060661A JP2014185926A JP 2014185926 A JP2014185926 A JP 2014185926A JP 2013060661 A JP2013060661 A JP 2013060661A JP 2013060661 A JP2013060661 A JP 2013060661A JP 2014185926 A JP2014185926 A JP 2014185926A
- Authority
- JP
- Japan
- Prior art keywords
- image
- guidance
- vehicle
- display
- landscape
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Navigation (AREA)
Abstract
Description
本発明は、車両を誘導するための誘導画像を表示する誘導表示システムに関する。 The present invention relates to a guidance display system for displaying a guidance image for guiding a vehicle.
上記のような誘導表示システムに関連して、例えば下記の特許文献1に記載された技術が既に知られている。特許文献1に記載されている技術では、誘導経路を示す帯状の誘導画像を、自車両の前方の風景の画像である前方風景画像に重ねて表示装置に表示させるように構成されている。 In relation to the guidance display system as described above, for example, a technique described in Patent Document 1 below is already known. The technique described in Patent Document 1 is configured to display a strip-shaped guide image indicating a guide route on a display device so as to be superimposed on a front landscape image that is a landscape image in front of the host vehicle.
特許文献1の技術では、段落0079、図17及び図18に記載されているように、塗り潰された帯状の誘導画像を、前方風景画像における道路面に重ねて表示させると、前方を走行している前方車両の視認性が悪化するため、誘導画像を、前方風景画像における道路面の上空に重ねて表示させるように構成されている。
しかしながら、誘導画像を道路面の上空に表示するよりも、道路面に重なる領域に表示する方が、誘導画像と誘導経路に係る道路面との画面上の距離を短くできるため、運転者が誘導経路と誘導経路に係る道路との対応関係をより直観的に認識し易くなる場合がある。
In the technique of Patent Document 1, as described in paragraph 0079, FIG. 17 and FIG. 18, when a filled belt-shaped guide image is displayed so as to be superimposed on a road surface in a forward landscape image, the vehicle travels ahead. Since the visibility of the vehicle ahead is deteriorated, the guidance image is configured to be displayed over the road surface in the front landscape image.
However, it is possible to reduce the distance on the screen between the guidance image and the road surface related to the guidance route by displaying the guidance image in an area overlapping the road surface rather than displaying it over the road surface. In some cases, it becomes easier to intuitively recognize the correspondence between the route and the road related to the guidance route.
そこで、誘導画像を前方風景画像と重ねて表示させる場合に、誘導画像による前方車両の視認性の低下を抑制することができる誘導表示システムが求められる。 In view of this, there is a need for a guidance display system that can suppress a decrease in the visibility of the front vehicle due to the guidance image when the guidance image is displayed superimposed on the front landscape image.
本発明に係る、車両を誘導するための誘導画像を表示する誘導表示システムの特徴構成は、自車両の誘導経路を取得する誘導経路取得部と、前記自車両の前方の風景の画像である前方風景画像を取得する風景画像取得部と、前記前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する前方車両認識部と、前記自車両を誘導するための前記誘導画像を生成する誘導画像生成部と、前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景と重ねて表示装置に表示させる表示部と、を備え、前記誘導画像生成部は、前記誘導画像における前記前方車両に重なる重複領域と、前記誘導画像における前記前方車両に重ならない非重複領域とで、表示態様を異ならせる点にある。 The characteristic configuration of the guidance display system for guiding a vehicle for guiding a vehicle according to the present invention includes a guidance route acquisition unit that acquires a guidance route of the host vehicle, and a forward image that is a landscape image in front of the host vehicle. A landscape image acquisition unit that acquires a landscape image, a forward vehicle recognition unit that recognizes a forward vehicle that is another vehicle traveling in front of the host vehicle based on the forward landscape image, and for guiding the host vehicle A guide image generating unit that generates the guide image, and a display unit that displays the guide image on a display device so as to overlap the front landscape image or the landscape in front of the host vehicle. Is that the display mode is different between an overlapping area that overlaps the preceding vehicle in the guidance image and a non-overlapping area that does not overlap the preceding vehicle in the guidance image.
この特徴構成によれば、前方車両に重なる重複領域か前方車両に重ならない非重複領域かに応じてそれぞれの領域に適した互いに異なる表示態様を設定することができる。従って、重複領域の表示態様を、非重複領域に比べて前方車両の視認性の低下を抑制できるような表示態様に設定することができる。
よって、誘導画像を前方車両と重なるように表示しても、前方車両の視認性の低下を抑制しつつ、前方風景画像又は自車両の前方の風景と重ねて誘導画像を表示させることができる。
According to this characteristic configuration, different display modes suitable for the respective regions can be set depending on whether the overlapping region overlaps the preceding vehicle or the non-overlapping region not overlapping the preceding vehicle. Therefore, the display mode of the overlapping area can be set to a display mode that can suppress a decrease in the visibility of the preceding vehicle compared to the non-overlapping area.
Therefore, even if the guidance image is displayed so as to overlap the preceding vehicle, the guidance image can be displayed so as to be superimposed on the front scenery image or the scenery ahead of the host vehicle while suppressing a decrease in the visibility of the preceding vehicle.
ここで、前記誘導画像生成部は、自車両と前記前方車両との車間距離に応じて、前記誘導画像の表示態様を異ならせると好適である。 Here, it is preferable that the guide image generation unit changes a display mode of the guide image according to an inter-vehicle distance between the host vehicle and the preceding vehicle.
この構成によれば、誘導画像の表示態様の変化により、運転者に車間距離を直観的に認識させることができる。また、誘導画像に、車間距離が狭くなった場合の警告機能を持たせることができる。 According to this configuration, the driver can intuitively recognize the inter-vehicle distance by changing the display mode of the guidance image. In addition, the guidance image can be provided with a warning function when the inter-vehicle distance is reduced.
ここで、前記誘導画像生成部は、前記重複領域と前記非重複領域とで、色彩及び透明度の少なくとも一方を異ならせると好適である。 Here, it is preferable that the induced image generation unit makes at least one of color and transparency different between the overlapping region and the non-overlapping region.
この構成によれば、重複領域と非重複領域とで形状を異ならせる場合等に比べて、誘導画像の重複領域と非重複領域との一体性を確保することが容易となる。従って、重複領域における前方車両の視認性の低下を効果的に抑制しつつ、前方風景画像又は自車両の前方の風景と重ねて誘導画像を表示させることができる。 According to this configuration, it is easy to ensure the integrity of the overlap region and the non-overlap region of the guide image, as compared with the case where the shapes of the overlap region and the non-overlap region are different. Therefore, it is possible to display the guidance image so as to overlap the front scenery image or the scenery in front of the host vehicle while effectively suppressing a decrease in the visibility of the preceding vehicle in the overlapping region.
ここで、前記誘導画像生成部は、前記重複領域の前記誘導画像の透明度を、前記非重複領域の前記誘導画像の透明度よりも高くすると好適である。 Here, it is preferable that the guidance image generation unit sets the transparency of the guidance image in the overlapping area higher than the transparency of the guidance image in the non-overlapping area.
この構成によれば、重複領域の透明度が相対的に高くされるので、誘導画像が透けて前方車両が見え易くなり、前方車両の視認性の低下を効果的に抑制することができる。 According to this configuration, since the transparency of the overlapping region is relatively high, it is easy to see the front vehicle through the guidance image, and it is possible to effectively suppress a decrease in the visibility of the front vehicle.
ここで、前記誘導画像生成部は、前記重複領域を中抜きの輪郭線で形成された画像とし、前記非重複領域を、輪郭線で囲まれた領域が塗り潰された画像又は模様が施された画像とすると好適である。 Here, the guide image generation unit sets the overlapping area as an image formed by a hollow outline, and the non-overlapping area is subjected to an image or a pattern in which the area surrounded by the outline is filled. An image is preferable.
この構成によれば、重複領域では誘導画像の輪郭線の内側が透明にされるので、輪郭線の内側から前方車両が見え、前方車両の視認性を確保できると共に、輪郭線により誘導画像の形状を視認させて、運転者に誘導経路を認識させることができる。一方、非重複領域では誘導画像の輪郭線の内側が塗り潰された画像又は模様が施された画像にされるので、誘導画像の視認性を良好にすることができる。 According to this configuration, the inside of the contour line of the guidance image is made transparent in the overlapping region, so that the front vehicle can be seen from the inside of the contour line, the visibility of the front vehicle can be ensured, and the shape of the guidance image is defined by the contour line. The driver can recognize the guidance route. On the other hand, in the non-overlapping region, an image in which the inside of the outline of the guide image is filled or an image with a pattern is formed, so that the visibility of the guide image can be improved.
ここで、前記表示部は、前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景に含まれる道路に重なって見えるように配置すると好適である。 Here, it is preferable that the display unit is arranged so that the guidance image is seen to overlap the road included in the front landscape image or the landscape ahead of the host vehicle.
この構成によれば、誘導画像と道路面とが重なって見えるため、運転者が誘導経路と誘導経路に係る道路との対応関係を直観的に認識し易くなる。 According to this configuration, since the guidance image and the road surface appear to overlap, it is easy for the driver to intuitively recognize the correspondence between the guidance route and the road related to the guidance route.
以上の各構成を備えた本発明に係る誘導表示システムの技術的特徴は、誘導表示方法や誘導表示プログラムにも適用可能であり、そのため、本発明は、そのような方法やプログラムも権利の対象とすることができる。なお、誘導表示プログラムが記憶された、DVD−ROMやフラッシュメモリなどの記憶媒体も権利の対象とすることができる。 The technical features of the guidance display system according to the present invention having the above-described configurations can also be applied to the guidance display method and the guidance display program. Therefore, the present invention also covers such methods and programs. It can be. Note that a storage medium such as a DVD-ROM or a flash memory in which the guide display program is stored can also be a target of the right.
その場合における、車両を誘導するための誘導画像を表示する誘導表示方法の特徴構成は、演算処理装置が、自車両の誘導経路を取得する誘導経路取得ステップと、前記自車両の前方の風景の画像である前方風景画像を取得する風景画像取得ステップと、前記前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する前方車両認識ステップと、前記自車両を誘導するための前記誘導画像を生成する誘導画像生成ステップと、前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景と重ねて表示装置に表示させる表示ステップと、を実行し、前記誘導画像生成ステップでは、前記誘導画像における前記前方車両に重なる重複領域と、前記誘導画像における前記前方車両に重ならない非重複領域とで、表示態様を異ならせる点にある。 In this case, the characteristic configuration of the guide display method for displaying the guide image for guiding the vehicle includes a guide route acquisition step in which the arithmetic processing device acquires the guide route of the host vehicle, and a scenery in front of the host vehicle. A landscape image acquisition step of acquiring a forward landscape image as an image, a forward vehicle recognition step of recognizing a forward vehicle that is another vehicle traveling in front of the own vehicle based on the forward landscape image, and the own vehicle A guide image generating step for generating the guide image for guiding the vehicle, and a display step for displaying the guide image on a display device so as to overlap the front landscape image or the landscape in front of the host vehicle, In the induced image generation step, an overlapping area that overlaps the preceding vehicle in the induced image and a non-overlapping area that does not overlap the preceding vehicle in the induced image are represented by It lies in the fact that different aspects.
また、車両を誘導するための誘導画像を表示する処理をコンピュータに実行させるための誘導表示プログラムの特徴構成は、自車両の誘導経路を取得する誘導経路取得ステップと、前記自車両の前方の風景の画像である前方風景画像を取得する風景画像取得ステップと、前記前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する前方車両認識ステップと、前記自車両を誘導するための前記誘導画像を生成する誘導画像生成ステップと、前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景と重ねて表示装置に表示させる表示ステップと、をコンピュータに実行させ、前記誘導画像生成ステップでは、前記誘導画像における前記前方車両に重なる重複領域と、前記誘導画像における前記前方車両に重ならない非重複領域とで、表示態様を異ならせる点にある。 In addition, the characteristic configuration of the guidance display program for causing the computer to execute a process of displaying a guidance image for guiding the vehicle includes a guidance route acquisition step for obtaining the guidance route of the host vehicle, and a scenery in front of the host vehicle. A landscape image acquisition step of acquiring a forward landscape image that is an image of the vehicle, a forward vehicle recognition step of recognizing a forward vehicle that is another vehicle traveling in front of the own vehicle based on the forward landscape image, A guidance image generation step of generating the guidance image for guiding the vehicle, and a display step of causing the display device to display the guidance image on the display device so as to overlap the front landscape image or the landscape in front of the host vehicle. And in the guide image generation step, an overlapping region overlapping the front vehicle in the guide image and the front vehicle in the guide image Do not overlap with the non-overlapping region lies in the fact that different display modes.
当然ながら、これらの誘導表示方法や誘導表示プログラムも上述した誘導表示システムに係る作用効果を得ることができ、更に、その好適な構成の例として挙げたいくつかの付加的技術を組み込むことが可能である。 Naturally, these guidance display methods and guidance display programs can also obtain the effects of the guidance display system described above, and can incorporate some additional techniques listed as examples of suitable configurations thereof. It is.
本発明に係る誘導表示システム1の実施形態について説明する。
誘導表示システム1は、車両を誘導するための誘導画像Giを表示するシステムである。誘導表示システム1は、図1に示すように、誘導経路取得部30、風景画像取得部31、誘導画像生成部32、表示部33、及び前方車両認識部34などの機能部を備えている。
An embodiment of a guidance display system 1 according to the present invention will be described.
The guidance display system 1 is a system that displays a guidance image Gi for guiding a vehicle. As shown in FIG. 1, the guidance display system 1 includes functional units such as a guidance
誘導経路取得部30は、自車両の誘導経路を取得する。風景画像取得部31は、自車両の前方の風景の画像である前方風景画像を取得する。前方車両認識部34は、前方風景画像に基づいて、自車両の前方を走行している他車両である前方車両を認識する。誘導画像生成部32は、自車両を誘導するための誘導画像Giを生成する。表示部33は、誘導画像Giを、前方風景画像又は自車両の前方の風景と重ねて表示装置45に表示させる。
このような構成において、誘導画像生成部32は、誘導画像Giにおける前方車両に重なる重複領域と、誘導画像Giにおける前方車両に重ならない非重複領域とで、表示態様を異ならせる点に特徴を有している。
以下、本実施形態に係る誘導表示システム1について詳細に説明する。
The guide
In such a configuration, the guide
Hereinafter, the guidance display system 1 according to the present embodiment will be described in detail.
1.誘導表示システム1
誘導表示システム1は、車両を誘導するための誘導画像Giを表示する。
誘導表示システム1は、単数又は複数のCPU等の演算処理装置を中核部材として備えるとともに、当該演算処理装置からデータを読み出し及び書き込みが可能に構成されたRAM(ランダム・アクセス・メモリ)や、演算処理装置からデータを読み出し可能に構成されたROM(リード・オンリ・メモリ)や、大容量のデータを記憶及び読み出し可能に構成されたフラッシュメモリやハードディスク等の記憶装置等を有して構成されている。そして、誘導表示システム1のROM等に記憶されたソフトウェア(プログラム)又は別途設けられた演算回路等のハードウェア、或いはそれらの両方により、誘導表示システム1の各機能部30〜34などが構成されている。各機能部30〜34などの機能を演算処理装置に実現させるための誘導表示プログラムは、演算処理装置が参照可能なRAMやROMなどの記憶装置に記憶される。
1. Guidance display system 1
The guidance display system 1 displays a guidance image Gi for guiding the vehicle.
The guidance display system 1 includes an arithmetic processing device such as one or a plurality of CPUs as a core member, and a RAM (random access memory) configured to be able to read and write data from the arithmetic processing device, A ROM (read-only memory) configured to be able to read data from a processing device, and a storage device such as a flash memory and a hard disk configured to be able to store and read a large amount of data. Yes. Each
本実施形態では、誘導表示システム1は、情報端末装置2に組み込まれている。典型的には、誘導表示プログラムが、情報端末装置2の記憶装置にインストールされて、誘導表示システム1を構成する。
例えば、誘導表示システム1は、車両に搭載されるナビゲーション装置や、テレビ、動画再生、音楽再生などのためのAV(音響・映像)装置や、情報端末装置や、ユーザが持ち運び可能な多機能携帯電話や携帯型情報端末装置などに組み込まれる。或いは、誘導表示システム1は、誘導表示システム1専用の情報端末装置に組み込まれてもよい。
In the present embodiment, the guidance display system 1 is incorporated in the
For example, the guidance display system 1 includes a navigation device mounted on a vehicle, an AV (sound / video) device for television, moving image reproduction, music reproduction, an information terminal device, and a multifunctional portable device that can be carried by a user. It is incorporated into telephones and portable information terminal devices. Alternatively, the guidance display system 1 may be incorporated in an information terminal device dedicated to the guidance display system 1.
なお、誘導表示プログラムは、DVD−ROMやフラッシュメモリなどの記憶媒体に記憶されてユーザに配布されたり、ネットワークサーバから通信網介してユーザに配信されたりする。配布又は配信された誘導表示プログラムは、情報端末装置2の記憶装置に記憶される。
The guidance display program is stored in a storage medium such as a DVD-ROM or a flash memory and distributed to the user, or is distributed from the network server to the user via a communication network. The distributed or distributed guidance display program is stored in the storage device of the
本実施形態に係わる誘導表示システム1は、図1に示すように、誘導経路取得部30、風景画像取得部31、誘導画像生成部32、表示部33、及び前方車両認識部34などの機能部を備えている。以下、各機能部について詳細に説明する。
As shown in FIG. 1, the guidance display system 1 according to the present embodiment includes functional sections such as a guidance
2.誘導経路取得部30
誘導経路取得部30は、自車両の誘導経路を取得する処理を行う機能部である。
本実施形態では、誘導経路取得部30は、誘導経路探索部40が探索した誘導経路を取得するように構成されている。
2−1.誘導経路探索部40
誘導経路探索部40は、自車両の現在位置から目標地点までの誘導経路を探索する機能部である。本実施形態では、誘導経路探索部40は、誘導表示システム1が組み込まれた情報端末装置2に備えられている。
本実施形態では、誘導経路探索部40は、地図データベース43から取得した地図データを用いて、自車両の現在位置から目標地点までの誘導経路を探索するように構成されている。なお、誘導経路の探索には、ダイクストラ法などの公知の様々な方法を用いることができる。
2. Guide
The guide
In the present embodiment, the guidance
2-1. Guide
The guidance
In the present embodiment, the guide
取得する地図データには、地図上の交差点などの各地点を示すノードデータや、各ノード間を連結する道路を示すリンクデータなどから構成される道路ネットワークのデータ等が含まれる。各ノードデータには、その地点の位置座標や地点属性、地点名称等のデータが含まれ、各リンクデータには、リンクの始点及び終点の位置座標やリンク長、道路幅、道路属性、通行可能な車両種類等のデータが含まれる。 The map data to be acquired includes node data indicating points such as intersections on the map, road network data composed of link data indicating roads connecting the nodes, and the like. Each node data includes data such as location coordinates, location attributes, location names, etc., and each link data includes location coordinates and link lengths, road widths, road attributes, and passages of link start and end points. Data such as various vehicle types.
本実施形態では、地図データベース43は、情報端末装置2の記憶装置に記憶されている。或いは、地図データベース43は、外部の情報端末装置に記憶されており、誘導経路探索部40は、情報端末装置2に備えられた通信装置による無線通信又は有線通信などのデータ通信を介して、外部の情報端末装置から地図データを取得するように構成されてもよい。
In the present embodiment, the
2−2.自車位置取得部41
自車位置取得部41は、自車両の現在位置を取得する処理を行う機能部である。
本実施形態では、自車位置取得部41は、位置情報検出装置42から取得した自車両の位置関連情報に基づいて、自車両の現在位置(座標)を判定するように構成されている。位置情報検出装置42は、GPS(Global Positioning System)受信機や、加速度センサや、方位センサや、道路に設置されたビーコンから発信される地点位置情報を含む電波や光を受信する受信機などの位置情報を検出するための各種装置を備えている。また、自車位置取得部41は、携帯電話回線の基地局や無線LANのアクセスポイントなどから発信される基地局などの地点位置情報を含む電波を、情報端末装置2に備えられた通信装置で受信して、自車両の現在位置を判定するように構成されてもよい。
2-2. Own vehicle
The own vehicle
In the present embodiment, the host vehicle
位置判定の際、地図データが用いられてもよい。例えば、自車位置取得部41は、地図データに含まれる道路ネットワークと、位置情報検出装置42から得た位置情報の履歴が示す経路と、のパターンマッチング(いわゆるマップマッチング)により、自車両の現在位置を判定するように構成される。本実施形態では、自車位置取得部41及び位置情報検出装置42は、誘導表示システム1が組み込まれた情報端末装置2に備えられている。
Map data may be used for position determination. For example, the host vehicle
3.風景画像取得部31
風景画像取得部31は、自車両の前方の風景の画像である前方風景画像を取得する処理を行う機能部である。
本実施形態では、風景画像取得部31は、カメラ44が撮影した前方風景画像を取得するように構成されている。
3. Landscape
The landscape
In the present embodiment, the landscape
3−1.カメラ44
カメラ44は、自車両の前方の風景を撮影するように取り付けられる。カメラ44は、例えば、ダッシュボードの上側や、バックミラーの裏側などに、車両前方に向いて取り付けられる。なお、表示装置45にヘッドマウントディスプレイが用いられる場合は、ヘッドマウントディスプレイに備えられたカメラ44が用いられてもよい。
3-1.
The
4.表示部33
表示部33は、誘導画像Giを、図10及び図11に示すように、前方風景画像又は自車両の前方の風景と重ねて表示装置45に表示させる機能部である。
表示装置45には、液晶ディスプレイなどの通常のディスプレイや、ヘッドアップディスプレイや、ヘッドマウントディスプレイなどが用いられる。
4).
As shown in FIGS. 10 and 11, the
As the
<通常のディスプレイ>
通常のディスプレイは、後ろの風景が透けて見えない液晶ディスプレイなどのディスプレイである。通常のディスプレイは、運転者が表示面を見ることができるように、ダッシュボードやフロントパネルに固定される。
表示部33は、表示装置45に通常のディスプレイが用いられる場合は、カメラ44により撮影した前方風景画像に誘導画像Giを重ねてディスプレイに表示させる。
<Normal display>
A normal display is a display such as a liquid crystal display in which the scenery behind the scene cannot be seen through. The normal display is fixed to the dashboard or the front panel so that the driver can see the display surface.
When a normal display is used for the
<ヘッドアップディスプレイ>
ヘッドアップディスプレイは、透明な光学ガラス素子に、液晶ディスプレイなどに表示させた画像を投影する方法などで実現される。ヘッドアップディスプレイは、画像が表示されていない部分は透明で、ヘッドアップディスプレイの後ろの風景が透けて見える。ヘッドアップディスプレイは、フロントガラスの室内側に固定される。
<Head-up display>
The head-up display is realized by a method of projecting an image displayed on a liquid crystal display or the like onto a transparent optical glass element. The head-up display is transparent where no image is displayed, and the scenery behind the head-up display can be seen through. The head-up display is fixed to the indoor side of the windshield.
表示部33は、表示装置45にヘッドアップディスプレイが用いられる場合は、運転者がフロントガラスを通して見る自車両の前方の風景に、誘導画像Giが重なるように、誘導画像Giをディスプレイに表示させる。
表示部33は、カメラ44が撮影した前方風景画像における、運転者がヘッドアップディスプレイを透して見る自車両の前方の風景の領域又はヘッドアップディスプレイの表示領域の位置及び範囲の情報を用いて、誘導画像Giが適切な位置で自車両の前方の風景に重なるように、誘導画像Giをディプレイの表示領域の適切な位置に表示させるように構成される。
ヘッドアップディスプレイの表示領域に対して所定の位置及び角度でカメラ44がモジュール化されて備えられている場合は、前記前方の風景の領域又は前記位置及び範囲の情報が誘導表示システム1に予め記憶されるように構成されてもよい。或いは、前記前方の風景の領域又は前記位置及び範囲の情報を、ユーザがインターフェイス装置を用いて入力するなどして、誘導表示システム1に記憶させるように構成されてもよい。
When a head-up display is used for the
The
When the
<ヘッドマウントディスプレイ>
ヘッドマウントディスプレイは、運転者の頭部に装着するディスプレイ装置であり、光学透過型のものとされる。ヘッドマウントディスプレイは、ハーフミラーに、液晶ディスプレイなどに表示させた画像を投影する方法などで実現される。ヘッドマウントディスプレイは、画像が表示されていない部分は透明で、ディスプレイの後ろの風景が透けて見える。
<Head mounted display>
The head-mounted display is a display device that is worn on the driver's head and is of an optically transmissive type. The head mounted display is realized by a method of projecting an image displayed on a liquid crystal display or the like on a half mirror. The head-mounted display is transparent when no image is displayed, and the scenery behind the display can be seen through.
表示部33は、表示装置45にヘッドマウントディスプレイが用いられる場合は、運転者の視界に含まれる自車両の前方の風景に、誘導画像Giが重なるように、誘導画像Giをディスプレイに表示させる。
ヘッドマウントディスプレイに、運転者の視界に対応する画像を撮影するカメラ44が備えられてもよい。この場合は、表示部33は、カメラ44が撮影した前方風景画像における、運転者がヘッドマウントディスプレイを透して見る自車両の前方の風景の領域又はヘッドマウントディスプレイの表示領域の位置及び範囲の情報を用いて、誘導画像Giが適切な位置で自車両の前方の風景に重なるように、ディプレイの表示領域の適切な位置に誘導画像Giを表示させる。この場合は、ヘッドマウントディスプレイの表示領域に対して所定の位置及び角度でカメラ44がモジュール化されて備えられており、前記前方の風景の領域又は前記位置及び範囲の情報が誘導表示システム1に予め記憶されるように構成される。
When a head mounted display is used for the
The head mounted display may be provided with a
また、ヘッドマウントディスプレイに、ジャイロセンサや加速度センサなどが備えられており、自車両の前方直進方向に対する運転者の視線方向の角度(チルト角、パン角、ロール角)を判定できるように構成されてもよい。表示部33は、視線方向の角度に基づいて、カメラ44が撮影した前方風景画像における、運転者がヘッドマウントディスプレイを透して見る自車両の前方の風景の領域又はヘッドマウントディスプレイの表示領域の位置及び範囲を判定するように構成されてもよい。そして、表示部33は、判定した前方の風景の領域又は位置及び範囲の情報を用いて、誘導画像Giが適切な位置で自車両の前方の風景に重なるように、ディプレイの表示領域の適切な位置に誘導画像Giを表示させる。
In addition, the head-mounted display is equipped with a gyro sensor, an acceleration sensor, and the like, and is configured to be able to determine the angle (tilt angle, pan angle, roll angle) of the driver's line-of-sight direction with respect to the straight forward direction of the host vehicle. May be. Based on the angle of the line-of-sight direction, the
5.誘導画像生成部32
誘導画像生成部32は、前方風景画像又は自車両の前方の風景と重ねて表示させるための、自車両を誘導するための誘導画像Giを生成する処理を行う機能部である。誘導画像生成部32は、重複部分表示変更部35、及び距離対応表示変更部36を備えている。
5.
The guidance
誘導画像生成部32は、誘導画像Giとして、誘導経路に沿って延びる帯状の画像や、誘導経路に沿った進行方向を示す矢印状の画像などを生成するように構成される。本実施形態では、誘導画像生成部32は、誘導画像Giとして矢印状の画像を生成する場合を例として説明している。
The guide
誘導画像生成部32は、自車両前方の誘導経路の形状に基づいて、誘導画像Giの形状を変化させる。誘導画像生成部32は、自車両前方の所定距離範囲内(例えば、500m範囲内)の誘導経路の形状を表すような誘導画像Giを生成する。
例えば、誘導画像生成部32は、自車両前方の所定距離範囲内の誘導経路が直線であれば、前方風景画像又は自車両の前方の風景と重ねて表示させたときに、図3に示すように、帯状部を自車両の前方に向かって真っ直ぐ延ばす誘導画像Giを生成する。誘導画像Giが矢印画像とされている場合は、帯状部の先端に矢尻部が設けられる。
The guide
For example, when the guidance route within a predetermined distance range in front of the host vehicle is a straight line, the guidance
或いは、誘導画像生成部32は、自車両前方の所定距離範囲内の誘導経路に右折又は左折が含まれる場合は、前方風景画像又は自車両の前方の風景と重ねて表示させたときに、図4に示すように、帯状部を自車両の進行方向に延ばした後、自車両の進行方向に対して右又は左に曲げて延ばす誘導画像Giを生成する。
また、誘導画像生成部32は、誘導経路の走行レーンが変化する場合は、図5に示すように、帯状部を自車両の進行方向に延ばした後、帯状部を自車両の進行方向に対して右又は左に曲げて延ばし、その後、帯状部を再び自車両の進行方向に曲げて延ばす誘導画像Giを生成する。
誘導画像生成部32は、誘導経路がカーブする場合は、図6に示すように、帯状部を自車両の進行方向に対して、誘導経路の形状に応じて曲げて延ばす誘導画像Giを生成する。
この際、図3から図6に示すように、進行方向に向かうに従い、帯状部の横幅を減少させてもよい。
Alternatively, when the guidance route within the predetermined distance range in front of the host vehicle includes a right turn or a left turn, the guidance
Further, when the travel lane of the guidance route changes, the guidance
When the guide route curves, the guide
At this time, as shown in FIG. 3 to FIG. 6, the width of the belt-shaped portion may be reduced as it goes in the traveling direction.
本実施形態では、誘導画像生成部32は、誘導画像Giを、前方風景画像又は自車両の前方の風景に含まれる道路に重なって見えるように配置するように構成されている。本実施形態では、誘導画像生成部32は、前方風景画像又は自車両の前方の風景において下側の、道路が存在する領域に、誘導画像Giを配置するように構成されている。誘導画像生成部32は、前方風景画像に対してエッジ検出や色彩検出などの画像認識処理を行って、道路が存在する領域を判定する。
誘導画像生成部32は、道路に重ねて表示させたときに、誘導経路の形状を表すような誘導画像Giを生成する。誘導画像生成部32は、前方風景画像又は自車両の前方の風景における、道路が存在する領域において、下側から上側に向かって延びる誘導画像Giを生成する。これにより、自車両に近い側から進行方向前方に向かって延びる誘導画像Giとなる。
In the present embodiment, the guide
The guide
本実施形態では、誘導画像生成部32は、誘導経路に沿った奥行き感のある誘導画像Giを生成するように構成されている。具体的には、誘導画像生成部32は、前方風景画像又は自車両の前方の風景と重ねて表示させたときに、誘導経路の道路面に沿って延びるような誘導画像Giを生成すると共に、進行方向に向かうに従って、誘導画像Giの横幅を減少させるように構成されている。
In the present embodiment, the guide
<消失点に基づく誘導画像Gi生成>
誘導画像生成部32は、前方風景画像又は自車両の前方の風景と重ねて表示させたときに、自車両の前縁部から、走行道路の消失点に向かって延びるような誘導画像Giを生成するように構成されてもよい。
カメラ44の取り付け位置や取り付け角度によって、走行道路面に沿った自車両の前方直進方向の座標系に対するカメラ44の画像座標系の位置関係が変化する。具体的には、カメラ44の取り付け位置や角度によって、道路面に対するカメラ44の焦点位置の高さや、自車両の前方直進方向に対するカメラ44の焦点方向(カメラ視野の中心軸)のチルト角、パン角、及びロール角などの角度や、自車両の前方直進方向に対するカメラ44の焦点位置のオフセット量が変化する。カメラ44の取り付け位置や角度によって、カメラ44が撮影した前方風景画像における、自車両の前方道路の消失点の位置や、前方風景画像に写っている自車両の前縁部の位置が変化するため、これらの位置を判定して、消失点の位置や自車両の前縁部の位置に応じて誘導画像Giを生成することが望ましい。
<Guiding image Gi generation based on vanishing point>
The guide
The positional relationship of the image coordinate system of the
誘導画像生成部32は、図2に示すように、カメラ44が撮影した前方風景画像に対して画像認識処理を行って走行レーンの左右両側の白線を認識し、左右両側の白線が前方で交わる点を消失点Pdと判定するように構成されている。誘導画像生成部32は、例えば、前方風景画像に対してエッジ検出及びハフ変換などの画像認識処理を行って、走行レーンの左右両側の白線を検出する。また、誘導画像生成部32は、例えば、左側の白線及び右側の白線をそれぞれ直線近似し、左側の近似直線と、右側の近似直線との交点の位置を消失点Pdの位置と判定する。このように判定した消失点Pdは、前方道路が直線である場合の消失点Pdに相当する。なお、前方風景画像において、自車両の直ぐ前方の白線の割合が高く、また、自車両の直ぐ前方の道路はほぼ直線であるため、前方道路が直線である場合の直線近似に相当する。誘導画像生成部32は、判定した消失点Pdの位置に対して統計処理を行い、例えば、頻度の高い位置を最終的な消失点Pdの位置と判定するように構成されてもよい。
As shown in FIG. 2, the guide
また、誘導画像生成部32は、左側の近似直線と右側の近似直線との中心線を、走行道路面に沿った自車両の前方直進方向と判定する。誘導画像生成部32は、判定した中心線に対して統計処理を行い、例えば、平均処理をして得られた直線を最終的な前方直進方向と判定するように構成されてもよい。ここで、前方直進方向は、自車両の横幅の中心を通って、走行道路面に沿って自車両の前方直進方向に延びる軸の方向である。
In addition, the guide
誘導画像生成部32は、前方風景画像に対してエッジ検出などの画像認識処理を行って、前方風景画像に撮影されている自車両の前縁部の位置を判定する。誘導画像生成部32は、例えば、前方風景画像の下側の領域において、エッジ変化などが少ない領域を判定し、判定した領域の上端部の位置を自車両の前縁部の位置と判定する。誘導画像生成部32は、エッジ変化が少ない領域を判定できない場合は、前方風景画像に自車両の前縁部が撮影されていないと判定し、前方風景画像の下端部の位置を自車両の前縁部の位置と判定する。誘導画像生成部32は、前方直進方向と前縁部との交点を、前縁部の中心点Pcと判定する。
The guide
誘導画像生成部32は、消失点Pdと前縁部の中心点Pcとを基準に、誘導画像Giを生成するように構成されている。具体的には、誘導画像生成部32は、前縁部の中心点Pcから走行道路の消失点Pdに向かって延びる誘導画像Giを生成するように構成されている。
誘導画像生成部32は、誘導経路が前方直進方向に沿った直線道路の場合は、図3に示すように、前縁部の中心点Pcから走行道路の消失点Pdまで帯状に延びる誘導画像Giを生成する。
帯状部の横幅は、前縁部の中心点Pcから前方直進方向(消失点Pd)に向かうに従って、減少させられる。例えば、帯状部の左側の境界線は、前縁部の中心点Pcから所定距離だけ左側の点から消失点Pdに向かって真っ直ぐ延び、帯状部の右側の境界線は、前縁部の中心点Pcから所定距離だけ右側の点から消失点Pdに向かって真っ直ぐ延びるように生成される。そして、誘導画像生成部32は、誘導画像Giが矢印画像とされている場合は、消失点Pdに向かう帯状部の先端に矢尻部を生成する。誘導画像生成部32は、この段階では誘導画像Giの輪郭線だけを生成するように構成されている。なお、誘導画像Giが帯状の画像とされる場合は、矢尻部が生成されずに、帯状部のみの画像となる。
The guide
When the guide route is a straight road along the straight forward direction, the guide
The lateral width of the belt-shaped portion is decreased as it goes from the center point Pc of the front edge portion toward the forward straight direction (the vanishing point Pd). For example, the left boundary line of the belt-like portion extends straight from a point on the left side by a predetermined distance from the center point Pc of the front edge portion toward the vanishing point Pd, and the right boundary line of the belt-like portion is the center point of the front edge portion. It is generated so as to extend straight from a point on the right side by a predetermined distance from Pc toward the vanishing point Pd. And the guidance
誘導画像生成部32は、誘導経路が前方で右折又は左折する場合は、図4に示すように、帯状部を前縁部の中心点Pcから消失点Pdに向けて延ばした後、帯状部を、右折又は左折に対応する位置Tdで、右折又は左折道路に対応する角度で、右側又は左側に曲げて延ばすように構成されている。そして、右側又は左側に曲がった帯状部の先端に、矢尻部を生成する。
誘導画像生成部32は、右左折位置までの距離Tz、及び前縁部中心点Pcと消失点Pdとの間の長さHdに基づいて、次式に示すような算出式を用い、前方風景画像における右折又は左折に対応する位置Tdを決定することができる。
Td=Hd(1−Fd/Tz) ・・・(1)
ここで、右左折位置Tdは、前方風景画像において、前縁部の中心点Pcからの前方直進方向に沿った長さである。Hdは、前方風景画像において、前縁部中心点Pcと消失点Pdとの間の長さである。Fdは、カメラ44の焦点距離である。Tzは、実際の誘導経路における、自車位置から右左折位置までの距離である。カメラ44の焦点距離は、誘導表示システム1に予め記憶されていたり、ユーザにより設定されたりする。
When the guidance route turns right or left in front, the guide
Based on the distance Tz to the right / left turn position and the length Hd between the front edge center point Pc and the vanishing point Pd, the guide
Td = Hd (1-Fd / Tz) (1)
Here, the right / left turn position Td is a length along the forward straight direction from the center point Pc of the front edge in the forward landscape image. Hd is the length between the front edge center point Pc and the vanishing point Pd in the front landscape image. Fd is the focal length of the
誘導画像生成部32は、誘導経路の走行レーンが変化する場合は、図5に示すように、帯状部を、前縁部の中心点Pcから消失点Pdに向けて延ばした後、走行レーンが変化する位置で、右側又は左側に曲げて、変化後の走行レーンの横幅の中心位置まで延ばし、その後、消失点Pdに向かうように曲げて消失点Pdまで延ばすように構成されている。
When the travel lane of the guidance route changes, the guide
誘導画像生成部32は、誘導経路がカーブする場合は、図6に示すように、帯状部を、前縁部の中心点Pcから、誘導経路の形状に応じて消失点Pdから変化させた位置まで、誘導経路の形状に応じた形状で延ばすように構成されている。
When the guide route is curved, as shown in FIG. 6, the guide
<透視投影>
誘導画像生成部32は、道路面の座標系において、誘導経路に沿って描いた誘導画像Gioを、前方風景画像又は自車両の前方の風景に対応する画面に透視投影させて誘導画像Giを生成するように構成されてもよい。
<Perspective projection>
The guide
図7に、透視投影に係る座標系の簡易モデルを示す。
道路面の座標系は、走行道路面に沿った自車両の前方直進方向をz軸、z軸に直交し走行道路面に沿って自車両の右側に向かう横方向をx軸、走行道路面(z軸、y軸)に直交し自車両の上側に向かう上方向をy軸としている。道路面の座標系における焦点位置Pf(視点位置)の座標位置(x、y、z)が、(0、H、0)になるように簡易化して座標系を設定している。
FIG. 7 shows a simple model of a coordinate system related to perspective projection.
The coordinate system of the road surface is such that the forward straight direction of the host vehicle along the road surface is the z-axis, the lateral direction perpendicular to the z-axis and toward the right side of the host vehicle is the x-axis, and the road surface ( The upward direction that is orthogonal to the z-axis and the y-axis and toward the upper side of the host vehicle is the y-axis. The coordinate system is set in a simplified manner so that the coordinate position (x, y, z) of the focal position Pf (viewpoint position) in the road surface coordinate system becomes (0, H, 0).
前方風景画像又は自車両の前方の風景の座標系(画像の座標系と称す)は、前方風景画像又は自車両の前方の風景の横方向に平行で右側に向かうxg軸、前方風景画像又は自車両の前方の風景の縦方向に平行で上側に向かうyg軸からなる。画像の座標系は、焦点位置Pf(視点位置)から焦点距離Fdだけ離れた位置に設定されている。xg軸は、x軸に平行になり、yg軸は、y軸に平行になり、画像の座標系の原点(xg、yg)=(0,0)が、道路面の座標系の座標位置(x、y、z)=(0、0、Fd)になるように簡易化して座標系を設定している。 The front landscape image or the coordinate system of the landscape in front of the host vehicle (referred to as the image coordinate system) is an xg axis parallel to the lateral direction of the front landscape image or the landscape in front of the host vehicle toward the right, The yg axis is parallel to the vertical direction of the landscape in front of the vehicle and is directed upward. The image coordinate system is set at a position separated from the focal position Pf (viewpoint position) by a focal distance Fd. The xg axis is parallel to the x axis, the yg axis is parallel to the y axis, and the origin (xg, yg) = (0, 0) of the image coordinate system is the coordinate position ( The coordinate system is set in a simplified manner so that x, y, z) = (0, 0, Fd).
道路面の座標系(x、y、z)における道路面の座標位置(X、0、Z)から画面の座標系(xg、yg)における座標位置(Xg、Yg)への透視投影は、次式のようになる。
(Xg、Yg)=(X/Z×Fd、H(1−Fd/Z)) ・・・(2)
逆に、画面の座標系(xg、yg)における座標位置(Xg、Yg)から道路面の座標系(x、y、z)における道路面の座標位置(X、0、Z)への逆透視投影は、次式のようになる。
(X、0、Z)=(H/(H−Yg)×Xg、0、H/(H−Yg)×Fd)
・・・(3)
The perspective projection from the coordinate position (X, 0, Z) of the road surface in the coordinate system (x, y, z) of the road surface to the coordinate position (Xg, Yg) in the coordinate system (xg, yg) of the screen is as follows. It becomes like the formula.
(Xg, Yg) = (X / Z × Fd, H (1-Fd / Z)) (2)
Conversely, reverse perspective from the coordinate position (Xg, Yg) in the coordinate system (xg, yg) of the screen to the coordinate position (X, 0, Z) of the road surface in the coordinate system (x, y, z) of the road surface. The projection is as follows:
(X, 0, Z) = (H / (H−Yg) × Xg, 0, H / (H−Yg) × Fd)
... (3)
前方風景画像又は自車両の前方の風景における消失点Pdの位置は、焦点位置Pf(視点位置)からz軸に平行に延ばした直線と、前方風景画像又は自車両の前方の風景との交点となる。なお、式(2)において、Zの値を無限大にすると消失点Pdの位置は、次式に示すようになる。
(Xg、Yg)=(0、H) ・・・(4)
The position of the vanishing point Pd in the front scenery image or the scenery in front of the host vehicle is the intersection of the straight line extending in parallel with the z axis from the focal position Pf (viewpoint position) and the front scenery image or the scenery in front of the host vehicle. Become. In Expression (2), when the value of Z is infinite, the position of the vanishing point Pd is as shown in the following expression.
(Xg, Yg) = (0, H) (4)
誘導画像生成部32は、誘導経路の位置情報、自車位置情報、方位に対する前方直進方向の角度などに基づいて、図8に示すように、道路面の座標系の道路面(x,0、z)に、誘導経路に沿った誘導画像Gioを生成する。より具体的には、誘導画像生成部32は、誘導経路の位置情報、自車位置情報、方位に対する前方直進方向の角度などに基づいて、道路面の座標系の道路面(x、0、z)における、誘導経路の座標位置を求める。そして、誘導画像生成部32は、道路面の座標系の道路面(x、0、z)において、誘導経路に沿うように誘導画像の座標位置(X、0、Z)を決定する。そして、誘導画像生成部32は、式(2)に示すような透視投影変換式及び変換係数を用い、誘導画像の座標位置(X、0、Z)に基づいて、画面の座標位置(Xg、Yg)を算出し、図4に示すような誘導画像Giを生成する。
Based on the position information of the guide route, the vehicle position information, the angle of the straight forward direction with respect to the direction, etc., the guide
この際、誘導画像生成部32は、カメラ44の取り付け位置や取り付け角度などのバラツキにより生じる透視投影変換係数の変化を反映させるように構成されてもよい。この透視投影変換係数の変化は、上記のように前方風景画像に対して画像認識処理を行って検出した白線に基づいて求めることができる。例えば、図2を用いて説明した、前方風景画像における左側白線の直線近似線と右側白線の直線近似線とを、道路面の座標系の道路面に逆透視投影したときに、逆透視投影した左側白線の直線近似線と右側白線の直線近似線とが、前方直進方向(z軸)を中心として平行になるような、透視投影変換係数を求める。
At this time, the guidance
表示装置45にヘッドマウントディスプレイが用いられる場合は、前方直進方向に対する運転者の視線方向の角度に基づいて、道路面の座標系における道路面の座標位置から、自車両の前方の風景の領域又はヘッドマウントディスプレイの表示領域に係る画面の座標系への透視投影変換係数を求め、上記のように透視投影を行って誘導画像Giを生成するように構成されてもよい。
When a head-mounted display is used for the
5−1.重複部分表示変更部35
図10から図12に示すように、重複部分表示変更部35は、誘導画像Giにおける前方車両に重なる重複領域Aoと、誘導画像Giにおける前方車両に重ならない非重複領域Anoとで、表示態様を異ならせるように構成されている。誘導画像Giが前方車両と重なっても、前方車両の視認性が低下しないように、重複領域Aoと非重複領域Anoとで表示態様を異ならせる。
5-1. Duplicate portion
As shown in FIGS. 10 to 12, the overlapping part
重複部分表示変更部35は、誘導画像Giを前方風景画像又は自車両の前方の風景と重ねて表示させたときに、誘導画像Giにおいて前方車両に重なる重複領域Aoと、誘導画像Giにおいて前方車両に重ならない非重複領域Anoと、を判定するように構成されている。
本実施形態では、重複部分表示変更部35は、図9に示すように、後述する前方車両認識部34が認識した前方車両の領域Acと重なる誘導画像Giの領域を重複領域Aoと判定し、前方車両の領域と重ならない誘導画像Giの領域を非重複領域Anoと判定する。
The overlapping part
In the present embodiment, as shown in FIG. 9, the overlapping part
重複領域Aoと非重複領域Anoとで異ならせる表示態様には、色彩(色調、明度)、透明度、模様、形状、及び変化の態様(点滅の頻度等)などが含まれる。本実施形態では、重複部分表示変更部35は、重複領域Aoと非重複領域Anoとで、色彩及び透明度の少なくとも一方を異ならせる。
The display modes that are different between the overlapping region Ao and the non-overlapping region Ano include color (color tone, lightness), transparency, pattern, shape, change mode (flashing frequency, etc.), and the like. In the present embodiment, the overlapping part
例えば、重複部分表示変更部35は、重複領域Aoの誘導画像Giの透明度を、非重複領域Anoの誘導画像Giの透明度よりも高くするように構成されてもよい。重複領域Aoの方が、透明度が高くされるので、前方車用が透けて見えやすくなり、前方車両の視認性の低下を抑制できる。
重複部分表示変更部35は、図10に示すように、重複領域Aoを中抜きの輪郭線で形成された画像とし、非重複領域Anoを、輪郭線で囲まれた領域が塗り潰された画像又は模様が施された画像としてもよい。
重複領域Aoにおける中抜き部分は透明とされ、前方車両がそのまま透けて見える。非重複領域Anoにおける塗り潰された部分は、風景がある程度透けて見えるように、透明度のある塗り潰しでもよい。また、非重複領域Anoにおける模様が施された部分は、風景がある程度透けて見えるように、ハッチング模様やドット模様等のくり返し模様とされてもよい。
For example, the overlapping part
As shown in FIG. 10, the overlapping part
The hollow portion in the overlap area Ao is transparent, and the vehicle ahead can be seen through. The filled portion in the non-overlapping area Ano may be filled with transparency so that the scenery can be seen through to some extent. In addition, the patterned portion in the non-overlapping area Ano may be a repeated pattern such as a hatched pattern or a dot pattern so that the scenery can be seen through to some extent.
重複部分表示変更部35は、重複領域Aoの誘導画像Giの輪郭線を、非重複領域Anoの誘導画像Giの輪郭線よりも細くするように構成されてもよい。また、重複部分表示変更部35は、重複領域Aoの誘導画像Giの点滅頻度を、非重複領域Anoの誘導画像Giの点滅頻度よりも高くするように構成されてもよい。重複部分表示変更部35は、重複領域Aoの誘導画像Giの色調を、非重複領域Anoの誘導画像Giの色調よりも薄くするように構成されてもよい。
The overlapping part
重複部分表示変更部35は、図11に示す、走行レーンを変更する誘導画像Giのように、誘導画像Giが現在の走行レーンからはみ出す場合は、隣接する走行レーンを走行している前方車両と重なる領域も重複領域Aoと判定して、表示態様を異ならせる。また、重複部分表示変更部35は、対向車線を走行している対向車両や停止している車両と重なる領域も重複領域Aoと判定して、表示態様を異ならせてもよい。
When the guidance image Gi protrudes from the current travel lane, as shown in the guidance image Gi for changing the travel lane shown in FIG. The overlapping area is also determined as the overlapping area Ao, and the display mode is changed. Moreover, the overlapping part
<車間距離に基づく領域判定>
重複部分表示変更部35は、車間距離判定部37により判定された自車両と前方車両との車間距離に基づいて、重複領域Aoと非重複領域Anoとを判定するように構成されてもよい。
重複部分表示変更部35は、車間距離Cz、及び前縁部中心点Pcと消失点Pdとの間の長さHdに基づいて、式(1)と同様の次式に示すような算出式を用い、前方風景画像における前方車両の下端部の位置Cdを決定することができる。
Cd=Hd(1−Fd/Cz) ・・・(5)
ここで、前方車両の下端部の位置Cdは、図12に示すように、前方風景画像における前方車両の下端部の位置であり、前方直進方向に沿った前縁部の中心点Pcと前方車両の下端部との間の長さである。Hdは、前方風景画像における、前縁部中心点Pcと消失点Pdとの間の長さである。Fdは、カメラ44の焦点距離である。Czは、実際の走行道路における自車両と前方車両との車間距離である。
<Area determination based on distance between vehicles>
The overlapping part
Based on the inter-vehicle distance Cz and the length Hd between the leading edge center point Pc and the vanishing point Pd, the overlapping part
Cd = Hd (1-Fd / Cz) (5)
Here, as shown in FIG. 12, the position Cd of the lower end portion of the forward vehicle is the position of the lower end portion of the forward vehicle in the forward landscape image, and the center point Pc of the front edge portion along the forward straight direction and the forward vehicle. It is the length between the lower end part of. Hd is a length between the front edge center point Pc and the vanishing point Pd in the front landscape image. Fd is the focal length of the
重複部分表示変更部35は、図12に示すように、前方風景画像において、前方車両の下端部の位置Cdを通る横線に対して上側の領域と重なる誘導画像Giの領域を重複領域Aoと判定し、前方車両の下端部の位置Cdを通る横線に対して下側の領域と重なる誘導画像Giの領域を非重複領域Anoと判定するように構成される。
As illustrated in FIG. 12, the overlapping portion
5−2.距離対応表示変更部36
距離対応表示変更部36は、車間距離判定部37により判定された自車両と前方車両との車間距離に応じて、誘導画像Giの表示態様を異ならせるように構成されている。
車間距離に応じて異ならせる表示態様には、重複部分表示変更部35と同様に、色彩(色調、明度)、透明度、模様、形状、及び変化の態様(点滅等)などが含まれる。誘導画像Giの表示態様の変化により、ユーザに車間距離を直観的に認識させることができる。
例えば、重複部分表示変更部35は、車間距離に応じて、色彩を異ならせるように構成される。重複部分表示変更部35は、車間距離が短くなるに従って、誘導画像Gi全体の色調を緑、橙、赤の順に段階的又は連続的に変化させる。運手者は、誘導画像Giの表示態様の変化により、直観的に車間距離を把握することができる。
5-2. Distance correspondence
The distance correspondence
The display mode that varies depending on the inter-vehicle distance includes the color (color tone, brightness), transparency, pattern, shape, mode of change (flashing, etc.), and the like, similar to the overlapping portion
For example, the overlapping part
6.前方車両認識部34
前方車両認識部34は、前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する機能部である。
前方車両認識部34は、前方風景画像に対してエッジ検出などの画像認識処理を行って、前方車両を認識するように構成されている。前方車両認識部34は、図13に示すように、前方風景画像において前方車両が含まれる領域Acを矩形の領域で判定するように構成されている。また、前方車両認識部34は、図14に示すように、現在の走行レーンの前方車両の領域Acだけでなく、隣接する走行レーンの前方車両の領域Ac2も判定するように構成されている。前方車両認識部34は、対向車線を走行している対向車両や停止している車両も前方車両として認識するように構成されてもよい。このように、前方車両認識部34は、前方風景画像に撮影されている全ての他車両を前方車両として認識するように構成されてもよい。
6). Forward
The forward
The forward
7.車間距離判定部37
車間距離判定部37は、自車両と前方車両との車間距離を判定する機能部である。
本実施形態では、車間距離判定部37は、前方車両の下端部の位置Cd、及び前縁部中心点Pcと消失点Pdとの間の長さHdに基づいて、式(5)を変形して求めた次式に示すような算出式を用い、車間距離Czを決定することができる。
Cz=Hd/(Hd−Cd)×Fd ・・・(6)
ここで、Czは、実際の走行道路における自車両と前方車両との車間距離である。前方車両の下端部の位置Cdは、図15に示すように、前方車両認識部34が認識した前方風景画像における前方車両の領域Acの下端部の位置であり、前方直進方向に沿った前縁部の中心点Pcと前方車両の下端部との間の長さである。Hdは、前方風景画像における、前縁部中心点Pcと消失点Pdとの間の長さである。Fdは、カメラ44の焦点距離である。
7). Inter-vehicle
The inter-vehicle
In the present embodiment, the inter-vehicle
Cz = Hd / (Hd−Cd) × Fd (6)
Here, Cz is the inter-vehicle distance between the host vehicle and the preceding vehicle on the actual traveling road. As shown in FIG. 15, the position Cd of the lower end portion of the forward vehicle is the position of the lower end portion of the area Ac of the forward vehicle in the forward landscape image recognized by the forward
車間距離判定部37は、電波式又は光学式のレーダーの検出信号を用いて自車両と前方車両との車間距離を判定するように構成されてもよい。レーダーの電波又は光は、自車両の前方に向けて照射される。また、車間距離判定部37は、ステレオ式のカメラの撮影画像に基づいて、車間距離を判定するように構成されてもよい。
The inter-vehicle
8.フローチャート
誘導表示システム1の処理の手順(誘導表示方法及び誘導表示プログラム)について、図16に示すフローチャートを参照して説明する。
ステップ♯01で、自車両の誘導経路を取得する誘導経路取得処理(誘導経路取得ステップ)が実行される。本実施形態では、誘導経路探索部40が探索した誘導経路が取得される。
ステップ♯02で、自車両の前方の風景の画像である前方風景画像を取得する風景画像取得処理(風景画像取得処理ステップ)が実行される。
ステップ♯03で、前方風景画像に基づいて自車両の前方を走行している他車両である前方車両を認識する前方車両認識処理(前方車両認識ステップ)が実行される。
ステップ♯04で、自車両を誘導するための誘導画像を生成する誘導画像生成処理(誘導画像生成ステップ)が実行される。この際、重複部分表示変更部35による重複部分表示変更処理、及び距離対応表示変更部36による距離対応表示変更処理が実行される。
ステップ♯05で、誘導画像を、前方風景画像又は自車両の前方の風景と重ねて表示装置に表示させる表示処理(表示ステップ)が実行される。
8). Flowchart The processing procedure (guidance display method and guidance display program) of the guidance display system 1 will be described with reference to the flowchart shown in FIG.
In step # 01, a guide route acquisition process (guide route acquisition step) for acquiring the guide route of the host vehicle is executed. In the present embodiment, the guidance route searched by the guidance
In
In
In
In
〔その他の実施形態〕
最後に、本発明のその他の実施形態について説明する。なお、以下に説明する各実施形態の構成は、それぞれ単独で適用されるものに限られず、矛盾が生じない限り、他の実施形態の構成と組み合わせて適用することも可能である。
[Other Embodiments]
Finally, other embodiments of the present invention will be described. Note that the configuration of each embodiment described below is not limited to being applied independently, and can be applied in combination with the configuration of other embodiments as long as no contradiction arises.
(1)上記の実施形態において、誘導表示システム1が組み込まれた情報端末装置2に、誘導経路探索部40、自車位置取得部41、位置情報検出装置42、地図データベース43、カメラ44、表示装置45、及び車間距離判定部37が備えられている場合を例として説明した。しかし、本発明の実施形態はこれに限定されない。すなわち、誘導経路探索部40、自車位置取得部41、位置情報検出装置42、地図データベース43、カメラ44、表示装置45、及び車間距離判定部37の一部又は全部は、情報端末装置2の外部に備えられ、無線通信又は有線通信などのデータ通信により情報端末装置2とデータ通信可能に構成されてもよい。
(1) In the above embodiment, the
(2)上記の実施形態において、誘導画像生成部32は、車間距離に応じて、誘導画像の表示態様を異ならせるように構成されている場合を例として説明した。しかし、本発明の実施形態はこれに限定されない。すなわち、誘導画像生成部32は、車間距離に応じて、誘導画像の表示態様を異ならせないように構成されてもよい。
(2) In the above-described embodiment, the case where the guide
本発明は、車両を誘導するための誘導画像を表示する誘導表示システムに好適に利用することができる。 The present invention can be suitably used for a guidance display system that displays a guidance image for guiding a vehicle.
1 :誘導表示システム
2 :情報端末装置
30 :誘導経路取得部
31 :風景画像取得部
32 :誘導画像生成部
33 :表示部
34 :前方車両認識部
35 :重複部分表示変更部
36 :距離対応表示変更部
37 :車間距離判定部
40 :誘導経路探索部
41 :自車位置取得部
42 :位置情報検出装置
43 :地図データベース
44 :カメラ
45 :表示装置
Ac :前方車両の領域
Ano :非重複領域
Ao :重複領域
Cz :車間距離
Fd :焦点距離
Gi :誘導画像
Pc :前縁部の中心点
Pd :消失点
Pf :焦点位置
Td :右左折位置
Tz :右左折位置までの距離
1: Guidance display system 2: Information terminal device 30: Guidance route acquisition unit 31: Landscape image acquisition unit 32: Guidance image generation unit 33: Display unit 34: Forward vehicle recognition unit 35: Overlapping portion display change unit 36: Distance correspondence display Change unit 37: Inter-vehicle distance determination unit 40: Guidance route search unit 41: Own vehicle position acquisition unit 42: position information detection device 43: map database 44: camera 45: display device Ac: front vehicle area Ano: non-overlapping area Ao : Overlapping region Cz: Inter-vehicle distance Fd: Focal length Gi: Guide image Pc: Front edge center point Pd: Vanishing point Pf: Focus position Td: Right / left turn position Tz: Distance to right / left turn position
Claims (8)
自車両の誘導経路を取得する誘導経路取得部と、
前記自車両の前方の風景の画像である前方風景画像を取得する風景画像取得部と、
前記前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する前方車両認識部と、
前記自車両を誘導するための前記誘導画像を生成する誘導画像生成部と、
前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景と重ねて表示装置に表示させる表示部と、を備え、
前記誘導画像生成部は、前記誘導画像における前記前方車両に重なる重複領域と、前記誘導画像における前記前方車両に重ならない非重複領域とで、表示態様を異ならせる誘導表示システム。 A guidance display system for displaying a guidance image for guiding a vehicle,
A guidance route acquisition unit that acquires the guidance route of the host vehicle;
A landscape image acquisition unit that acquires a forward landscape image that is an image of a landscape in front of the host vehicle;
A forward vehicle recognition unit for recognizing a forward vehicle that is another vehicle traveling in front of the host vehicle based on the forward landscape image;
A guidance image generation unit that generates the guidance image for guiding the host vehicle;
A display unit that displays the guidance image on a display device so as to overlap the front scenery image or the scenery in front of the host vehicle,
The guidance image generation unit is a guidance display system in which a display mode is different between an overlapping area that overlaps the preceding vehicle in the guidance image and a non-overlapping area that does not overlap the preceding vehicle in the guidance image.
演算処理装置が、
自車両の誘導経路を取得する誘導経路取得ステップと、
前記自車両の前方の風景の画像である前方風景画像を取得する風景画像取得ステップと、
前記前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する前方車両認識ステップと、
前記自車両を誘導するための前記誘導画像を生成する誘導画像生成ステップと、
前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景と重ねて表示装置に表示させる表示ステップと、を実行し、
前記誘導画像生成ステップでは、前記誘導画像における前記前方車両に重なる重複領域と、前記誘導画像における前記前方車両に重ならない非重複領域とで、表示態様を異ならせる誘導表示方法。 A guidance display method for displaying a guidance image for guiding a vehicle,
Arithmetic processing unit
A guidance route obtaining step for obtaining a guidance route of the host vehicle;
A landscape image acquisition step of acquiring a front landscape image that is an image of a landscape in front of the host vehicle;
A forward vehicle recognition step of recognizing a forward vehicle that is another vehicle traveling in front of the host vehicle based on the forward landscape image;
A guidance image generating step for generating the guidance image for guiding the host vehicle;
A display step of displaying the guidance image on a display device so as to overlap the front landscape image or the landscape in front of the host vehicle; and
In the guide image generation step, a guide display method in which a display mode is different between an overlapping region that overlaps the preceding vehicle in the guide image and a non-overlapping region that does not overlap the preceding vehicle in the guide image.
自車両の誘導経路を取得する誘導経路取得ステップと、
前記自車両の前方の風景の画像である前方風景画像を取得する風景画像取得ステップと、
前記前方風景画像に基づいて前記自車両の前方を走行している他車両である前方車両を認識する前方車両認識ステップと、
前記自車両を誘導するための前記誘導画像を生成する誘導画像生成ステップと、
前記誘導画像を、前記前方風景画像又は前記自車両の前方の風景と重ねて表示装置に表示させる表示ステップと、
をコンピュータに実行させ、
前記誘導画像生成ステップでは、前記誘導画像における前記前方車両に重なる重複領域と、前記誘導画像における前記前方車両に重ならない非重複領域とで、表示態様を異ならせる誘導表示プログラム。 A guidance display program for causing a computer to execute processing for displaying a guidance image for guiding a vehicle,
A guidance route obtaining step for obtaining a guidance route of the host vehicle;
A landscape image acquisition step of acquiring a front landscape image that is an image of a landscape in front of the host vehicle;
A forward vehicle recognition step of recognizing a forward vehicle that is another vehicle traveling in front of the host vehicle based on the forward landscape image;
A guidance image generating step for generating the guidance image for guiding the host vehicle;
A display step of displaying the guidance image on the display device so as to overlap with the front landscape image or the landscape in front of the host vehicle;
To the computer,
In the guide image generation step, a guide display program for differentiating the display mode between an overlapping region that overlaps the preceding vehicle in the guide image and a non-overlapping region that does not overlap the preceding vehicle in the guide image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013060661A JP2014185926A (en) | 2013-03-22 | 2013-03-22 | Guidance display system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013060661A JP2014185926A (en) | 2013-03-22 | 2013-03-22 | Guidance display system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014185926A true JP2014185926A (en) | 2014-10-02 |
Family
ID=51833640
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013060661A Pending JP2014185926A (en) | 2013-03-22 | 2013-03-22 | Guidance display system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014185926A (en) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015146068A1 (en) * | 2014-03-28 | 2015-10-01 | パナソニックIpマネジメント株式会社 | Information display device, information display method, and program |
WO2017056210A1 (en) * | 2015-09-30 | 2017-04-06 | 日産自動車株式会社 | Vehicular display device |
WO2017138297A1 (en) * | 2016-02-08 | 2017-08-17 | 株式会社リコー | Image display device and method for displaying image |
JP2017173125A (en) * | 2016-03-24 | 2017-09-28 | アイシン・エィ・ダブリュ株式会社 | Lane guide system and lane guide program |
JP2018072773A (en) * | 2016-11-04 | 2018-05-10 | 本田技研工業株式会社 | System, method, and program for in-vehicle display |
WO2018168418A1 (en) * | 2017-03-14 | 2018-09-20 | パイオニア株式会社 | Display device, display method, and program |
JP2018149877A (en) * | 2017-03-10 | 2018-09-27 | 株式会社Subaru | Image display device |
WO2018207308A1 (en) * | 2017-05-11 | 2018-11-15 | 三菱電機株式会社 | Display control device and display control method |
RU2677999C1 (en) * | 2015-09-30 | 2019-01-22 | Ниссан Мотор Ко., Лтд. | Vehicle displaying device |
JP2019012236A (en) * | 2017-06-30 | 2019-01-24 | パナソニックIpマネジメント株式会社 | Display system, information presentation system, method for controlling display system, program, and mobile body |
JP2020204984A (en) * | 2019-06-19 | 2020-12-24 | 日産自動車株式会社 | Information processing device and information processing method |
JP2021037936A (en) * | 2019-07-31 | 2021-03-11 | トヨタ リサーチ インスティテュート,インコーポレイティド | Autonomous vehicle user interface with predicted trajectories |
WO2021010602A3 (en) * | 2019-07-17 | 2021-03-11 | 네이버랩스 주식회사 | Method and system for showing tbt information by utilizing hd map and hud |
CN113532468A (en) * | 2020-04-15 | 2021-10-22 | 北京搜狗科技发展有限公司 | Navigation method and related equipment |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006284458A (en) * | 2005-04-01 | 2006-10-19 | Denso Corp | System for displaying drive support information |
JP2007198962A (en) * | 2006-01-27 | 2007-08-09 | Matsushita Electric Ind Co Ltd | Guidance display device for vehicle |
-
2013
- 2013-03-22 JP JP2013060661A patent/JP2014185926A/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006284458A (en) * | 2005-04-01 | 2006-10-19 | Denso Corp | System for displaying drive support information |
JP2007198962A (en) * | 2006-01-27 | 2007-08-09 | Matsushita Electric Ind Co Ltd | Guidance display device for vehicle |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015194473A (en) * | 2014-03-28 | 2015-11-05 | パナソニックIpマネジメント株式会社 | Information display device, information display method, and program |
WO2015146068A1 (en) * | 2014-03-28 | 2015-10-01 | パナソニックIpマネジメント株式会社 | Information display device, information display method, and program |
WO2017056210A1 (en) * | 2015-09-30 | 2017-04-06 | 日産自動車株式会社 | Vehicular display device |
US10466062B2 (en) | 2015-09-30 | 2019-11-05 | Nissan Motor Co., Ltd. | Vehicular display device |
CN108139224A (en) * | 2015-09-30 | 2018-06-08 | 日产自动车株式会社 | Display apparatus |
JPWO2017056210A1 (en) * | 2015-09-30 | 2018-09-13 | 日産自動車株式会社 | Vehicle display device |
RU2677999C1 (en) * | 2015-09-30 | 2019-01-22 | Ниссан Мотор Ко., Лтд. | Vehicle displaying device |
EP3358304A4 (en) * | 2015-09-30 | 2018-11-14 | Nissan Motor Co., Ltd. | Vehicular display device |
JPWO2017138297A1 (en) * | 2016-02-08 | 2018-11-15 | 株式会社リコー | Image display apparatus and image display method |
WO2017138297A1 (en) * | 2016-02-08 | 2017-08-17 | 株式会社リコー | Image display device and method for displaying image |
US10890762B2 (en) | 2016-02-08 | 2021-01-12 | Ricoh Company, Ltd. | Image display apparatus and image display method |
JP2017173125A (en) * | 2016-03-24 | 2017-09-28 | アイシン・エィ・ダブリュ株式会社 | Lane guide system and lane guide program |
JP2018072773A (en) * | 2016-11-04 | 2018-05-10 | 本田技研工業株式会社 | System, method, and program for in-vehicle display |
JP2018149877A (en) * | 2017-03-10 | 2018-09-27 | 株式会社Subaru | Image display device |
WO2018168418A1 (en) * | 2017-03-14 | 2018-09-20 | パイオニア株式会社 | Display device, display method, and program |
JPWO2018168418A1 (en) * | 2017-03-14 | 2020-01-09 | パイオニア株式会社 | Display device, display method, and program |
WO2018207308A1 (en) * | 2017-05-11 | 2018-11-15 | 三菱電機株式会社 | Display control device and display control method |
JPWO2018207308A1 (en) * | 2017-05-11 | 2019-11-07 | 三菱電機株式会社 | Display control apparatus and display control method |
JP2019012236A (en) * | 2017-06-30 | 2019-01-24 | パナソニックIpマネジメント株式会社 | Display system, information presentation system, method for controlling display system, program, and mobile body |
DE112018003314B4 (en) | 2017-06-30 | 2024-02-15 | Panasonic Intellectual Property Management Co., Ltd. | Display system, information display system, method for controlling a display system, program and recording medium for a display system and mobile body |
JP2020204984A (en) * | 2019-06-19 | 2020-12-24 | 日産自動車株式会社 | Information processing device and information processing method |
JP7321787B2 (en) | 2019-06-19 | 2023-08-07 | 日産自動車株式会社 | Information processing device and information processing method |
WO2021010602A3 (en) * | 2019-07-17 | 2021-03-11 | 네이버랩스 주식회사 | Method and system for showing tbt information by utilizing hd map and hud |
KR20210110265A (en) * | 2019-07-17 | 2021-09-07 | 네이버랩스 주식회사 | Method and system for guiding tbt information using hd map and hud |
KR102386312B1 (en) * | 2019-07-17 | 2022-04-14 | 네이버랩스 주식회사 | Method and system for guiding tbt information using hd map and hud |
JP2021037936A (en) * | 2019-07-31 | 2021-03-11 | トヨタ リサーチ インスティテュート,インコーポレイティド | Autonomous vehicle user interface with predicted trajectories |
JP7282718B2 (en) | 2019-07-31 | 2023-05-29 | トヨタ リサーチ インスティテュート,インコーポレイティド | Autonomous Vehicle User Interface with Predicted Trajectory |
CN113532468A (en) * | 2020-04-15 | 2021-10-22 | 北京搜狗科技发展有限公司 | Navigation method and related equipment |
CN113532468B (en) * | 2020-04-15 | 2024-06-28 | 北京搜狗科技发展有限公司 | Navigation method and related equipment |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014185926A (en) | Guidance display system | |
JP6658905B2 (en) | Travel support device and computer program | |
US11511627B2 (en) | Display device and computer program | |
WO2019097763A1 (en) | Superposed-image display device and computer program | |
JP4886751B2 (en) | In-vehicle display system and display method | |
JP6695049B2 (en) | Display device and display control method | |
US11525694B2 (en) | Superimposed-image display device and computer program | |
JP7151073B2 (en) | Display device and computer program | |
JP2007257286A (en) | Display system for vehicle | |
JP2008309529A (en) | Navigation system, navigation method and program for navigation | |
JP2009171537A (en) | Vehicle image processing device, vehicle image processing program, and vehicle image processing method | |
JP2009020089A (en) | System, method, and program for navigation | |
JP7365594B2 (en) | display system | |
JP6805974B2 (en) | Driving support device and computer program | |
EP2988097B1 (en) | Driving support system, method, and program | |
JP2019056884A (en) | Superimposed image display device | |
JP4968369B2 (en) | In-vehicle device and vehicle recognition method | |
JP7302389B2 (en) | Superimposed image display device and computer program | |
JP7143728B2 (en) | Superimposed image display device and computer program | |
JP6310381B2 (en) | Information processing apparatus, signal information guiding method, and computer program | |
JP6939147B2 (en) | Driving information guidance device and computer program | |
JP2015075888A (en) | Drive support device | |
JP2014071001A (en) | System, method and program for guiding recommended lane | |
JP6984341B2 (en) | Superimposed image display device and computer program | |
JP2020085897A (en) | Overlapping image display device and computer program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150320 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151217 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151222 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20160614 |