JP5622820B2 - Gaze guidance system - Google Patents

Gaze guidance system Download PDF

Info

Publication number
JP5622820B2
JP5622820B2 JP2012217941A JP2012217941A JP5622820B2 JP 5622820 B2 JP5622820 B2 JP 5622820B2 JP 2012217941 A JP2012217941 A JP 2012217941A JP 2012217941 A JP2012217941 A JP 2012217941A JP 5622820 B2 JP5622820 B2 JP 5622820B2
Authority
JP
Japan
Prior art keywords
line
vehicle
display
driver
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012217941A
Other languages
Japanese (ja)
Other versions
JP2014071022A (en
Inventor
勇 長澤
勇 長澤
典義 松尾
典義 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2012217941A priority Critical patent/JP5622820B2/en
Publication of JP2014071022A publication Critical patent/JP2014071022A/en
Application granted granted Critical
Publication of JP5622820B2 publication Critical patent/JP5622820B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Navigation (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)

Description

本発明は、自動車などの車両の運転者の視線を誘導する視線誘導システムに関する。   The present invention relates to a line-of-sight guidance system for guiding the line of sight of a driver of a vehicle such as an automobile.

現在、自動車などの車両では、運転者に目的地までの経路を示すカーナビゲーションシステムが汎用されている。カーナビゲーションシステムは、一般的に、ダッシュボードに設置されたディスプレイにて道案内を表示する。
特許文献1では、運転席から視認される現実の道路の上方に、案内経路をケーブル画像により表示する。
特許文献2では、3次元表示において、経路に対応するマークを、その経路に相当する道路上方の空中に描画する。
特許文献3では、案内地点と自車両との距離に応じて案内図形を変更する。
Currently, in a vehicle such as an automobile, a car navigation system that indicates a route to a destination to a driver is widely used. In general, a car navigation system displays route guidance on a display installed on a dashboard.
In Patent Document 1, a guide route is displayed as a cable image above an actual road visually recognized from a driver's seat.
In Patent Document 2, in a three-dimensional display, a mark corresponding to a route is drawn in the air above the road corresponding to the route.
In patent document 3, a guidance figure is changed according to the distance of a guidance point and the own vehicle.

特表2008―501956号公報Special table 2008-501956 特開2004―117294号公報Japanese Patent Laid-Open No. 2004-117294 特開平9―34352号公報JP-A-9-34352

しかしながら、上述した各種のカーナビゲーションシステムを用いたとしても、運転者の負担は大きい。
たとえば、カーナビゲーションシステムにおいて、案内経路は、一般的に運転席から視認される現実の道路と関連付けて表示されておらず、現実の道路と分離して表示される。この場合、運転者は、経路表示により経路を表示された経路により進路を認識し、認識した進路と現実の道路とを対応させ、その対応関係に基づいて現実の道路の中の進むべき道路を特定し、運転操作を実施する必要がある。経路が表示されてから、進むべき道路を特定して運転操作を実施するまでに時間がかかる。
また、車両の走行路上および周囲には、歩行者、自転車、他の車両、落下物などが存在する。運転者は、カーナビゲーションシステムの表示に基づいて経路を把握し、判断し、更に操作をしながら、これらの注意喚起が必要な車外物に対して注意を払い、避けて走行する必要がある。特に、車両側面の車外物については、車両前方の視野範囲外となるため、注意喚起できることが望ましい。
However, even if the various car navigation systems described above are used, the burden on the driver is large.
For example, in a car navigation system, the guidance route is not displayed in association with an actual road that is generally viewed from the driver's seat, and is displayed separately from the actual road. In this case, the driver recognizes the route by the route displayed by the route display, associates the recognized route with the actual road, and determines the road to be traveled in the actual road based on the correspondence. It is necessary to identify and carry out driving operations. After the route is displayed, it takes time to specify the road to travel and to perform the driving operation.
In addition, there are pedestrians, bicycles, other vehicles, fallen objects, and the like on and around the traveling road of the vehicle. The driver needs to understand and determine the route based on the display of the car navigation system, pay attention to these extraneous objects that need to be alerted, and further avoid the vehicle while operating the vehicle. In particular, it is desirable to be able to alert a vehicle exterior on the side of the vehicle because it is outside the field of view in front of the vehicle.

このように、自動車などの車両では、運転者の負担を軽減することが求められている。   Thus, in vehicles such as automobiles, it is required to reduce the burden on the driver.

運転者の負担を軽減するために、本発明では、進行方向及び周辺の車外物について視線誘導システムを提供する。   In order to reduce the burden on the driver, the present invention provides a line-of-sight guidance system with respect to the traveling direction and surrounding vehicles.

本発明に係る視線誘導システムは、車両の運転者の前方に、フロントガラスに重なる映像を表示する映像表示部と、映像表示部に対して、視線を誘導するための仮想線の映像情報を出力する処理部とを備え、処理部は、仮想線が、運転者の上側から、フロントガラス内に視認される車両の進路に沿って延び、仮想線の先端がフロントガラス内に視認される進路上の道路面と重なり、さらに仮想線と連動させて、車両前方の映像表示部の表示範囲外の車外物についての注意喚起表示を表示する映像情報を出力する。   The line-of-sight guidance system according to the present invention outputs, in front of the driver of the vehicle, a video display unit that displays an image superimposed on the windshield, and virtual line video information for guiding the line of sight to the video display unit. A processing unit, and the processing unit extends from the upper side of the driver along the course of the vehicle visually recognized in the windshield, and on the path where the tip of the virtual line is visually recognized in the windshield. Video information that displays a warning display for an outside vehicle outside the display range of the video display unit in front of the vehicle is output in conjunction with a virtual line.

好適には、処理部が、映像表示部の表示範囲内において、車両前方の映像表示部の表示範囲外の車外物についての注意喚起表示を、車外物と仮想線をつなぐ線として表示する映像情報を出力する、とよい。   Preferably, in the display range of the video display unit, the processing unit displays a warning display for a vehicle outside the display range of the video display unit in front of the vehicle as a line connecting the vehicle outside and the virtual line. Should be output.

好適には、処理部が、仮想線を表示した状態のまま、仮想線から車外物へ向けて延びるように、分岐して注意喚起表示を表示する映像情報を出力する、とよい。   Preferably, the processing unit may output video information that branches and displays a warning display so as to extend from the virtual line toward the outside of the vehicle while the virtual line is displayed.

好適には、処理部が、仮想線の表示を注意喚起表示へ切換え表示する映像情報を出力する、とよい。   Preferably, the processing unit may output video information for switching the display of the virtual line to the alert display.

好適には、運転者の視線を検知する視線検知手段を備え、処理部が、視線検知手段による情報に応じて、注意喚起表示の表示を変更する、とよい。   Preferably, a line-of-sight detection unit that detects the driver's line of sight is provided, and the processing unit changes the display of the alert display according to information from the line-of-sight detection unit.

好適には、車両前方の運転者の視野範囲内を撮像するカメラと、車両前方の運転者の視野範囲外を撮像するサイドカメラと、カメラによって撮像された画像に基づき、車両前方における道路面を認識する道路面認識部と、を備え、処理部が、認識された道路面に、仮想線の先端が重なる映像情報を出力しつつ、サイドカメラによって撮像された画像に基づき、車両前方の運転者の視野範囲外の車外物を認識し、該車外物についての注意喚起表示を表示する映像情報を出力する、とよい。   Preferably, a road surface in front of the vehicle is captured based on an image captured by the camera that captures the image within the field of view of the driver in front of the vehicle, a side camera that captures the image outside the field of view of the driver in front of the vehicle. A road surface recognition unit for recognizing a driver ahead of the vehicle based on an image captured by the side camera while outputting video information in which the tip of the virtual line overlaps the recognized road surface. It is good to recognize the vehicle outside thing outside the visual field range, and to output video information for displaying a warning display about the vehicle outside object.

好適には、カメラはステレオカメラである、とよい。   Preferably, the camera is a stereo camera.

好適には、車両の車速を検知する車速検知部を備え、映像表示部が、フロントガラスに映像を投影する映像投影部であり、処理部は、映像投影部に、運転者から見た仮想線がフロントガラスの上縁から道路面までに至るように、車速検知部からの車速に応じて仮想線の表示を変更する映像情報を出力する、とよい。
Preferably, a vehicle speed detection unit that detects the vehicle speed of the vehicle is provided, the video display unit is a video projection unit that projects an image on the windshield, and the processing unit is a virtual line viewed from the driver by the video projection unit. It is good to output the video information which changes the display of a virtual line according to the vehicle speed from a vehicle speed detection part so that it may reach from the upper edge of a windshield to a road surface.

本発明の視線誘導システムによれば、車両の周辺の注意喚起対象物についての注意喚起表示を、運転者の前方にフロントガラスと重ねて表示する。しかも注意喚起表示は、運転者の上側から、フロントガラス内に視認される車両の進路に沿って延び、仮想線の先端がフロントガラス内に視認される進路上の道路面までの仮想線と連動して表示される。
運転者の視線は、仮想線と連動して表示された注意喚起表示により、視野範囲外、映像表示部の表示範囲外の注意喚起対象物へ誘導される。
運転者は、自然に誘導された視線で、注意喚起対象物を直視できる。運転者は、表示と注意喚起対象物とを対応付けたり、その対応付けに基づいて表示に係る注意喚起対象物を特定したりすることなく、映像表示部の表示範囲外の注意喚起対象物を即座に視認できる。
本発明では、仮想線や注意喚起表示により運転者の視線を映像表示部の表示範囲外の注意喚起対象物へ誘導し、運転者の負担を軽減できる。
According to the line-of-sight guidance system of the present invention, a warning display about a warning target around the vehicle is displayed in a superimposed manner on the windshield in front of the driver. Moreover, the warning display extends from the upper side of the driver along the course of the vehicle that is visible in the windshield, and is linked to the virtual line from the top of the virtual line to the road surface on the course that is visible in the windshield. Is displayed.
The driver's line of sight is guided to a warning object outside the visual field range and outside the display range of the video display unit by a warning display displayed in conjunction with the virtual line.
The driver can directly look at the alert object with a naturally guided line of sight. The driver does not associate the display with the alert target object, or specifies the alert target object related to the display based on the association, and can display the alert target object outside the display range of the video display unit. Visible immediately.
In this invention, a driver | operator's eyes | visual_axis is induced | guided | derived to the alerting target object outside the display range of a video display part by a virtual line or an alerting display, and a driver | operator's burden can be reduced.

本発明の第1実施形態に係る視線誘導システムの全体を示す図である。It is a figure showing the whole line-of-sight guidance system concerning a 1st embodiment of the present invention. 本発明の第1実施形態に係る視線誘導システムのブロック構成図である。1 is a block configuration diagram of a line-of-sight guidance system according to a first embodiment of the present invention. 本発明の第1実施形態に係る視線誘導システムの全体フローチャートである。It is a whole flowchart of the gaze guidance system concerning a 1st embodiment of the present invention. 本発明の第1実施形態に係る視線誘導システムの視線誘導表示処理の一部フローチャートである。It is a partial flowchart of the gaze guidance display processing of the gaze guidance system concerning a 1st embodiment of the present invention. 本発明の第1実施形態に係る視線誘導システムの視線誘導表示処理の注意喚起表示に係るフローチャートである。It is a flowchart which concerns on the alert display of the gaze guidance display process of the gaze guidance system which concerns on 1st Embodiment of this invention. 本発明の第1実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 1st Embodiment of this invention. 本発明の第1実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 1st Embodiment of this invention. 本発明の第2実施形態に係る視線誘導システムの視線誘導表示処理の注意喚起表示に係るフローチャートである。It is a flowchart which concerns on the alert display of the gaze guidance display process of the gaze guidance system which concerns on 2nd Embodiment of this invention. 本発明の第2実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 2nd Embodiment of this invention. 本発明の第3実施形態に係る視線誘導システムの視線誘導表示処理の注意喚起表示に係るフローチャートである。It is a flowchart which concerns on the alert display of the gaze guidance display process of the gaze guidance system which concerns on 3rd Embodiment of this invention. 本発明の第3実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 3rd Embodiment of this invention. 本発明の第4実施形態に係る視線誘導システムの視線誘導表示処理の一部フローチャートである。It is a partial flowchart of the gaze guidance display process of the gaze guidance system concerning a 4th embodiment of the present invention. 本発明の第4実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 4th Embodiment of this invention. 本発明の第4実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 4th Embodiment of this invention. 本発明の第4実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 4th Embodiment of this invention. 本発明の第4実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 4th Embodiment of this invention. 本発明の第4実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。It is a figure of the operation state containing an example of the display on a windshield in the gaze guidance system which concerns on 4th Embodiment of this invention.

以下、本発明の第1実施形態を、図面に基づいて説明する。   Hereinafter, a first embodiment of the present invention will be described with reference to the drawings.

[第1実施形態]
図1〜7は、本発明の第1実施形態を示している。図1に基づいて本発明の視線誘導システムについて説明する。
[First Embodiment]
1 to 7 show a first embodiment of the present invention. The line-of-sight guidance system of the present invention will be described with reference to FIG.

図1は、本発明の第1実施形態に係る視線誘導システムの全体を示す図である。視線誘導システム1は、地図情報データベース2と、GPS(Global Positioning System)アンテナ3と、運転者の前方に設置されたフロントガラス6と、映像表示部(映像投影部7)と、地図情報データベース2からの地図情報とGPSアンテナ3により取得されたGPS情報から所望の経路情報を出力する処理部10を備える。視線誘導システム1は、さらに、VICS(Vehicle Information and Communication System)やETC(Electronic Toll Collection System)などの高度道路交通システム通信用のアンテナ4を備え、交通情報の取得や、有料道路における支払などを行う。   FIG. 1 is a diagram illustrating an entire line-of-sight guidance system according to the first embodiment of the present invention. The line-of-sight guidance system 1 includes a map information database 2, a GPS (Global Positioning System) antenna 3, a windshield 6 installed in front of the driver, a video display unit (video projection unit 7), and a map information database 2 Is provided with a processing unit 10 for outputting desired route information from the map information obtained from the GPS and the GPS information acquired by the GPS antenna 3. The line-of-sight guidance system 1 is further equipped with an antenna 4 for communication with intelligent road traffic systems such as VICS (Vehicle Information and Communication System) and ETC (Electronic Toll Collection System), and is used to acquire traffic information and pay on toll roads. Do.

車両後輪には車速センサ5が設けられ、検出された車速情報が処理部10へ入力される。車室内には2つのカメラから構成されるステレオカメラ8が設けられ、車外前方を撮像している。ステレオカメラ8は、その視差によって、車両の前方の物体や道路面までの距離を測定できるようになっている。さらに車室内には、運転者の視線を検知する視線検知部9、運転者が所望の目的地を設定するための操作部11、音声による目的地設定のためのマイク15、明るさを検知する照度センサ14などが設けられている。   A vehicle speed sensor 5 is provided on the vehicle rear wheel, and detected vehicle speed information is input to the processing unit 10. A stereo camera 8 composed of two cameras is provided in the vehicle interior and images the front outside the vehicle. The stereo camera 8 can measure the distance to the object in front of the vehicle and the road surface by the parallax. Further, in the passenger compartment, a line-of-sight detection unit 9 for detecting the driver's line of sight, an operation unit 11 for the driver to set a desired destination, a microphone 15 for setting a destination by voice, and brightness are detected. An illuminance sensor 14 and the like are provided.

運転者の操舵を検知する操舵入力検知部12と、運転者の制動を検知する制動入力検知部13からの情報も処理部10に入力される。さらに、運転者の視野範囲外、映像表示部の表示範囲外を検知・撮像するサイドカメラ19(図2を参照)が設けられている。   Information from the steering input detection unit 12 that detects the steering of the driver and the braking input detection unit 13 that detects the braking of the driver is also input to the processing unit 10. Furthermore, a side camera 19 (see FIG. 2) is provided for detecting and capturing an image outside the driver's visual field range and outside the display range of the video display unit.

次に処理部10を中心として、処理部10に接続される各構成について説明する。図2は、本発明の第1実施形態に係る視線誘導システムのブロック構成図である。処理部10は、地図情報データベース2、GPSアンテナ3、アンテナ4、車速センサ5、映像投影部7、画像処理部17を介してステレオカメラ8およびサイドカメラ19、視線検知部9、操作部11、操舵入力検知部12、制動入力検知部13、照度センサ14、音声解析部16を介してマイク15、と接続される。   Next, the components connected to the processing unit 10 will be described with the processing unit 10 as a center. FIG. 2 is a block configuration diagram of the line-of-sight guidance system according to the first embodiment of the present invention. The processing unit 10 includes a map information database 2, a GPS antenna 3, an antenna 4, a vehicle speed sensor 5, a video projection unit 7, an image processing unit 17, a stereo camera 8 and a side camera 19, a line-of-sight detection unit 9, an operation unit 11, The steering input detection unit 12, the braking input detection unit 13, the illuminance sensor 14, and the sound analysis unit 16 are connected to the microphone 15.

処理部10は、車速センサ5、視線検知部9などからの情報を受け取り、フロントガラス6に表示される仮想線Lの表示形状などの変更処理を行う。本実施形態の仮想線Lは、視線誘導対象物に至る視線誘導線または、車両の進行方向を示す進路誘導線として機能する。また、車内に設けられた操作部11からの情報、運転者によるハンドル操作を検知する操舵入力検知部12からの情報、運転者のブレーキ操作を検知する制動入力検知部13からの情報、照度センサ14によるフロントガラス6付近での照度情報、マイク15からの情報(音声解析部16によって音声解析された情報)も受け取る。   The processing unit 10 receives information from the vehicle speed sensor 5, the line-of-sight detection unit 9, and the like, and performs processing for changing the display shape of the virtual line L displayed on the windshield 6. The virtual line L of the present embodiment functions as a line-of-sight guidance line that reaches the line-of-sight guidance object or a course guidance line that indicates the traveling direction of the vehicle. Also, information from the operation unit 11 provided in the vehicle, information from the steering input detection unit 12 that detects the steering operation by the driver, information from the braking input detection unit 13 that detects the brake operation of the driver, and an illuminance sensor 14 also receives illuminance information in the vicinity of the windshield 6 and information from the microphone 15 (information analyzed by the sound analysis unit 16).

また、処理部10は、運転者によるハンドル操作を検知する操舵入力検知部12からの情報、運転者のブレーキ操作を検知する制動入力検知部13からの情報に応じて、仮想線Lの表示形状などを変更する。さらに、処理部10は、照度センサ14によるフロントガラス6付近での照度情報から、仮想線Lが運転者にとって見やすいように濃度や明るさなどを変更する。   Further, the processing unit 10 displays the virtual line L according to the information from the steering input detection unit 12 that detects the steering operation by the driver and the information from the braking input detection unit 13 that detects the brake operation of the driver. Etc. Furthermore, the processing unit 10 changes the density, brightness, and the like so that the virtual line L is easy for the driver to see from the illuminance information near the windshield 6 by the illuminance sensor 14.

次に、視線誘導システムのフローチャートおよび運転者が運転席から見たときの状態を含む視線誘導システムの動作状態の図を示しながら、詳細を説明する。図3は、本発明の第1実施形態に係る視線誘導システムの全体フローチャートである。   Next, details will be described with reference to a flowchart of the line-of-sight guidance system and a diagram of an operation state of the line-of-sight guidance system including a state when the driver looks from the driver's seat. FIG. 3 is an overall flowchart of the line-of-sight guidance system according to the first embodiment of the present invention.

運転者は、車内に設けられた操作部11を操作することによって、目的地を指定する。また、運転者の声を検知するマイク15に目的地を言うことで、音声解析部16によって音声解析されて、目的地を指定することもできる(ステップST10)。   The driver designates a destination by operating the operation unit 11 provided in the vehicle. In addition, by saying the destination to the microphone 15 that detects the driver's voice, the voice analysis unit 16 can analyze the voice and specify the destination (step ST10).

処理部10が、指定された目的地に応じて、経路処理を行う(ステップST11)。経路処理において、処理部10は、地図情報データベース2の地図情報とGPSアンテナ3により取得されたGPS情報から自車位置と自車方位を取得し、目的地までの所望の経路を算出する。経路および経路誘導に必要な地図情報はメモリ20に格納される。走行中などにGPS情報による自車位置が経路にないと判断された場合には、適時、経路を算出し、メモリ20内の情報は書き換えられる。   The processing unit 10 performs route processing according to the designated destination (step ST11). In the route processing, the processing unit 10 acquires the vehicle position and the vehicle direction from the map information in the map information database 2 and the GPS information acquired by the GPS antenna 3, and calculates a desired route to the destination. Map information necessary for the route and route guidance is stored in the memory 20. When it is determined that the vehicle position based on the GPS information is not on the route during traveling or the like, the route is calculated at appropriate times and the information in the memory 20 is rewritten.

映像投影部7は、処理部10のメモリ20に格納された目的地までの経路および地図情報に基づいて処理された仮想線L、道路情報などをフロントガラス6に表示させる(ステップST12)。この視線誘導表示処理において、処理部10は、ステレオカメラ8から受信している道路面の情報や道路面および車外の物体までの距離に関する情報も利用している。   The video projection unit 7 displays the route to the destination stored in the memory 20 of the processing unit 10 and the virtual line L processed based on the map information, road information, and the like on the windshield 6 (step ST12). In the line-of-sight guidance display process, the processing unit 10 also uses information on the road surface received from the stereo camera 8 and information on the distance to the road surface and an object outside the vehicle.

ステレオカメラ8で撮像された映像は、画像処理部17で処理され、さらに、路面認識部18で道路面が認識される。同時に画像処理部17は、ステレオカメラ8によって撮像された範囲内にある物体との相対的速度や距離を解析する。これにより、処理部10は、経路および地図情報だけなく、距離と道路面の情報も利用して、表示すべき情報を処理する。処理部10は、車両の速度に応じて、仮想線Lの表示形状を変えて、フロントガラス6に表示するような情報を映像投影部7に送る。   The video imaged by the stereo camera 8 is processed by the image processing unit 17, and the road surface is recognized by the road surface recognition unit 18. At the same time, the image processing unit 17 analyzes the relative speed and distance with the object within the range imaged by the stereo camera 8. Thereby, the processing unit 10 processes information to be displayed using not only the route and map information but also the distance and road surface information. The processing unit 10 changes the display shape of the virtual line L according to the speed of the vehicle and sends information to be displayed on the windshield 6 to the video projection unit 7.

なお、本第1実施形態では、映像表示部として映像投影部7を用いたが、フロントガラスに透過性の有機ELシートを設け、このシートに直接表示させるようにしてもよい。この場合、処理部10は有機ELシートに映像情報を出力する。   In the first embodiment, the image projection unit 7 is used as the image display unit. However, a transmissive organic EL sheet may be provided on the windshield and displayed directly on the sheet. In this case, the processing unit 10 outputs video information to the organic EL sheet.

次に、本発明に係る視線誘導システムの代表的な視線誘導表示処理を図4のフローチャートを用いて説明する。図4は、本発明の第1実施形態に係る視線誘導システムの視線誘導表示処理のフローチャートである。   Next, typical visual guidance display processing of the visual guidance system according to the present invention will be described with reference to the flowchart of FIG. FIG. 4 is a flowchart of the gaze guidance display process of the gaze guidance system according to the first embodiment of the present invention.

ステップST12の視線誘導表示の処理において、路面認識部18が、ステレオカメラ8で撮像され、画像処理部17で処理された画像から道路面を認識し、この情報を処理部10へ送る。これにより道路面が認識される(ステップST13)。   In the line-of-sight guidance display process of step ST12, the road surface recognition unit 18 recognizes the road surface from the image captured by the stereo camera 8 and processed by the image processing unit 17, and sends this information to the processing unit 10. Thereby, a road surface is recognized (step ST13).

次に、処理部10は、この認識された道路面に対して、メモリ20に格納された目的地までの経路および地図情報に基づいて処理された仮想線Lの先端を重ねて表示する映像情報を出力する(ステップST14)。仮想線Lの先端は、運転者から見ると、道路面上に接地されているように見えている。   Next, the processing unit 10 displays video information for displaying the route to the destination stored in the memory 20 and the tip of the virtual line L processed based on the map information on the recognized road surface. Is output (step ST14). When viewed from the driver, the tip of the virtual line L appears to be grounded on the road surface.

これにより、運転者の前方に設けられたフロントガラスにおいて、実際の風景や道路に重ねて、仮想線Lが表示され、運転者の負担を軽減することができる。また、ガラスに表示することで、音声や音の補助指示がなくても、視線を誘導することができる。これは、線があると、端部を探す行動をする人間の習性を利用したものである。従って、走行状態の目線で、自然に進行方向の誘導が可能となり、運転者が意識することなく、走行環境に適した視線に誘導できる。なお、線で表示しているため、道路環境を隠す割合が小さく、進路誘導線と道路環境を一緒に目視可能である。   Thereby, on the windshield provided in front of the driver, the virtual line L is displayed so as to overlap the actual scenery or road, and the burden on the driver can be reduced. Further, by displaying on the glass, it is possible to guide the line of sight even when there is no voice or sound assistance instruction. This is based on the human habit of looking for an edge when there is a line. Therefore, it is possible to guide the traveling direction naturally from the viewpoint of the traveling state, and it is possible to guide to the line of sight suitable for the traveling environment without being conscious of the driver. In addition, since it displays with the line, the ratio which hides a road environment is small, and a course guidance line and a road environment can be visually observed together.

次に、図5〜図7を参照して、視線誘導システムの視線誘導表示処理について詳細に説明をする。図5は、本発明の第1実施形態に係る視線誘導システムの視線誘導表示処理の注意喚起表示LAに係るフローチャートである。注意喚起表示LAは、視線誘導表示の一部として処理される。図6,7は、本発明の第1実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。動作状態の図において、手前側に運転者Aがおり、運転者Aの前方にはフロントガラス6と室内のミラー6Mがあり、運転者Aはフロントガラス6を挟んで車外の現実の像を見ている。   Next, the line-of-sight guidance display processing of the line-of-sight guidance system will be described in detail with reference to FIGS. FIG. 5 is a flowchart according to the alert display LA of the visual guidance display process of the visual guidance system according to the first embodiment of the present invention. The alert display LA is processed as part of the line-of-sight guidance display. FIGS. 6 and 7 are diagrams showing an operation state including an example of display on the windshield in the line-of-sight guidance system according to the first embodiment of the present invention. In the figure of the operating state, there is a driver A on the front side, a windshield 6 and an indoor mirror 6M in front of the driver A, and the driver A sees an actual image outside the vehicle with the windshield 6 in between. ing.

映像表示部の表示範囲外の車外物が認識されず、または車外物が認識されても、注意喚起をするほどの車外物でなく、注意喚起が表示されない状況のときは、図6に示すように、車両の前方の道路面に重なるように、仮想線Lが運転者Aの前方のフロントガラスに表示されている。   As shown in FIG. 6, when a vehicle outside the display range of the video display unit is not recognized, or even if a vehicle outside is recognized, the vehicle is not a vehicle outside enough to call attention and no alert is displayed. In addition, the virtual line L is displayed on the windshield in front of the driver A so as to overlap the road surface in front of the vehicle.

処理部10が、サイドカメラ19で撮像され、画像処理部17で処理された画像から車外物を認識する(ステップST15)。車外物が認識されない場合は(ステップST15でNO)、ステップST15を繰り返す。車外物が認識されると(ステップST15でYES)、当該車外物に対して注意喚起が必要か否かを判断する(ステップST16)。   The processing unit 10 recognizes an object outside the vehicle from the image captured by the side camera 19 and processed by the image processing unit 17 (step ST15). If no external object is recognized (NO in step ST15), step ST15 is repeated. When a vehicle outside object is recognized (YES in step ST15), it is determined whether or not it is necessary to call attention to the vehicle outside object (step ST16).

認識された車外物に対して注意喚起が必要でないと判断されると(ステップST16でNO)、サイドカメラ19で撮像され、画像処理部17で処理された画像内の別の車外物の認識を行う(再度、ステップST15,ステップST16へ)。   If it is determined that it is not necessary to call attention to the recognized vehicle exterior (NO in step ST16), recognition of another vehicle exterior in the image captured by the side camera 19 and processed by the image processing unit 17 is performed. Perform (again, step ST15, step ST16).

認識された車外物に対して注意喚起が必要であると判断されると(ステップST16でYES)、注意喚起表示LAが行われる(ステップST17)。処理部10は、仮想線Lの先端がフロントガラス内に視認される進路上の道路面と重なり、さらに仮想線Lと連動させて、車外物についての注意喚起表示LAを表示する映像情報を出力する。具体的には、処理部10が、車外物と仮想線Lをつなぐ線として注意喚起表示LAを行う映像情報を出力する。このとき、車外物が運転者Aから見てサイドガラスに認識可能な場合は、サイドガラスに注意喚起表示LAを行うことができる。   If it is determined that attention is required for the recognized vehicle exterior (YES in step ST16), a warning display LA is performed (step ST17). The processing unit 10 outputs video information that displays a warning display LA about an outside object in conjunction with the virtual line L, in addition to the road surface on the path where the tip of the virtual line L is visually recognized in the windshield. To do. Specifically, the processing unit 10 outputs video information for performing the alert display LA as a line connecting the vehicle exterior and the virtual line L. At this time, when an external object can be recognized by the side glass when viewed from the driver A, the alert display LA can be performed on the side glass.

図7で示すように、運転者Aが見るフロントガラス6には、仮想線Lが表示されたまま、注意喚起表示LAが表示される。図7では、車両が走行中の道路に向かって近づいている自転車Bを注意喚起するべき車外物として認識し、自転車Bと仮想線Lをつなぐ線として注意喚起表示LAを行っている。また、仮想線Lは表示した状態のまま、仮想線Lから自転車Bへ向けて延びるように、分岐して注意喚起表示LAを行っている。これは、処理部10が画像処理部17で処理されて認識した車外物(自転車B)に対して、仮想線Lから分岐して延びる線(報知線)の映像情報を映像投影部7に送ることで表示される。   As shown in FIG. 7, a warning display LA is displayed on the windshield 6 viewed by the driver A while the virtual line L is displayed. In FIG. 7, the bicycle B approaching the road on which the vehicle is traveling is recognized as an external object to be alerted, and the alert display LA is performed as a line connecting the bicycle B and the virtual line L. Further, the virtual line L is branched and is displayed so as to extend from the virtual line L toward the bicycle B while the virtual line L is displayed. This is for the vehicle information (bicycle B) recognized and processed by the image processing unit 17 by the processing unit 10 to send video information of a line (notification line) extending from the virtual line L to the video projection unit 7. Is displayed.

次に表示された注意喚起表示LAの終了をするか否かが判断される(ステップST20)。注意喚起表示LAが終了しない場合は(ステップST20でNO)、注意喚起が表示され続ける。注意喚起表示LAが終了する場合は(ステップST20でYES)、視線誘導表示がなされる。   Next, it is determined whether or not to end the displayed alert display LA (step ST20). When the alert display LA does not end (NO in step ST20), the alert is continuously displayed. When the alert display LA ends (YES in step ST20), the line-of-sight guidance display is performed.

[第2実施形態]
図8および図9は、本発明の第2実施形態を示している。図8および図9に基づいて本発明の視線誘導システムについて説明する。
次に、図8および図9を参照して、視線誘導システムの視線誘導表示処理について詳細に説明をする。図8は、本発明の第2実施形態に係る視線誘導システムの視線誘導表示処理の注意喚起表示LAに係るフローチャートである。図9は、本発明の第2実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。
[Second Embodiment]
8 and 9 show a second embodiment of the present invention. The line-of-sight guidance system according to the present invention will be described with reference to FIGS.
Next, the line-of-sight guidance display processing of the line-of-sight guidance system will be described in detail with reference to FIGS. 8 and 9. FIG. 8 is a flowchart according to the alert display LA of the line-of-sight guidance display process of the line-of-sight guidance system according to the second embodiment of the present invention. FIG. 9 is a diagram of an operation state including an example of display on the windshield in the line-of-sight guidance system according to the second embodiment of the present invention.

映像表示部の表示範囲外の車外物が認識されず、または車外物が認識されても、注意喚起をするほどの車外物でなく、注意喚起が表示されない状況のときは、本発明の第1実施形態と同様に図6に示すように、車両の前方の道路面に重なるように、仮想線Lが運転者Aの前方のフロントガラスに表示されている。   When a vehicle outside the display range of the video display unit is not recognized, or even if a vehicle outside is recognized, the vehicle is not a vehicle outside enough to alert, and the alert is not displayed. Similar to the embodiment, as shown in FIG. 6, the virtual line L is displayed on the windshield in front of the driver A so as to overlap the road surface in front of the vehicle.

処理部10が、サイドカメラ19で撮像され、画像処理部17で処理された画像から車外物を認識する(ステップST15)。車外物が認識されない場合は(ステップST15でNO)、ステップST15を繰り返す。車外物が認識されると(ステップST15でYES)、当該車外物に対して注意喚起が必要か否かを判断する(ステップST16)。   The processing unit 10 recognizes an object outside the vehicle from the image captured by the side camera 19 and processed by the image processing unit 17 (step ST15). If no external object is recognized (NO in step ST15), step ST15 is repeated. When a vehicle outside object is recognized (YES in step ST15), it is determined whether or not it is necessary to call attention to the vehicle outside object (step ST16).

認識された車外物に対して注意喚起が必要でないと判断されると(ステップST16でNO)、サイドカメラ19で撮像され、画像処理部17で処理された画像内の別の車外物の認識を行う(再度、ステップST15,ステップST16へ)。   If it is determined that it is not necessary to call attention to the recognized vehicle exterior (NO in step ST16), recognition of another vehicle exterior in the image captured by the side camera 19 and processed by the image processing unit 17 is performed. Perform (again, step ST15, step ST16).

認識された車外物に対して注意喚起が必要であると判断されると(ステップST16でYES)、注意喚起表示LAへの切換えが行われる(ステップST18)。図9で示すように、仮想線Lの表示が消され、注意喚起表示LAへ切換え表示される。図9では、車両が走行中の道路に向かって近づいている自転車Bを注意喚起するべき車外物として認識し、自転車Bに対して注意喚起表示LAを行っている。これは、処理部10が画像処理部17で処理されて認識した車外物(自転車B)に対して、自転車Bに向けて延びる映像情報を映像投影部7に送ることで表示される。このとき、車外物が運転者Aから見てサイドガラスに認識可能な場合は、サイドガラスに注意喚起表示LAを行うことができる。   If it is determined that attention is required for the recognized vehicle exterior (YES in step ST16), switching to the alert display LA is performed (step ST18). As shown in FIG. 9, the display of the virtual line L is erased and switched to the alert display LA. In FIG. 9, the bicycle B approaching the road on which the vehicle is traveling is recognized as an external object to be alerted, and the alert display LA is performed on the bicycle B. This is displayed by sending video information extending toward the bicycle B to the video projection unit 7 with respect to the vehicle exterior (bicycle B) recognized by the processing unit 10 processed by the image processing unit 17. At this time, when an external object can be recognized by the side glass when viewed from the driver A, the alert display LA can be performed on the side glass.

次に表示された注意喚起表示LAの終了をするか否かが判断される(ステップST20)。注意喚起表示LAが終了しない場合は(ステップST20でNO)、注意喚起が表示され続ける。注意喚起表示LAが終了する場合は(ステップST20でYES)、視線誘導表示がなされる。   Next, it is determined whether or not to end the displayed alert display LA (step ST20). When the alert display LA does not end (NO in step ST20), the alert is continuously displayed. When the alert display LA ends (YES in step ST20), the line-of-sight guidance display is performed.

[第3実施形態]
図10および図11は、本発明の第3実施形態を示している。図10および図11に基づいて本発明の視線誘導システムについて説明する。
次に、図10および図11を参照して、視線誘導システムの視線誘導表示処理について詳細に説明をする。図10は、本発明の第3実施形態に係る視線誘導システムの視線誘導表示処理の注意喚起表示LAに係るフローチャートである。図11は、本発明の第3実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。
[Third Embodiment]
10 and 11 show a third embodiment of the present invention. The line-of-sight guidance system according to the present invention will be described with reference to FIGS.
Next, the line-of-sight guidance display processing of the line-of-sight guidance system will be described in detail with reference to FIGS. 10 and 11. FIG. 10 is a flowchart according to the alert display LA of the line-of-sight guidance display process of the line-of-sight guidance system according to the third embodiment of the present invention. FIG. 11 is a diagram of an operation state including an example of display on the windshield in the line-of-sight guidance system according to the third embodiment of the present invention.

映像表示部の表示範囲外の車外物が認識されず、または車外物が認識されても、注意喚起をするほどの車外物でなく、注意喚起が表示されない状況のときは、本発明の第1実施形態と同様に図6に示すように、車両の前方の道路面に重なるように、仮想線Lが運転者Aの前方のフロントガラスに表示されている。   When a vehicle outside the display range of the video display unit is not recognized, or even if a vehicle outside is recognized, the vehicle is not a vehicle outside enough to alert, and the alert is not displayed. Similar to the embodiment, as shown in FIG. 6, the virtual line L is displayed on the windshield in front of the driver A so as to overlap the road surface in front of the vehicle.

処理部10が、サイドカメラ19で撮像され、画像処理部17で処理された画像から車外物を認識する(ステップST15)。車外物が認識されない場合は(ステップST15でNO)、ステップST15を繰り返す。車外物が認識されると(ステップST15でYES)、当該車外物に対して注意喚起が必要か否かを判断する(ステップST16)。   The processing unit 10 recognizes an object outside the vehicle from the image captured by the side camera 19 and processed by the image processing unit 17 (step ST15). If no external object is recognized (NO in step ST15), step ST15 is repeated. When a vehicle outside object is recognized (YES in step ST15), it is determined whether or not it is necessary to call attention to the vehicle outside object (step ST16).

認識された車外物に対して注意喚起が必要でないと判断されると(ステップST16でNO)、サイドカメラ19で撮像され、画像処理部17で処理された画像内の別の車外物の認識を行う(再度、ステップST15,ステップST16へ)。   If it is determined that it is not necessary to call attention to the recognized vehicle exterior (NO in step ST16), recognition of another vehicle exterior in the image captured by the side camera 19 and processed by the image processing unit 17 is performed. Perform (again, step ST15, step ST16).

認識された車外物に対して注意喚起が必要であると判断されると(ステップST16でYES)、注意喚起表示LAが行われる(ステップST17)。本発明の第1実施形態と同様に図7で示すように、仮想線Lが表示されたまま、注意喚起表示LAが表示される。図7では、車両が走行中の道路に向かって近づいている自転車Bを注意喚起するべき車外物として認識し、自転車Bと仮想線Lをつなぐ線として注意喚起表示LAを行っている。また、仮想線Lは表示した状態のまま、仮想線Lから自転車Bへ対して延びるように、分岐して注意喚起表示LAを行っている。これは、処理部10が画像処理部17で処理されて認識した車外物(自転車B)に向けて、仮想線Lから分岐して延びる映像情報を映像投影部7に送ることで表示される。   If it is determined that attention is required for the recognized vehicle exterior (YES in step ST16), a warning display LA is performed (step ST17). As in the first embodiment of the present invention, as shown in FIG. 7, the alert display LA is displayed while the virtual line L is displayed. In FIG. 7, the bicycle B approaching the road on which the vehicle is traveling is recognized as an external object to be alerted, and the alert display LA is performed as a line connecting the bicycle B and the virtual line L. Further, the virtual line L is branched and is displayed so as to extend from the virtual line L to the bicycle B while the virtual line L is displayed. This is displayed by sending video information branched from the virtual line L to the video projection unit 7 toward the vehicle exterior (bicycle B) recognized by the processing unit 10 processed by the image processing unit 17.

次に、視線検知部9が運転者Aの視線を検知し、処理部10へ視線検知情報を送る。処理部10は視線検知情報と画像処理部17からの画像情報から、運転者Aの視線が車外物(自転車B)を認識したかを判断する(ステップST19)。運転者Aの視線が車外物(自転車B)を認識してない場合には(ステップST19でNO)、注意喚起表示LAをし続ける(ステップST17)。このとき、さらに注意喚起表示LAを強調するように表示してもよい。   Next, the line-of-sight detection unit 9 detects the line of sight of the driver A and sends the line-of-sight detection information to the processing unit 10. The processing unit 10 determines from the line-of-sight detection information and the image information from the image processing unit 17 whether the driver A's line of sight has recognized an object outside the vehicle (bicycle B) (step ST19). If driver A's line of sight does not recognize an object outside the vehicle (bicycle B) (NO in step ST19), the alert display LA is continued (step ST17). At this time, the alert display LA may be further emphasized.

運転者Aの視線が車外物(自転車B)を認識した場合には(ステップST19でYES)、注意喚起表示LAを変更または消去する(ステップST40)。図11では、運転者Aの視線が車外物(自転車B)を認識し、その後、注意喚起表示LAが消去され、仮想線Lが表示されていることを示している。   When driver A's line of sight recognizes an external vehicle (bicycle B) (YES in step ST19), the alert display LA is changed or erased (step ST40). In FIG. 11, it is shown that the driver A's line of sight recognizes an object outside the vehicle (bicycle B), and then the alert display LA is erased and the virtual line L is displayed.

なお、視線検知は、角膜からの反射光を撮影する赤外線カメラで行うことができる。また、カメラによって撮像された、被験者が決められた方向を見ているときの目や顔の画像サンプルを、事前に計測システムに登録し、顔の向きと目の向きの角度を計測して、それぞれの角度の和を算出することで視線方向を特定することもできる。   The line-of-sight detection can be performed with an infrared camera that captures the reflected light from the cornea. In addition, the eye and face image sample when the subject is looking at the direction determined by the camera is registered in the measurement system in advance, and the angle between the face direction and the eye direction is measured, The line-of-sight direction can also be specified by calculating the sum of the angles.

このとき、顔の向きは、画像中から人物の頭部全体と目や鼻などの顔器官の位置を検出し、目の向きは、画像中から目の領域全体と黒目の位置を検出し、これらの位置関係を眼球のモデルに当てはめることで顔正面方向からの角度として計測する。   At this time, the orientation of the face detects the position of the whole human head and the facial organs such as eyes and nose from the image, and the orientation of the eye detects the entire area of the eye and the position of the black eye from the image, By applying these positional relationships to the eyeball model, an angle from the front direction of the face is measured.

以上の実施形態では、仮想線や注意喚起表示LAを形状の例説明したが、これに限らず、線の太さ、色、破線や一点鎖線など、仮想線Lは走行環境や車両周囲の情報、視線状況の情報に応じて、リアルタイムで変更可能である。また、運転者が注視している端部のみの形状、色などを情報に応じて変えるようにしてもよい。   In the above embodiment, examples of the shape of the virtual line and the alert display LA have been described. It can be changed in real time according to the information on the line of sight. Moreover, you may make it change the shape of only the edge which the driver | operator is gazing, a color, etc. according to information.

[第4実施形態]
図12〜図17は、本発明の第4実施形態を示している。図12〜図17に基づいて本発明の視線誘導システムについて説明する。
次に、図12〜図17を参照して、視線誘導システムの視線誘導表示処理について詳細に説明をする。図12は、本発明の第4実施形態に係る視線誘導システムの視線誘導表示処理のフローチャートである。図13〜図17は、本発明の第4実施形態に係る視線誘導システムにおけるフロントガラスへの表示の一例を含む動作状態の図である。動作状態の図において、手前側に運転者Aがおり、運転者Aの前方にはフロントガラス6と室内のミラー6Mがあり、運転者Aはフロントガラス6を挟んで車外の現実の像を見ている。
[Fourth Embodiment]
12 to 17 show a fourth embodiment of the present invention. The line-of-sight guidance system of the present invention will be described with reference to FIGS.
Next, the line-of-sight guidance display processing of the line-of-sight guidance system will be described in detail with reference to FIGS. FIG. 12 is a flowchart of the gaze guidance display process of the gaze guidance system according to the fourth embodiment of the present invention. 13 to 17 are diagrams showing an operation state including an example of display on the windshield in the line-of-sight guidance system according to the fourth embodiment of the present invention. In the figure of the operating state, there is a driver A on the front side, a windshield 6 and an indoor mirror 6M in front of the driver A, and the driver A sees an actual image outside the vehicle with the windshield 6 in between. ing.

路面認識部18が、ステレオカメラ8で撮像され、画像処理部17で処理された画像から道路面を認識し、この情報を処理部10へ送る。これにより道路面が認識される(ステップST21)。ステレオカメラ8で撮像され、画像処理部17で処理された画像から、例えば車両前方50m以内に車があるか検出される(ステップST22)。画像処理部17は、ステレオカメラ8で撮像された画像から、動いている物体や、その物体が車であるかどうかや、その物体までの距離・速度などを処理によって検出できる。   The road surface recognition unit 18 recognizes the road surface from the image captured by the stereo camera 8 and processed by the image processing unit 17, and sends this information to the processing unit 10. Thereby, the road surface is recognized (step ST21). For example, whether there is a vehicle within 50 m ahead of the vehicle is detected from the image captured by the stereo camera 8 and processed by the image processing unit 17 (step ST22). The image processing unit 17 can detect a moving object, whether or not the object is a car, a distance / speed to the object, and the like from the image captured by the stereo camera 8 by processing.

次に、処理部10は、経路情報を参照し、例えば車両前方100m以内に右左折を行う誘導があるかどうかを確認する(ステップST23)。車両前方50m以内に車があり、かつ車両前方100m以内に右左折を行う誘導がある場合、仮想視線誘導の表示が、前方の車両と重なり、運転者に対して明確に右左折の誘導することが困難になるため、ステレオカメラ8で撮像された前方車両と重ならないように、仮想線Lを表示させる(ステップST24)。図13で示すように、前方車両と仮想線Lとが重ならないように表示を行う。   Next, the processing unit 10 refers to the route information and confirms whether there is a guidance for making a right / left turn, for example, within 100 m ahead of the vehicle (step ST23). When there is a vehicle within 50m ahead of the vehicle and there is a guidance to make a right or left turn within 100m ahead of the vehicle, the virtual gaze guidance display overlaps with the vehicle in front and the driver is clearly guided to turn left or right Therefore, the virtual line L is displayed so as not to overlap the preceding vehicle imaged by the stereo camera 8 (step ST24). As shown in FIG. 13, the display is performed so that the vehicle ahead and the virtual line L do not overlap.

一方、車両前方50m以内に車があり、かつ車両前方100m以内に右左折を行う誘導がない場合には、前方の車両を追従するように走行することが可能であり、また、前方の車の急ブレーキなどに注意する必要もあるので、仮想線Lの表示の先端を、車両前方の車に向かわせるように表示を行う(ステップST25)。例えば、図14で示すように、前方車両の屋根の辺りに向かうように仮想線Lを表示する。なお、前方に車両が存在せず、右折を行うときには、図15で示すように、運転者の前方において、道路面と仮想線Lとが重なり、右折する場所が明確にわかるように表示される。   On the other hand, when there is a vehicle within 50 m ahead of the vehicle and there is no guidance for making a right or left turn within 100 m ahead of the vehicle, it is possible to travel so as to follow the vehicle ahead. Since it is necessary to pay attention to sudden braking or the like, display is performed so that the tip of the display of the imaginary line L faces the car ahead of the vehicle (step ST25). For example, as shown in FIG. 14, the virtual line L is displayed so as to go around the roof of the vehicle ahead. When a right turn is made when no vehicle is present ahead, as shown in FIG. 15, the road surface and the virtual line L overlap in front of the driver so that the right turn location can be clearly seen. .

処理部10が、画像処理部17からの情報より、前方50m以内に車がないことが確認されたとき、車速センサ5からの車両の速度を確認する(ステップST26)。例えば、車速が80km/hより大きいとき、前方80m先の道路面に向かって仮想線Lを表示させる(ステップST27)。図16で示すように、車両の速度が速いときに、運転者が注意すべき遠方に視線を誘導させるために、前方80mの道路面に向かって仮想線Lを表示させる。   When it is confirmed from the information from the image processing unit 17 that there is no vehicle within 50 m ahead, the processing unit 10 checks the vehicle speed from the vehicle speed sensor 5 (step ST26). For example, when the vehicle speed is higher than 80 km / h, the virtual line L is displayed toward the road surface 80 m ahead (step ST27). As shown in FIG. 16, when the speed of the vehicle is high, the virtual line L is displayed toward the road surface 80 m ahead in order to guide the line of sight to the far side where the driver should be careful.

車速が80km/h以下でかつ30km/hより大きいとき(ステップST28でYES)、前方50m先の道路面に向かって仮想線Lを表示させる(ステップST29)。さらに、例えば車速が30km/h以下であるとき(ステップST28でNo)、前方30m先の道路面に向かって仮想線Lを表示させる(ステップST30)。図17で示すように、車両の速度が遅いときには、運転者が注意すべき車両前方周囲に視線を誘導させるために、前方30mの道路面に向かって仮想線Lを表示させる。   When the vehicle speed is 80 km / h or less and greater than 30 km / h (YES in step ST28), the virtual line L is displayed toward the road surface 50m ahead (step ST29). Further, for example, when the vehicle speed is 30 km / h or less (No in step ST28), the virtual line L is displayed toward the road surface 30m ahead (step ST30). As shown in FIG. 17, when the speed of the vehicle is low, a virtual line L is displayed toward the road surface 30 m ahead in order to guide the line of sight around the front of the vehicle that the driver should be aware of.

以上のように、処理部10は、映像投影部に、運転者Aから見た仮想線Lがフロントガラス6の上縁から道路面までに至るように、車速センサ5からの車速に応じて仮想線Lの表示を変更する映像情報を出力することで、運転者Aに対して、自然な視線誘導を行うことができ、運転者の負担を軽減できる。   As described above, the processing unit 10 causes the video projection unit to perform virtual processing according to the vehicle speed from the vehicle speed sensor 5 so that the virtual line L viewed from the driver A extends from the upper edge of the windshield 6 to the road surface. By outputting the video information for changing the display of the line L, natural line-of-sight guidance can be performed for the driver A, and the burden on the driver can be reduced.

以上のように、視線検知情報に基づく表示処理だけでなく、操舵や制動、トラクションによる走行環境についての情報や、ステレオカメラ8によって撮像された画像による車両周囲の情報に応じて、仮想線Lや注意喚起表示LAの表示形状や表示・非表示の判断を行ってもよい。走行環境としては、例えば、タイヤが滑りやすいアイスバーンの上を、車両が走っている場合には、車両速度が高くなくても、視線を遠い箇所にする方が安全であるため、仮想線Lの先端を通常よりも遠い箇所に視線を誘導するように表示する。また、夜の峠道などの場合は、コーナーの出口や次のコーナーの入口を仮想線Lの端部にすることで、車線のはみ出しや、車体のスピンを防ぐ。   As described above, not only the display processing based on the line-of-sight detection information, but also the virtual line L and the information about the driving environment by steering, braking, and traction, and the information around the vehicle by the image captured by the stereo camera 8 The display shape of the alert display LA and display / non-display may be determined. As a running environment, for example, when a vehicle is running on an ice burner where tires are slippery, it is safer to make the line of sight far away even if the vehicle speed is not high. Is displayed so that the line of sight is guided to a position farther than usual. Further, in the case of a night lane, by setting the exit of the corner and the entrance of the next corner to the end of the imaginary line L, it is possible to prevent the lane from protruding and the vehicle body from spinning.

<実施形態の構成及び効果>
本実施形態における視線誘導システムは、車両の運転者の前方に、フロントガラスに重なる映像を表示する映像表示部と、映像表示部に対して、視線を誘導するための仮想線の映像情報を出力する処理部と、を備え、処理部は、仮想線が、運転者の上側から、フロントガラス内に視認される車両の進路に沿って延び、仮想線の先端がフロントガラス内に視認される進路上の道路面と重なり、さらに仮想線と連動させて、映像表示部の表示範囲外の車外物についての注意喚起表示を表示する映像情報を出力する。
<Configuration and Effect of Embodiment>
The line-of-sight guidance system in the present embodiment outputs an image display unit that displays an image superimposed on the windshield in front of the driver of the vehicle and video information of a virtual line for guiding the line of sight to the image display unit. A processing unit, and the processing unit is configured such that a virtual line extends from above the driver along a vehicle path visually recognized in the windshield, and a path in which the tip of the virtual line is visually recognized in the windshield. Video information for displaying a warning display for an outside vehicle outside the display range of the video display unit is output in conjunction with the virtual road, overlapping with the upper road surface.

上記のように構成したことで、進路を示す仮想線と連動させて周辺の車外物について注意喚起表示をすることにより、運転者の視野中心をフロントガラス内に視認される注意喚起が必要な車外物に誘導し、かつ自然な視線誘導を行うことができ、運転者の負担を軽減できる。   With the above configuration, outside the vehicle that needs to be alerted so that the center of the driver's field of view can be visually recognized in the windshield by displaying a warning about the surrounding vehicle outside in conjunction with a virtual line indicating the course It is possible to guide to an object and perform natural line-of-sight guidance, thereby reducing the burden on the driver.

本実施形態における視線誘導システムは、処理部が、映像表示部の表示範囲内において、車両前方の映像表示部の表示範囲外の車外物についての注意喚起表示を、車外物と仮想線をつなぐ線として表示する映像情報を出力する。   In the line-of-sight guidance system according to the present embodiment, the processing unit displays a warning display for an external object outside the display range of the video display unit in front of the vehicle within the display range of the video display unit, and connects the external object and the virtual line. The video information to be displayed is output.

上記のように構成したことで、運転者の視線を車外物と仮想線をつなぐ線に沿って誘導し、かつ自然な視線誘導を行うことができるため、運転者の負担を軽減できる。   By being configured as described above, the driver's line of sight can be guided along a line connecting the outside object and the virtual line, and natural line-of-sight guidance can be performed, so the burden on the driver can be reduced.

本実施形態における視線誘導システムは、処理部が、仮想線を表示した状態のまま、仮想線から車外物へ向けて延びるように、分岐して注意喚起表示を表示する映像情報を出力する。   In the line-of-sight guidance system according to the present embodiment, the processing unit outputs video information that branches and displays a warning display so as to extend from the virtual line toward the outside of the vehicle while the virtual line is displayed.

上記のように構成したことで、運転者の視線を仮想線による進路から、注意喚起が必要な車外物に自然に誘導し、運転者の注意喚起物を視認する負担を軽減できる。   With the above-described configuration, the driver's line of sight can be naturally guided from the course of the phantom line to an outside vehicle that requires attention, and the burden of visually recognizing the driver's attention can be reduced.

本実施形態における視線誘導システムは、処理部が、仮想線の表示を注意喚起表示へ切換え表示する映像情報を出力する。   In the line-of-sight guidance system according to the present embodiment, the processing unit outputs video information that switches the display of the virtual line to the alert display.

上記のように構成したことで、運転者の視線を、注意喚起が必要な車外物に適切に誘導することができ、運転者の注意喚起物を視認する負担を軽減できる。   By comprising as mentioned above, a driver | operator's eyes | visual_axis can be guide | induced appropriately to the external vehicle which needs alerting, and the burden of visually recognizing a driver's alerting thing can be reduced.

本実施形態における視線誘導システムは、運転者の視線を検知する視線検知手段を備え、処理部が、視線検知手段による情報に応じて、注意喚起表示の表示を変更する。   The line-of-sight guidance system in the present embodiment includes line-of-sight detection means for detecting the driver's line of sight, and the processing unit changes the display of the alert display according to information from the line-of-sight detection means.

上記のように構成したことで、運転者の視線に応じて、注意喚起表示の表示を変更でき、安全な運転に資する。   By configuring as described above, the display of the alert display can be changed according to the driver's line of sight, which contributes to safe driving.

本実施形態における視線誘導システムは、車両前方の運転者の視野範囲内を撮像するカメラと、車両前方の運転者の視野範囲外を撮像するサイドカメラと、カメラによって撮像された画像に基づき、車両前方における道路面を認識する道路面認識部と、を備え、処理部が、認識された道路面に、仮想線の先端が重なる映像情報を出力しつつ、サイドカメラによって撮像された画像に基づき、車両前方の運転者の視野範囲外の車外物を認識し、該車外物についての注意喚起表示を表示する映像情報を出力する。   The line-of-sight guidance system according to the present embodiment is based on a camera that captures images within the visual field range of the driver ahead of the vehicle, a side camera that captures images outside the visual field range of the driver ahead of the vehicle, and an image captured by the camera. A road surface recognition unit for recognizing the road surface in front, and the processing unit outputs video information in which the tip of the virtual line overlaps the recognized road surface, based on the image captured by the side camera, A vehicle outside object outside the field of view of the driver in front of the vehicle is recognized, and video information for displaying a warning display about the vehicle outside object is output.

上記のように構成したことで、運転者の視野中心を正確に道路面に誘導することができ、より自然な視線誘導をすることができる。   By configuring as described above, the driver's visual field center can be accurately guided to the road surface, and more natural gaze guidance can be performed.

本実施形態における視線誘導システムは、カメラがステレオカメラである。   In the line-of-sight guidance system in the present embodiment, the camera is a stereo camera.

上記のように構成したことで、より正確に道路面や前方車両までの距離などを認識でき、この情報に応じた表示制御が可能となる。   By configuring as described above, it is possible to more accurately recognize the road surface, the distance to the vehicle ahead, and the like, and display control according to this information becomes possible.

本実施形態における視線誘導システムは、映像表示部が、フロントガラスに映像を投影する映像投影部であり、処理部は、映像投影部に、運転者から見た仮想線がフロントガラスの上縁から道路面までに至るように、車速検知部からの車速に応じて仮想線の表示を変更する映像情報を出力する。   In the line-of-sight guidance system in the present embodiment, the video display unit is a video projection unit that projects video onto the windshield, and the processing unit is placed on the video projection unit so that the virtual line viewed from the driver is from the upper edge of the windshield. Video information for changing the display of the virtual line according to the vehicle speed from the vehicle speed detection unit is output so as to reach the road surface.

上記のように構成したことで、運転者の視野中心を速度などの情報に応じて適切な場所に誘導し、実際の風景や他車情報、視線案内情報に応じて視認しやすい案内ができる。   With the configuration described above, the driver's visual field center can be guided to an appropriate place according to information such as speed, and guidance that is easy to visually recognize according to actual scenery, other vehicle information, and line-of-sight guidance information can be provided.

<定義等>
本発明の映像表示部とは、フロントガラスに映像を投影させる映像投影部や、処理部からの映像情報によって表示を行う透過性有機ELシートなどをいう。
<Definition etc.>
The video display unit of the present invention refers to a video projection unit that projects a video on a windshield, a transmissive organic EL sheet that performs display using video information from a processing unit, and the like.

本発明の仮想線Lとは、フロントウインドシールドなどのフロントガラス、リアガラス、サイドガラスに表示される線または点線などの視認可能な画像を表示、投影したものであり、運転者に対して視線の誘導が可能な表示であれば、どのような表示であってもよい。   The virtual line L of the present invention is a display and projection of a visible image such as a line or dotted line displayed on a windshield, rear glass, side glass such as a front windshield, and guides the line of sight to the driver. Any display is possible as long as the display is possible.

1 視線誘導システム
2 地図情報データベース
3 GPSアンテナ
4 アンテナ
5 車速センサ(車速検知部)
6 フロントガラス
7 映像投影部
8 ステレオカメラ
9 視線検知部
10 処理部
11 操作部
12 操舵入力検知部
13 制動入力検知部
14 照度センサ
15 マイク
16 音声解析部
17 画像処理部
18 路面認識部
19 サイドカメラ
20 メモリ
L 仮想線
LA 注意喚起表示
1 Gaze guidance system 2 Map information database 3 GPS antenna 4 Antenna 5 Vehicle speed sensor (vehicle speed detector)
6 windshield 7 video projection unit 8 stereo camera 9 gaze detection unit 10 processing unit 11 operation unit 12 steering input detection unit 13 braking input detection unit 14 illuminance sensor 15 microphone 16 voice analysis unit 17 image processing unit 18 road surface recognition unit 19 side camera 20 Memory L Virtual line LA Alert display

Claims (8)

車両の運転者の前方に、フロントガラスに重なる映像を表示する映像表示部と、
前記映像表示部に対して、視線を誘導するための仮想線の映像情報を出力する処理部と、を備え、
前記処理部は、前記仮想線が、前記運転者の上側から、前記フロントガラス内に視認される車両の進路に沿って延び、前記仮想線の先端が前記フロントガラス内に視認される進路上の道路面と重なり、さらに前記仮想線と連動させて、前記映像表示部の表示範囲外の車外物についての注意喚起表示を表示する映像情報を出力する、
ことを特徴とする視線誘導システム。
In front of the driver of the vehicle, an image display unit that displays an image superimposed on the windshield,
A processing unit that outputs video information of a virtual line for guiding the line of sight to the video display unit,
The processing unit is configured so that the imaginary line extends from above the driver along a course of a vehicle that is visually recognized in the windshield, and a tip of the imaginary line is on a path that is visually recognized in the windshield. Overlapping with the road surface, and in conjunction with the virtual line, outputs video information that displays a warning display about a vehicle outside the display range of the video display unit,
Gaze guidance system characterized by that.
前記処理部は、前記映像表示部の表示範囲内において、車両前方の前記映像表示部の表示範囲外の車外物についての前記注意喚起表示を、前記車外物と前記仮想線をつなぐ線として表示する映像情報を出力する、
ことを特徴とする請求項1記載の視線誘導システム。
The processing unit displays, in the display range of the video display unit, the alert display for an external vehicle outside the display range of the video display unit in front of the vehicle as a line connecting the external vehicle and the virtual line. Output video information,
The line-of-sight guidance system according to claim 1.
前記処理部は、前記仮想線を表示した状態のまま、前記仮想線から前記車外物へ向けて延びるように、分岐して前記注意喚起表示を表示する映像情報を出力する、
ことを特徴とする請求項1または2のいずれか1項に記載の視線誘導システム。
The processing unit outputs video information that branches and displays the alert display so as to extend from the virtual line toward the outside object while the virtual line is displayed.
The line-of-sight guidance system according to any one of claims 1 and 2.
前記処理部は、前記仮想線の表示を注意喚起表示へ切換え表示する映像情報を出力する、
ことを特徴とする請求項1記載の視線誘導システム。
The processing unit outputs video information for switching and displaying the display of the virtual line to a warning display.
The line-of-sight guidance system according to claim 1.
運転者の視線を検知する視線検知手段を備え、
前記処理部が、前記視線検知手段による情報に応じて、前記注意喚起表示の表示を変更する、
ことを特徴とする請求項1〜4のいずれか1項に記載の視線誘導システム。
Provided with gaze detection means for detecting the driver's gaze,
The processing unit changes the display of the alert display according to information by the line-of-sight detection means,
The line-of-sight guidance system according to any one of claims 1 to 4.
車両前方の運転者の視野範囲内を撮像するカメラと、
車両前方の運転者の視野範囲外を撮像するサイドカメラと、
前記カメラによって撮像された画像に基づき、車両前方における前記道路面を認識する道路面認識部と、
を備え、
前記処理部は、認識された前記道路面に、前記仮想線の先端が重なる映像情報を出力し、
前記処理部は、前記サイドカメラによって撮像された画像に基づき、車両前方の運転者の視野範囲外の車外物を認識し、該車外物についての注意喚起表示を表示する映像情報を出力する、
ことを特徴とする請求項1〜5のいずれか1項に記載の視線誘導システム。
A camera that captures an image of the driver's field of view in front of the vehicle;
A side camera that captures images outside the driver's field of view in front of the vehicle;
A road surface recognition unit that recognizes the road surface in front of the vehicle based on an image captured by the camera;
With
The processing unit outputs video information in which a tip of the virtual line overlaps the recognized road surface,
The processing unit recognizes an external object outside the visual field range of the driver ahead of the vehicle based on an image captured by the side camera, and outputs video information for displaying a warning display about the external object.
The line-of-sight guidance system according to any one of claims 1 to 5.
前記カメラはステレオカメラである、
ことを特徴とする請求項6記載の視線誘導システム。
The camera is a stereo camera;
The line-of-sight guidance system according to claim 6.
前記車両の車速を検知する車速検知部を備え、
前記映像表示部は、前記フロントガラスに映像を投影する映像投影部であり、
前記処理部は、前記映像投影部に、運転者から見た前記仮想線が前記フロントガラスの上縁から道路面までに至るように、前記車速検知部からの車速に応じて前記仮想線の表示を変更する映像情報を出力する、
ことを特徴とする請求項1〜7のいずれか1項に記載の視線誘導システム。
A vehicle speed detector for detecting the vehicle speed of the vehicle;
The video display unit is a video projection unit that projects a video on the windshield,
The processing unit displays the virtual line on the video projection unit according to the vehicle speed from the vehicle speed detection unit so that the virtual line viewed from the driver extends from the upper edge of the windshield to the road surface. Output video information to change
The line-of-sight guidance system according to any one of claims 1 to 7.
JP2012217941A 2012-09-28 2012-09-28 Gaze guidance system Active JP5622820B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012217941A JP5622820B2 (en) 2012-09-28 2012-09-28 Gaze guidance system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012217941A JP5622820B2 (en) 2012-09-28 2012-09-28 Gaze guidance system

Publications (2)

Publication Number Publication Date
JP2014071022A JP2014071022A (en) 2014-04-21
JP5622820B2 true JP5622820B2 (en) 2014-11-12

Family

ID=50746353

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012217941A Active JP5622820B2 (en) 2012-09-28 2012-09-28 Gaze guidance system

Country Status (1)

Country Link
JP (1) JP5622820B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108900895A (en) * 2018-08-23 2018-11-27 深圳码隆科技有限公司 The screen method and its device of the target area of a kind of pair of video flowing

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4582279B2 (en) * 2001-07-19 2010-11-17 三菱自動車工業株式会社 Obstacle information presentation device
ATE552478T1 (en) * 2004-06-03 2012-04-15 Making Virtual Solid L L C NAVIGATIONAL DISPLAY METHOD AND APPARATUS FOR ON-GOING USING A HEAD-UP DISPLAY
JP2006284458A (en) * 2005-04-01 2006-10-19 Denso Corp System for displaying drive support information
JP4847178B2 (en) * 2006-03-30 2011-12-28 本田技研工業株式会社 Vehicle driving support device
JP2008062762A (en) * 2006-09-06 2008-03-21 Fujitsu Ten Ltd Drive assist device and drive assist method
JP2008151752A (en) * 2006-12-20 2008-07-03 Nissan Motor Co Ltd Route guidance display device and route guidance method
JP5173031B2 (en) * 2009-09-28 2013-03-27 株式会社東芝 Display device and display method

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108900895A (en) * 2018-08-23 2018-11-27 深圳码隆科技有限公司 The screen method and its device of the target area of a kind of pair of video flowing
CN108900895B (en) * 2018-08-23 2021-05-18 深圳码隆科技有限公司 Method and device for shielding target area of video stream

Also Published As

Publication number Publication date
JP2014071022A (en) 2014-04-21

Similar Documents

Publication Publication Date Title
JP5492962B2 (en) Gaze guidance system
JP5622818B2 (en) Gaze guidance system
US9723243B2 (en) User interface method for terminal for vehicle and apparatus thereof
US10163016B2 (en) Parking space detection method and device
JP6346614B2 (en) Information display system
KR102309316B1 (en) Display apparatus for vhhicle and vehicle including the same
US10120378B2 (en) Vehicle automated driving system
EP2623376B1 (en) Parking assistance device
WO2019097755A1 (en) Display device and computer program
JP6460019B2 (en) Vehicle control device
JP7163748B2 (en) Vehicle display control device
US20170043720A1 (en) Camera system for displaying an area exterior to a vehicle
JP5898539B2 (en) Vehicle driving support system
JP2018173399A (en) Display device and computer program
JP6448714B2 (en) Information display system
JP5605764B2 (en) Vehicle display device
KR20150055183A (en) Apparatus for displaying traffic lane using head-up display and method thereof
JP5622819B2 (en) Gaze guidance system
JP5492963B2 (en) Gaze guidance system
JP5622820B2 (en) Gaze guidance system
JP5586672B2 (en) Gaze guidance system
JPH06255396A (en) Display device for vehicle
JP5192009B2 (en) Vehicle periphery monitoring device
KR101752798B1 (en) Vehicle and control method for the same
JPH06255397A (en) Display device for vehicle

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140826

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140922

R150 Certificate of patent or registration of utility model

Ref document number: 5622820

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250