JP2019038372A - Image display device - Google Patents

Image display device Download PDF

Info

Publication number
JP2019038372A
JP2019038372A JP2017161847A JP2017161847A JP2019038372A JP 2019038372 A JP2019038372 A JP 2019038372A JP 2017161847 A JP2017161847 A JP 2017161847A JP 2017161847 A JP2017161847 A JP 2017161847A JP 2019038372 A JP2019038372 A JP 2019038372A
Authority
JP
Japan
Prior art keywords
image
viewpoint
display
occupant
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017161847A
Other languages
Japanese (ja)
Other versions
JP7037896B2 (en
Inventor
雅也 石井
Masaya Ishii
雅也 石井
秀倫 高木
Hidemichi Takagi
秀倫 高木
淳也 関
Junya Seki
淳也 関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2017161847A priority Critical patent/JP7037896B2/en
Publication of JP2019038372A publication Critical patent/JP2019038372A/en
Application granted granted Critical
Publication of JP7037896B2 publication Critical patent/JP7037896B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instrument Panels (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

To provide an image display device that can intuitively change a display range according to an intention of an occupant.SOLUTION: A visually recognition assisting device comprises: a photographing device 10 for photographing a circumference of an own vehicle; an image display device 50 for displaying an image photographed by the photographing device; a view-point detecting device 30 for detecting a position of a view point of an occupant; and display range changing means 40 that pans the image displayed in the image display device to one side in a horizontal direction according to movement of the view point to the other side in the horizontal direction.SELECTED DRAWING: Figure 5

Description

本発明は、自動車等の車両に設けられ自車両周囲の状況を表示する画像表示装置に関し、特に乗員の意図に応じた表示範囲の変更を直感的に行えるものに関する。   The present invention relates to an image display device that is provided in a vehicle such as an automobile and displays a situation around the host vehicle, and more particularly to an image display device that can intuitively change a display range in accordance with a passenger's intention.

自動車等の車両において、手動運転時におけるドライバ等の乗員が自車両周囲の状況認識を容易に行えるようにして、監視負担の軽減等を図るため、カメラ等の撮像装置によって撮像された画像を乗員に提示する各種の視認補助装置が提案されている。   In a vehicle such as an automobile, an image captured by an imaging device such as a camera is used so that a driver or other occupant during manual driving can easily recognize the situation around the host vehicle and reduce the monitoring burden. Various visual assistance devices to be presented are proposed.

例えば、特許文献1には、自車両前方を赤外線カメラによって撮像した画像を、ヘッドアップディスプレイに表示する車両用表示装置において、ステアリング操作から車両がカーブを曲がることを判定した場合には、帯状の映像データのうち中央部から所定の画像ずらし量だけオフセットした映像データを抽出して表示させるものが記載されている。
特許文献2には、運転者が運転中に視線を向けた注視対象の画像を拡大表示する運転支援装置において、注視対象が拡大された拡大画像と、この拡大画像の外周全体に隣接する環状の画像であって、拡大画像から元の風景にかけて画像が連続的に繋がった状態でドライバに視認されるように画像の縮小処理が施された周囲縮小画像とからなる画像を生成し、重畳表示することが記載されている。
特許文献3には、車両用表示装置において、自車両前方の道路反射鏡の鏡像をカメラで撮影し、撮影対象の道路反射鏡が曲面鏡を採用している場合には平面鏡像に投影変換する画像処理を行い、この画像処理の施された画像をウィンドシールドの表示領域内に表示することが記載されている。
特許文献4には、自車両前方を赤外線カメラによって撮像した画像をヘッドアップディスプレイに表示する車両用表示装置において、映像の拡大率を車速に応じて段階的に変化させるとともに、表示ユニットが拡大された映像を示す表示光を、インストルメントパネルの開口部を通してフロントウインドシールドに向けて出射することにより、運転者が表示光により車両前方の映像を視認して拡大表示が行われているかを実感できるようにすることが記載されている。
For example, in Patent Document 1, in a vehicle display device that displays an image obtained by capturing an image of the front of the host vehicle with an infrared camera on a head-up display, Among the video data, there is described what extracts and displays video data offset from the center by a predetermined image shift amount.
In Patent Literature 2, in a driving support device that magnifies and displays an image of a gaze target with a driver's eyes directed during driving, an enlarged image in which the gaze target is enlarged and an annular shape adjacent to the entire outer periphery of the enlarged image are disclosed. An image composed of an enlarged image and a surrounding reduced image that has been subjected to image reduction processing so as to be visually recognized by the driver in a state in which the image is continuously connected from the original landscape to the original landscape is generated and superimposed. It is described.
In Patent Document 3, in a display device for a vehicle, a mirror image of a road reflector in front of the host vehicle is photographed by a camera, and when the road reflector to be photographed adopts a curved mirror, it is projected and converted into a plane mirror image. It describes that image processing is performed and the image subjected to this image processing is displayed in the display area of the windshield.
In Patent Document 4, in a vehicle display device that displays an image obtained by capturing an image of the front of the host vehicle with an infrared camera on a head-up display, the image enlargement ratio is changed stepwise according to the vehicle speed, and the display unit is enlarged. The display light that shows the displayed image is emitted toward the front windshield through the opening of the instrument panel, so that the driver can see the image in front of the vehicle with the display light and realize that the enlarged display is being performed. It is described to do so.

特開2004−155307号公報Japanese Patent Laid-Open No. 2004-155307 特開2009− 43003号公報JP 2009-43003 A 特開2005−178623号公報JP 2005-178623 A 特開2004−168105号公報JP 2004-168105 A

上述したような視認補助装置において、一画面に車両の運行中乗員が視認すべき全ての情報を表示することは困難であり、乗員の要望に応じて画像表示される範囲(視野)を変更可能とすることが望ましい。
しかし、表示範囲の変更は、乗員が車両を手動運転しながら行う場合もあり得るため、煩雑な操作を必要とするものでは視認補助装置の利便性が損なわれてしまう。
上述した問題に鑑み、本発明の課題は、乗員の意図に応じた表示範囲の変更を直感的に行える視認補助装置を提供することである。
In the visual assistance device as described above, it is difficult to display all information that should be visually recognized by the passenger during the operation of the vehicle on one screen, and the range (view) of image display can be changed according to the passenger's request. Is desirable.
However, since the change of the display range may be performed while the occupant manually drives the vehicle, the convenience of the visual assistance device is impaired if a complicated operation is required.
In view of the above-described problems, an object of the present invention is to provide a visual assistance device that can intuitively change a display range in accordance with an occupant's intention.

本発明は、以下のような解決手段により、上述した課題を解決する。
請求項1に係る発明は、自車両の周囲を撮像する撮像装置と、前記撮像装置によって撮像された画像を表示する画像表示装置と、乗員の視点の位置を検出する視点検出装置と、水平方向における一方側への前記視点の移動に応じて、前記画像表示装置に表示される画像を水平方向における他方側へパンさせる表示範囲変更手段とを備えることを特徴とする視認補助装置である。
これによれば、乗員が視点を水平方向における一方側へ移動させることによって、画像を水平方向における他方側へパン(水平方向のフレーミング移動)させることができ、乗員の意図に応じた水平方向の表示範囲の変更を直感的に行うことができる。
このような動作は、人間が遮蔽物に遮られ視角となっている領域を視認しようとしたときに無意識に行う動作に近く、乗員は違和感なく表示範囲を変更することができる。
The present invention solves the above-described problems by the following means.
The invention according to claim 1 is an imaging device that captures an image of the surroundings of the host vehicle, an image display device that displays an image captured by the imaging device, a viewpoint detection device that detects the position of a passenger's viewpoint, and a horizontal direction. And a display range changing unit that pans an image displayed on the image display device to the other side in the horizontal direction in accordance with the movement of the viewpoint to one side.
According to this, when the occupant moves the viewpoint to one side in the horizontal direction, the image can be panned (framing movement in the horizontal direction) to the other side in the horizontal direction. The display range can be changed intuitively.
Such an operation is similar to an operation that is unconsciously performed when a person tries to visually recognize an area that is blocked by an obstacle and has a viewing angle, and the occupant can change the display range without a sense of incongruity.

請求項2に係る発明は、前記表示範囲変更手段は、上下方向における一方側への前記視点の移動に応じて、表示される画像を上下方向における他方側へチルトさせることを特徴とする請求項1に記載の視認補助装置である。
これによれば、乗員が視点を上下方向における一方側へ移動させることによって、画像を上下方向における他方側へチルト(上下方向のフレーミング移動)させることができ、乗員の意図に応じた上下方向の表示範囲の変更を直感的に行うことができる。
The invention according to claim 2 is characterized in that the display range changing means tilts the displayed image to the other side in the vertical direction in accordance with the movement of the viewpoint to one side in the vertical direction. 1. The visual assistance device according to 1.
According to this, when the occupant moves the viewpoint to one side in the vertical direction, the image can be tilted (vertical framing movement) to the other side in the vertical direction. The display range can be changed intuitively.

請求項3に係る発明は、前記画像表示装置は、前記乗員の視点から見たときの少なくとも水平方向の表示倍率が肉眼により目視する視野に対して縮小して表示されることを特徴とする請求項1又は請求項2に記載の視認補助装置である。
これによれば、画像表示装置の表示倍率を、乗員が肉眼により目視する視野に対して縮小(画角を広角化)することによって、乗員に広範囲の前方視界情報を提供し、少ない視線移動により広範囲の状況を視認させることができる。
The invention according to claim 3 is characterized in that the image display device displays at least a horizontal display magnification as viewed from the occupant's viewpoint, which is reduced with respect to the visual field viewed with the naked eye. The visual aid device according to claim 1 or claim 2.
According to this, by reducing the display magnification of the image display device with respect to the field of view visually observed by the occupant (widening the angle of view), the occupant can be provided with a wide range of front view information, and with less sight line movement. A wide range of situations can be seen.

請求項4に係る発明は、前記画像表示装置は、前記乗員に対して左右方向にオフセットして配置され、前記表示範囲変更手段は、前記画像表示装置の左右方向における前記乗員側の端部近傍に設定される視点移動基準点から見たときの前記視点の移動角度に応じて前記画像のパン量を設定することを特徴とする請求項1から請求項3までのいずれか1項に記載の視認補助装置である。
これによれば、比較的少ない視点移動量により表示範囲を大きく変化させることができ、視点を過度に大きく動かすことなく広範囲の視界情報を得ることができる。
According to a fourth aspect of the present invention, the image display device is arranged to be offset in the left-right direction with respect to the occupant, and the display range changing means is near the end on the occupant side in the left-right direction of the image display device. 4. The pan amount of the image is set according to a movement angle of the viewpoint when viewed from a viewpoint movement reference point set to 4. 4. It is a visual aid device.
According to this, the display range can be greatly changed with a relatively small viewpoint movement amount, and a wide range of visual field information can be obtained without moving the viewpoint excessively.

請求項5に係る発明は、前記画像表示装置は、前記乗員に対して左右方向にオフセットして配置され、前記表示範囲変更手段は、前記画像表示装置の左右方向における前記乗員側と反対側の端部近傍に設定される視点移動基準点から見たときの前記視点の移動角度に応じて前記画像のパン量を設定することを特徴とする請求項1から請求項3までのいずれか1項に記載の視認補助装置である。
これによれば、視点移動量に対する表示範囲の変化量を抑制することによって、表示範囲の変化が煩雑となって乗員に違和感を与えることを防止できる。
According to a fifth aspect of the present invention, the image display device is arranged offset in the left-right direction with respect to the occupant, and the display range changing means is on the opposite side of the occupant side in the left-right direction of the image display device. 4. The pan amount of the image is set according to a movement angle of the viewpoint when viewed from a viewpoint movement reference point set in the vicinity of the end portion. 5. It is the visual recognition assistance apparatus as described in above.
According to this, by suppressing the change amount of the display range with respect to the viewpoint movement amount, it is possible to prevent the change of the display range from becoming complicated and giving the passenger an uncomfortable feeling.

請求項6に係る発明は、自車両周辺のリスク対象物を検出するリスク対象物検出手段を備え、前記表示範囲変更手段は、前記リスク対象物が検出された場合に、前記視点の移動量に対する前記画像のパン量を増加させることを特徴とする請求項1から請求項5までのいずれか1項に記載の視認補助装置である。
これによれば、リスク対象物が存在する場合に視点移動量に対する画像のパン量が増加することによって、乗員に違和感を与え、乗員に注意を喚起し、安全性を向上することができる。
The invention which concerns on Claim 6 is provided with the risk target object detection means which detects the risk target object around the own vehicle, The said display range change means is with respect to the movement amount of the said viewpoint, when the said risk target object is detected. The visual assistance device according to any one of claims 1 to 5, wherein the pan amount of the image is increased.
According to this, when the risk target exists, the panning amount of the image with respect to the viewpoint movement amount increases, so that the occupant feels uncomfortable, alerts the occupant, and safety can be improved.

請求項7に係る発明は、自車両周辺のリスク対象物を検出するリスク対象物検出手段を備え、前記表示範囲変更手段は、前記リスク対象物が検出された場合に、前記視点の位置に関わらず前記リスク対象物が表示されるよう表示範囲を設定することを特徴とする請求項1から請求項5までのいずれか1項に記載の視認補助装置である。
これによれば、リスク対象物が存在する場合にはこれを常時表示することによって、乗員の注意を喚起するとともに、リスク対象物の視認性を高めて適切な対処を促すことができる。
The invention according to claim 7 is provided with risk object detection means for detecting a risk object around the host vehicle, and the display range changing means relates to the position of the viewpoint when the risk object is detected. The display assisting device according to any one of claims 1 to 5, wherein a display range is set so that the risk object is displayed.
According to this, when there is a risk object, the risk object is always displayed, thereby alerting the occupant and enhancing the visibility of the risk object and prompting appropriate measures.

以上説明したように、本発明によれば、乗員の意図に応じた表示範囲の変更を直感的に行える画像表示装置を提供することができる。   As described above, according to the present invention, it is possible to provide an image display device that can intuitively change the display range according to the occupant's intention.

本発明を適用した視認補助装置の第1実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of 1st Embodiment of the visual recognition assistance apparatus to which this invention is applied. 第1実施形態の視認補助装置を有する車両におけるドライバ視界の一例を示す図である。It is a figure which shows an example of the driver visual field in the vehicle which has the visual recognition auxiliary | assistance apparatus of 1st Embodiment. 第1実施形態の視認補助装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the visual recognition assistance apparatus of 1st Embodiment. 第1実施形態の視認補助装置における視角検出を示す図である。It is a figure which shows the visual angle detection in the visual recognition auxiliary | assistance apparatus of 1st Embodiment. 第1実施形態の視認補助装置を有する車両におけるドライバ視界の他の例を示す図であって、図2の状態から右側へ視点移動した状態を示す図である。It is a figure which shows the other example of the driver visual field in the vehicle which has the visual recognition auxiliary | assistance apparatus of 1st Embodiment, Comprising: It is a figure which shows the state which moved the viewpoint to the right side from the state of FIG. 第1実施形態の視認補助装置を有する車両におけるドライバ視界の他の例を示す図であって、側方から接近する他車両と衝突するリスクが発生した際の状態を示す図である。It is a figure which shows the other example of the driver visual field in the vehicle which has the visual recognition auxiliary | assistance apparatus of 1st Embodiment, Comprising: It is a figure which shows the state at the time of the risk of colliding with the other vehicle approaching from the side. 本発明を適用した視認補助装置の第2実施形態における視角検出を示す図である。It is a figure which shows the visual angle detection in 2nd Embodiment of the visual recognition auxiliary | assistance apparatus to which this invention is applied.

<第1実施形態>
以下、本発明を適用した視認補助装置の第1実施形態について説明する。
第1実施形態の視認補助装置は、例えば、乗用車等の自動車に設けられ、自車両前方等の画像を画像表示装置によりドライバ等の乗員に提示し、自車両周囲の状況視認を支援するものである。
図1は、第1実施形態の視認補助装置の構成を示すブロック図である。
第1実施形態の視認補助装置1は、ステレオカメラ装置10、環境認識ユニット20、乗員モニタリングユニット30、表示画像生成ユニット40、表示装置50等を有して構成されている。
<First Embodiment>
Hereinafter, a first embodiment of a visual assistance device to which the present invention is applied will be described.
The visual assistance device according to the first embodiment is provided in an automobile such as a passenger car, for example, and presents an image of the front of the host vehicle to an occupant such as a driver using an image display device, and assists in viewing the situation around the host vehicle. is there.
FIG. 1 is a block diagram illustrating a configuration of the visual assistance device of the first embodiment.
The visual assistance device 1 of the first embodiment includes a stereo camera device 10, an environment recognition unit 20, an occupant monitoring unit 30, a display image generation unit 40, a display device 50, and the like.

ステレオカメラ装置10、環境認識ユニット20、乗員モニタリングユニット30、表示画像生成ユニット40、表示装置50は、例えば、CAN通信システム等の車載LANシステムを介して、あるいは、直接接続され、相互にデータの送受信が可能となっている。
また、各ユニットは、例えばCPU等の情報処理手段、RAMやROM等の記憶手段、入出力インターフェイス、及び、これらを接続するバス等を有して構成されている。
The stereo camera device 10, the environment recognition unit 20, the occupant monitoring unit 30, the display image generation unit 40, and the display device 50 are connected to each other via, for example, an in-vehicle LAN system such as a CAN communication system or the like. Transmission and reception are possible.
Each unit includes an information processing unit such as a CPU, a storage unit such as a RAM and a ROM, an input / output interface, and a bus connecting them.

ステレオカメラ装置10は、カメラLH11、カメラRH12、ステレオ画像処理ユニット13等を有する。
カメラLH11、カメラRH12は、自車両前方を広角に撮像するレンズ群等の光学系や、CMOS等の固体撮像素子、及び、その駆動装置、画像処理エンジン、入出力インターフェイス等を有する撮像装置である。
カメラLH11、カメラRH12は、左右方向に離間した状態で、光学系の光軸を車両前方に向けて取り付けられている。
カメラLH11、カメラRH12は、例えば、ルーフ130の前端部から車室内に下方に突き出した状態で固定され、フロントガラス140越しに自車両前方の画像を撮像するようになっている。
The stereo camera device 10 includes a camera LH11, a camera RH12, a stereo image processing unit 13, and the like.
The camera LH11 and the camera RH12 are imaging devices having an optical system such as a lens group that images the front of the host vehicle at a wide angle, a solid-state imaging device such as a CMOS, a driving device thereof, an image processing engine, an input / output interface, and the like. .
The camera LH11 and the camera RH12 are mounted with the optical axis of the optical system facing the front of the vehicle in a state of being separated in the left-right direction.
For example, the camera LH11 and the camera RH12 are fixed in a state of protruding downward from the front end portion of the roof 130 into the vehicle interior, and take an image in front of the host vehicle through the windshield 140.

カメラLH11、カメラRH12がそれぞれ撮像した画像に係るデータは、ステレオ画像処理ユニット13に逐次提供されるようになっている。
また、これらの画像データは、表示装置50に表示される画像を生成するため、ステレオ画像処理ユニット13を介して、表示画像生成ユニット40にも提供される。
例えば、第1実施形態のように、自車両の斜め左前方の状況を表示する場合(図2参照)には、カメラLH11が撮像した画像を利用して表示画像を生成することができる。
Data relating to images captured by the camera LH11 and the camera RH12 is sequentially provided to the stereo image processing unit 13.
These image data are also provided to the display image generation unit 40 via the stereo image processing unit 13 in order to generate an image to be displayed on the display device 50.
For example, as in the first embodiment, when displaying the situation of the left front of the host vehicle (see FIG. 2), a display image can be generated using an image captured by the camera LH11.

ステレオ画像処理ユニット13は、カメラLH11、カメラRH12から逐次伝達される画像データに、公知のステレオ画像処理を施し、自車両前方に存在する被写体を認識するとともに、認識された被写体の自車両に対する相対位置を、画像上の画素位置、及び、カメラLH11とカメラRH12との視差等を用いて検出する。
また、ステレオ画像処理ユニット13は、公知の画像処理、画像認識技術により、認識された被写体の種類、属性(例えば、他車両、自転車、歩行者、建造物、車線端白線等)を判別することが可能となっている。
The stereo image processing unit 13 performs known stereo image processing on the image data sequentially transmitted from the camera LH11 and the camera RH12 to recognize a subject existing in front of the host vehicle and to make the recognized subject relative to the host vehicle. The position is detected using the pixel position on the image, the parallax between the camera LH11 and the camera RH12, and the like.
Further, the stereo image processing unit 13 determines the type and attribute of the recognized subject (for example, other vehicle, bicycle, pedestrian, building, lane edge white line, etc.) by known image processing and image recognition techniques. Is possible.

環境認識ユニット20は、ステレオ画像処理ユニット13による自車両前方の物体検出結果等を利用して、自車両前方の環境を認識するものである。
環境認識ユニット20は、ステレオ画像処理ユニット13が認識した他車両、建築物等のうち、自車両に対する相対位置、相対速度などから自車両と衝突する可能性が高いリスク対象物を認識する。
環境認識ユニット20は、本発明にいうリスク対象物検出手段として機能する。
The environment recognition unit 20 recognizes the environment in front of the host vehicle using the object detection result in front of the host vehicle by the stereo image processing unit 13.
The environment recognition unit 20 recognizes a risk object that has a high possibility of colliding with the own vehicle from other vehicles, buildings, and the like recognized by the stereo image processing unit 13 from the relative position and relative speed with respect to the own vehicle.
The environment recognition unit 20 functions as a risk object detection means according to the present invention.

環境認識ユニット20は、リスク対象物の自車両に対する相対位置、相対速度(接近速度)などから、リスク対象物と自車両との衝突が不可避であると判定した場合(プリクラッシュ判定が成立した場合)には、そのリスク対象物に関する情報を、表示画像生成ユニット40に伝達する。
ここで、リスク対象物に関する情報として、例えば、リスク対象物の種類、自車両に対する相対位置及び相対速度等が挙げられる。
When the environment recognition unit 20 determines that the collision between the risk object and the host vehicle is inevitable from the relative position and relative speed (approach speed) of the risk object with respect to the host vehicle (when the pre-crash determination is established) ), Information on the risk object is transmitted to the display image generation unit 40.
Here, examples of the information on the risk object include the type of the risk object, the relative position and the relative speed with respect to the host vehicle, and the like.

乗員モニタリングユニット30は、手動運転時におけるドライバとなる乗員を乗員撮影カメラ31によって撮像した画像を画像処理し、乗員の状態を検出するものである。
乗員撮影カメラ31は、例えば、車両のインストルメントパネル140等に設けられ、モニタ対象の乗員の顔面等を撮像する。
乗員撮影カメラ31は、例えば、コンビネーションメータ141(図2参照)に設けることができる。
乗員モニタリングユニット30は、乗員撮影カメラ31が撮像した画像データに所定の画像処理を施し、視点(眼部)の位置、視線方向、覚醒状態などを検出する。
乗員の視点位置に関する情報は、表示画像生成ユニット40に伝達される。
乗員モニタリングユニット30は、乗員撮影カメラ31と協働して本発明にいう視点検出装置として機能する。
The occupant monitoring unit 30 detects an occupant state by performing image processing on an image obtained by capturing an occupant serving as a driver during manual operation with the occupant photographing camera 31.
The occupant photographing camera 31 is provided, for example, on the instrument panel 140 of the vehicle, and images the face of the occupant to be monitored.
The occupant photographing camera 31 can be provided, for example, in a combination meter 141 (see FIG. 2).
The occupant monitoring unit 30 performs predetermined image processing on the image data captured by the occupant photographing camera 31, and detects the position of the viewpoint (eye part), the line-of-sight direction, the arousal state, and the like.
Information regarding the viewpoint position of the occupant is transmitted to the display image generation unit 40.
The occupant monitoring unit 30 functions as a viewpoint detection device according to the present invention in cooperation with the occupant photographing camera 31.

表示画像生成ユニット40は、ステレオカメラ装置10から提供される画像データ、環境認識ユニット20によるリスク対象物に関する情報、及び、乗員モニタリングユニット30による乗員視点位置の検出結果を用いて、表示装置50により表示される表示画像のデータを生成するものである。
表示画像生成ユニット40は、ステレオカメラ装置10から提供される画像データのうち、表示装置50に表示される表示範囲、及び、表示位置を設定する機能を有する。
表示画像生成ユニット40は、乗員モニタリングユニット30により検出される乗員の視点移動に応じて、表示装置50に表示される画像のフレーミングを水平方向、上下方向にそれぞれ変更し、表示範囲(視野)を変更する機能を有する。
表示画像生成ユニット40は、本発明にいう表示範囲変更手段として機能する。
表示画像生成ユニット40の機能については、後により詳細に説明する。
The display image generation unit 40 uses the image data provided from the stereo camera device 10, the information related to the risk object by the environment recognition unit 20, and the detection result of the occupant viewpoint position by the occupant monitoring unit 30, by the display device 50. The display image data to be displayed is generated.
The display image generation unit 40 has a function of setting a display range and a display position displayed on the display device 50 among the image data provided from the stereo camera device 10.
The display image generation unit 40 changes the framing of the image displayed on the display device 50 in the horizontal direction and the vertical direction according to the viewpoint movement of the occupant detected by the occupant monitoring unit 30, and the display range (field of view) is changed. Has the function to change.
The display image generation unit 40 functions as a display range changing unit according to the present invention.
The function of the display image generation unit 40 will be described later in detail.

表示装置50は、例えば自車両の左斜め前方の車外状況を撮像した画像をユーザ(乗員)に対して提示する画像表示装置である。
表示装置50は、表示画像生成ユニット40が生成した表示画像を表示するディスプレイ及びその駆動装置等を有する。
表示装置50として、例えば、非表示時には実質的に透明となり乗員が透視可能な透明LCDを用いることができる。
表示装置50の配置に関しては、後に詳しく説明する。
The display device 50 is an image display device that presents to the user (occupant), for example, an image obtained by imaging the situation outside the vehicle diagonally to the left of the host vehicle.
The display device 50 includes a display that displays the display image generated by the display image generation unit 40, a driving device thereof, and the like.
As the display device 50, for example, a transparent LCD that is substantially transparent when not displayed and can be seen through by an occupant can be used.
The arrangement of the display device 50 will be described in detail later.

図2は、第1実施形態の視認補助装置を有する車両におけるドライバ視界の一例を示す図である。
図2に示すように、車両は、フロントガラス110、フロントドアガラス120、サイドミラー130、インストルメントパネル140、ステアリングホイール150、Aピラー160、ルーフ170、ルームミラー180等を有する。
FIG. 2 is a diagram illustrating an example of a driver field of view in a vehicle including the visual assistance device of the first embodiment.
As shown in FIG. 2, the vehicle includes a windshield 110, a front door glass 120, a side mirror 130, an instrument panel 140, a steering wheel 150, an A pillar 160, a roof 170, a room mirror 180, and the like.

フロントガラス110は、ドライバの前方側に配置されている。
フロントガラス110は、実質的に横長の矩形状に形成され、前方が凸となる方向に湾曲した2次曲面ガラスである。
フロントガラス110は、上端部が下端部に対して車両後方側となるように後傾して配置されている。
乗員の視点から見たときに、フロントガラス110における透明部分(周辺に設けられる図示しない黒セラミック部分等を除いた部分)は、乗員が肉眼により自車両前方を直接目視する際の視野となる。
The windshield 110 is disposed on the front side of the driver.
The windshield 110 is a secondary curved glass that is formed in a substantially horizontally long rectangular shape and is curved in a direction in which the front is convex.
The windshield 110 is disposed so as to be tilted rearward so that the upper end portion is on the vehicle rear side with respect to the lower end portion.
When viewed from the occupant's viewpoint, the transparent portion of the windshield 110 (the portion excluding a black ceramic portion (not shown) provided in the vicinity) becomes a field of view when the occupant directly looks directly ahead of the vehicle with the naked eye.

フロントドアガラス120は、乗員の乗降に用いられる左右フロントドアの上部であって、ドライバの側方に設けられている。
フロントドアガラス120は、昇降式の本体部121、及び、本体部121の前部に設けられた固定式の三角窓部122を有する。
The front door glass 120 is provided in the upper part of the left and right front doors used for passengers getting on and off and on the side of the driver.
The front door glass 120 includes a liftable main body 121 and a fixed triangular window 122 provided at the front of the main body 121.

サイドミラー130は、ドライバが左右後方視界を確認するものである。
サイドミラー130は、左右フロントドアのアウタパネルから車幅方向外側に突出している。
乗員視界において、サイドミラー130は、例えば、フロントドアガラス120の本体部121の前端部近傍に見えるようになっている。
The side mirror 130 is used by the driver to check the left / right rear view.
The side mirror 130 protrudes outward in the vehicle width direction from the outer panels of the left and right front doors.
In the passenger field of view, the side mirror 130 can be seen in the vicinity of the front end of the main body 121 of the front door glass 120, for example.

インストルメントパネル140は、車室内においてフロントガラス110の下方に設けられた内装部材である。
インストルメントパネル140は、各種計器類、表示装置、スイッチ類、空調装置、助手席エアバッグ装置、膝部保護エアバッグ装置等が収容される筐体としても機能する。
インストルメントパネル140は、コンビネーションメータ141、マルチファンクションディスプレイ142、ナビゲーション装置ディスプレイ143等が設けられる。
The instrument panel 140 is an interior member provided below the windshield 110 in the vehicle interior.
The instrument panel 140 also functions as a housing that accommodates various instruments, display devices, switches, air conditioners, front passenger airbag devices, knee protection airbag devices, and the like.
The instrument panel 140 includes a combination meter 141, a multi-function display 142, a navigation device display 143, and the like.

コンビネーションメータ141は、運転席の正面に設けられ、速度計、エンジン回転計、距離計などの各種計器類をユニット化したものである。
マルチファンクションディスプレイ142は、インストルメントパネル140の車幅方向中央部における上部に設けられた例えばLCD等の画像表示手段である。
ナビゲーション装置ディスプレイ143は、図示しないナビゲーション装置が地図等を表示するLCD等の画像表示手段である。
ナビゲーション装置ディスプレイ143は、インストルメントパネル140の車幅方向中央部における下部に設けられている。
The combination meter 141 is provided in front of the driver's seat and is a unit of various instruments such as a speedometer, an engine tachometer, and a distance meter.
The multi-function display 142 is image display means such as an LCD provided at the upper part of the instrument panel 140 in the center in the vehicle width direction.
The navigation device display 143 is an image display means such as an LCD on which a navigation device (not shown) displays a map or the like.
The navigation device display 143 is provided at the lower portion of the instrument panel 140 in the center in the vehicle width direction.

ステアリングホイール150は、ドライバが手動運転時に操舵操作を入力する環状の操作部材である。
ステアリングホイール150は、ドライバの前方に実質的に正対して設けられる。
コンビネーションメータ141は、乗員視界において、ステアリングホイール150の上半部における内径側から目視可能となっている。
The steering wheel 150 is an annular operation member that inputs a steering operation when the driver manually operates.
The steering wheel 150 is provided substantially in front of the driver.
The combination meter 141 is visible from the inner diameter side in the upper half of the steering wheel 150 in the passenger view.

Aピラー160は、フロントガラス110の側端部及びフロントドアガラス120の前端部に沿って配置された柱状の車体構造部材である。
Aピラー160の車室内側の面部は、樹脂製のピラートリムによってカバーされている。
The A-pillar 160 is a columnar vehicle body structural member disposed along the side end portion of the windshield 110 and the front end portion of the front door glass 120.
The surface of the A pillar 160 on the vehicle interior side is covered with a resin pillar trim.

ルーフ170は、フロントガラス110の上端部から後方に伸びて形成されている。
ルーフ170の車室内側の面部は、樹脂製のルーフトリムによってカバーされている。
ルーフ170の車幅方向中央部における前端部には、カメラLH11、カメラRH12が収容されるステレオカメラ収容部171が設けられている。
The roof 170 is formed to extend rearward from the upper end portion of the windshield 110.
A surface portion of the roof 170 on the vehicle interior side is covered with a resin roof trim.
A stereo camera housing portion 171 in which the camera LH11 and the camera RH12 are housed is provided at the front end portion of the roof 170 in the center in the vehicle width direction.

ルームミラー180は、車室内に設けられた後方確認用のミラーである。
ルームミラー180は、図示しないステーを介してフロントガラス110の車幅方向中央部における上端部近傍に設けられている。
The rearview mirror 180 is a rearward confirmation mirror provided in the vehicle interior.
The room mirror 180 is provided in the vicinity of the upper end portion of the windshield 110 in the vehicle width direction central portion via a stay (not shown).

表示装置50のスクリーン部分は、例えば、左右方向における反ドライバ側(図2の場合には左側)のAピラー160近傍から、車幅方向中央側(フロントガラス110側)に張り出して設けられている。
表示装置50の一部は、乗員の視点から見たときに、フロントガラス110の手前側に重なった状態で配置されている。
The screen portion of the display device 50 is provided, for example, so as to protrude from the vicinity of the A pillar 160 on the side opposite to the driver (left side in the case of FIG. 2) in the left-right direction to the center in the vehicle width direction (front glass 110 side). .
A part of the display device 50 is arranged so as to overlap the front side of the windshield 110 when viewed from the viewpoint of the passenger.

次に、第1実施形態の視認補助装置の動作について説明する。
図3は、第1実施形態の視認補助装置の動作を示すフローチャートである。
以下、ステップ毎に順を追って説明する。
Next, the operation of the visual assistance device of the first embodiment will be described.
FIG. 3 is a flowchart showing the operation of the visual assistance device of the first embodiment.
Hereinafter, the steps will be described step by step.

<ステップS01:前方画像データ取得>
表示画像生成ユニット40は、ステレオカメラ装置10のステレオ画像処理ユニット13から、カメラLH11、カメラRH12によって撮像された自車両前方の画像データを取得する。
その後、ステップS02に進む。
<Step S01: Obtain Front Image Data>
The display image generation unit 40 acquires image data in front of the host vehicle captured by the camera LH11 and the camera RH12 from the stereo image processing unit 13 of the stereo camera device 10.
Thereafter, the process proceeds to step S02.

<ステップS02:乗員視点位置検出>
乗員モニタリングユニット30は、乗員撮影カメラ31が撮像した画像データに所定の画像処理を施して、乗員(手動運転時におけるドライバ)の視点位置(眼部の座標位置)を検出する。
例えば、左右の眼部の座標位置を検出し、その中間点を表示範囲設定に用いられる視点位置として用いることができる。
検出された視点位置に関する情報は、表示画像生成ユニット40に提供される。
その後、ステップS03に進む。
<Step S02: Occupant viewpoint position detection>
The occupant monitoring unit 30 performs predetermined image processing on the image data captured by the occupant photographing camera 31, and detects the viewpoint position (coordinate position of the eye) of the occupant (driver during manual operation).
For example, the coordinate positions of the left and right eye parts can be detected, and the intermediate point can be used as the viewpoint position used for setting the display range.
Information regarding the detected viewpoint position is provided to the display image generation unit 40.
Thereafter, the process proceeds to step S03.

<ステップS03:リスク対象物有無判断>
環境認識ユニット20は、自車両の周辺でありかつ表示装置50により画像表示され得る範囲内に、自車両と衝突する可能性が高いリスク対象物が存在するか否かを判別する。
環境認識ユニット20による判別結果(リスク対象物の有無)に関する情報は、表示画像生成ユニット40に伝達される。
リスク対象物が存在する場合には、その自車両に対する相対位置、相対速度、種類等の情報も表示画像生成ユニット40に伝達される。
リスク対象物が存在する場合はステップS05に進み、存在しない場合はステップS04に進む。
<Step S03: Judgment of existence of risk object>
The environment recognition unit 20 determines whether or not there is a risk object that is likely to collide with the host vehicle in a range around the host vehicle and capable of being displayed as an image by the display device 50.
Information regarding the determination result (presence / absence of risk object) by the environment recognition unit 20 is transmitted to the display image generation unit 40.
When there is a risk object, information such as a relative position, a relative speed, and a type with respect to the host vehicle is also transmitted to the display image generation unit 40.
If there is a risk object, the process proceeds to step S05, and if not, the process proceeds to step S04.

<ステップS04:通常表示画像生成>
表示画像生成ユニット40は、通常時(リスク対象物非検出時)に表示装置50に表示される通常表示画像を生成する。
通常表示画像の表示倍率は、自車両の前方を肉眼により目視可能な視野に対して、同等あるいは縮小(広角化)する構成とすることができる。
このとき、表示画像生成ユニット40は、乗員の視点位置が通常運転時における位置に存在する場合には、画像上に設定される表示位置基準点R(図2参照)を乗員の視点から見たときの視線方向が、表示位置基準点Rに相当する箇所(画像上で表示位置基準点Rに表示される被写体)を乗員が肉眼により直接目視する際の視線方向と実質的に一致するよう表示画像の表示範囲、表示位置を設定する。
その後、ステップS06に進む。
<Step S04: Normal Display Image Generation>
The display image generation unit 40 generates a normal display image that is displayed on the display device 50 at the normal time (when no risk object is detected).
The display magnification of the normal display image can be the same or reduced (wide angle) with respect to the field of view where the front of the host vehicle can be seen with the naked eye.
At this time, when the viewpoint position of the occupant is present at the position during normal driving, the display image generation unit 40 viewed the display position reference point R (see FIG. 2) set on the image from the viewpoint of the occupant. Is displayed so that the occupant's eyes directly observe the portion corresponding to the display position reference point R (the subject displayed at the display position reference point R on the image) with the naked eye. Set the image display range and display position.
Thereafter, the process proceeds to step S06.

<ステップS05:リスク対象物クローズアップ画像生成>
表示画像生成ユニット40は、ステレオカメラ装置10から提供される画像データから、リスク対象物が含まれる領域をトリミングすることによって、リスク対象物を拡大表示するリスク対象物クローズアップ画像を生成する。
このとき、リスク対象物クローズアップ画像がより強く乗員の注意を喚起するよう、例えば表示色を変化させたり、表示を点滅させるようにしてもよい。
また、リスク対象物が存在することを示すテキストメッセージ、絵記号を表示してもよい。さらに、このような表示と音声によるメッセージ、警告音等を併用してもよい。
リスク対象物クローズアップ画像においては、乗員の視点位置に関わらず、表示装置50にリスク対象物が常時表示される構成とすることができる。
その後、ステップS06に進む。
<Step S05: Risk Object Close-up Image Generation>
The display image generation unit 40 generates a risk object close-up image for enlarging and displaying the risk object by trimming a region including the risk object from the image data provided from the stereo camera device 10.
At this time, for example, the display color may be changed or the display may be blinked so that the risk object close-up image is more strongly alerting the occupant.
In addition, a text message or a pictorial symbol indicating that the risk object exists may be displayed. Further, such display and voice message, warning sound, etc. may be used in combination.
In the risk object close-up image, the risk object can be displayed on the display device 50 at all times regardless of the viewpoint position of the passenger.
Thereafter, the process proceeds to step S06.

<ステップS06:表示装置診断>
表示画像生成ユニット40は、表示装置50が備える自己診断機能を用いて、表示装置50が正常に画像表示を行うことが可能な状態であるか判別する。
表示装置50が正常に画像表示を行うことが可能な場合はステップS07に進み、何らかの故障等によって正常に画像表示を行うことができない場合はステップS10に進む。
<Step S06: Display Device Diagnosis>
The display image generation unit 40 determines whether or not the display device 50 can normally display an image by using a self-diagnosis function provided in the display device 50.
If the display device 50 can display an image normally, the process proceeds to step S07. If the image cannot be displayed normally due to some failure, the process proceeds to step S10.

<ステップS07:画像表示実行>
表示画像生成ユニット40は、ステップS05又はステップS06において生成された画像を表示装置50により表示させ、その後ステップS08に進む。
<Step S07: Image display execution>
The display image generation unit 40 causes the display device 50 to display the image generated in step S05 or step S06, and then proceeds to step S08.

<ステップS08:視点移動有無判断>
表示画像生成ユニット40は、乗員モニタリングユニット30による乗員の視点位置の検出結果に基づいて、乗員の視点位置の移動があったか否かを判別する。
乗員の視点位置に所定の閾値以上の変位が検出された場合にはステップS09に進み、その他の場合は一連の処理を終了する。
<Step S08: Determination of presence or absence of viewpoint movement>
The display image generation unit 40 determines whether or not the occupant's viewpoint position has moved based on the detection result of the occupant's viewpoint position by the occupant monitoring unit 30.
When a displacement equal to or greater than a predetermined threshold is detected at the viewpoint position of the occupant, the process proceeds to step S09, and in other cases, a series of processes is terminated.

<ステップS09:表示範囲変更>
表示画像生成ユニット40は、ステップS08において検出された視点位置の変位に応じて、表示装置50に表示される画像の表示範囲を変更する。
図4は、第1実施形態の視認補助装置における視角検出を示す図である。
図4は車両を鉛直方向から見た状態を模式的に図示している。
乗員の視点位置がP1からP2へ、車幅方向に沿って右側へ変位した場合を例として説明する。
表示画像生成ユニット40は、表示装置50の表示領域における右側の端部に設定された視点移動基準点Oと、視点位置P1、P2をそれぞれ結んだ直線がなす角度である視角変化量θを算出する。
表示画像生成ユニット40は、視角変化量θに予め設定された係数を乗じて算出されたパン量だけ、表示装置50に表示される画像を、視点の移動方向とは反対に(この場合左側に)パン(水平方向のフレーミング移動)させる。
また、視点位置の上下方向変位に応じて、実質的に同様の手法により表示装置50に表示される画像をチルト(上下方向のフレーミング移動)させてもよい。
このようなパン、チルトは、カメラLH11、カメラRH12が十分広角な画角を有する場合には、ステレオカメラ装置10から提供される画像をトリミング処理する際のトリミング範囲を変更することによって行うことができる。
また、リスク対象物が検出されており、リスク対象物クローズアップ画像が表示されている場合は、視点位置が移動した場合であっても、リスク対象物が表示範囲外へ逸脱する表示範囲の変更は禁止され、リスク対象物が常時表示される。
その後、一連の処理を終了する。
<Step S09: Change display range>
The display image generation unit 40 changes the display range of the image displayed on the display device 50 according to the displacement of the viewpoint position detected in step S08.
FIG. 4 is a diagram illustrating visual angle detection in the visual assistance device of the first embodiment.
FIG. 4 schematically shows the vehicle viewed from the vertical direction.
A case where the occupant's viewpoint position is displaced from P1 to P2 to the right along the vehicle width direction will be described as an example.
The display image generation unit 40 calculates a viewing angle change amount θ that is an angle formed by a straight line connecting the viewpoint movement reference point O set at the right end in the display area of the display device 50 and the viewpoint positions P1 and P2. To do.
The display image generation unit 40 displays the image displayed on the display device 50 by the pan amount calculated by multiplying the viewing angle change amount θ by a preset coefficient, in the opposite direction to the viewpoint movement direction (in this case, on the left side). ) Pan (horizontal framing movement).
Further, the image displayed on the display device 50 may be tilted (vertical framing movement) by a substantially similar method in accordance with the vertical displacement of the viewpoint position.
Such panning and tilting can be performed by changing the trimming range when trimming the image provided from the stereo camera device 10 when the cameras LH11 and RH12 have a sufficiently wide angle of view. it can.
In addition, when a risk object is detected and a close-up image of the risk object is displayed, even if the viewpoint position has moved, the display range is changed so that the risk object deviates from the display range. Is prohibited, and risk objects are always displayed.
Thereafter, the series of processing is terminated.

<ステップS10:画像表示オフ>
表示画像生成ユニット40は、表示装置50による画像表示を中止し、表示装置50を実質的に透明であり乗員が透視可能な状態とする。
その後、一連の処理を終了する。
<Step S10: Image display off>
The display image generation unit 40 stops the image display by the display device 50 and makes the display device 50 substantially transparent and visible to the occupant.
Thereafter, the series of processing is terminated.

以下、第1実施形態の視認補助装置1における表示装置50の表示例について説明する。
図2は、リスク対象物が存在せず、かつ、乗員の視点位置が通常運転時の位置にある状態を示している。
リスク対象物が存在しないことから、表示装置50には、通常表示画像が表示されている。
図2に示す状態では、自車両が走行中の車線の左側に、自車両進行方向に沿って前方側から樹木A,B,C,D,Eが並んで立っている。
図2に示す状態においては、表示装置50に表示される画像の表示範囲及び表示倍率は、仮に表示装置50が存在しない場合に肉眼によって目視される視野と実質的に同様となっている。
この状態では、樹木A,B,Cまでは実質的に全体が視認可能であるが、樹木Dの下端部及び樹木Eの大部分は視認不可能となっている。
Hereinafter, the example of a display of the display apparatus 50 in the visual recognition assistance apparatus 1 of 1st Embodiment is demonstrated.
FIG. 2 shows a state where there is no risk object and the viewpoint position of the occupant is at the normal driving position.
Since there is no risk object, a normal display image is displayed on the display device 50.
In the state shown in FIG. 2, trees A, B, C, D, and E stand from the front side along the traveling direction of the host vehicle on the left side of the lane in which the host vehicle is traveling.
In the state shown in FIG. 2, the display range and display magnification of the image displayed on the display device 50 are substantially the same as the visual field viewed by the naked eye when the display device 50 is not present.
In this state, the entire trees A, B, and C are substantially visible, but the lower end of the tree D and most of the tree E are invisible.

図5は、第1実施形態の視認補助装置を有する車両におけるドライバ視界の他の例を示す図であって、図2の状態から右側へ視点移動した状態を示す図である。
図2に示す状態から、乗員の視点位置が右側へ移動したことによって、表示画像50に表示される画像は、左側へパンしている。
図5に示す状態においては、表示装置50において、樹木D,Eの主要部分を視認可能となっているが、図2に示す状態で表示されていた樹木B,Cは、実質的に表示範囲外となっている。
第1実施形態においては、図2に示す状態から乗員がさらに左側の状態を目視したいと考えた場合に、視点位置を右方向に変位させることによって、表示装置50に表示される画像を左方向へパンさせて、表示範囲を左側にシフトさせ、容易に目視することができる。
FIG. 5 is a diagram illustrating another example of the driver field of view in the vehicle having the visual assistance device of the first embodiment, and is a diagram illustrating a state in which the viewpoint is moved from the state of FIG. 2 to the right side.
The image displayed on the display image 50 is panned to the left side as the occupant's viewpoint position has moved to the right side from the state shown in FIG.
In the state shown in FIG. 5, the main parts of the trees D and E can be visually recognized on the display device 50, but the trees B and C displayed in the state shown in FIG. It is outside.
In the first embodiment, when the occupant wants to view the left side state further from the state shown in FIG. 2, the image displayed on the display device 50 is shifted leftward by displacing the viewpoint position to the right side. The display range can be shifted to the left side and easily viewed.

図6は、第1実施形態の視認補助装置を有する車両におけるドライバ視界の他の例を示す図であって、側方から接近する他車両と衝突するリスクが発生した際の状態を示す図である。
図6に示す状態においては、自車両の左斜め前方に、自車両から見て右方向に向かって走行する他車両Vが存在する。
他車両Vは、図6に示す時点では、衝突が発生する可能性が高くなったことにより、リスク対象物として認識されている。
表示装置50には、この他車両Vを撮像した他車両像vが常時拡大表示されるリスク対象物クローズアップ画像が表示されている。
図6に示す状態では他車両Vは、肉眼で目視する視野においてはフロントガラス110の左側端部近傍に目視可能となっているが、表示装置50においては、他車両像vを肉眼で目視される他車両Vに対して拡大して表示するとともに、画面の表示色を異ならせ、危険であることを示すテキストメッセージも表示することによって、乗員の注意を喚起し、適切な回避動作を促すようになっている。
FIG. 6 is a diagram illustrating another example of the driver field of view in the vehicle having the visual assistance device of the first embodiment, and illustrates a state when a risk of collision with another vehicle approaching from the side occurs. is there.
In the state shown in FIG. 6, there is an other vehicle V that travels in the right direction when viewed from the host vehicle, diagonally to the left of the host vehicle.
The other vehicle V is recognized as a risk object at the time shown in FIG. 6 because the possibility of a collision is increased.
The display device 50 displays a risk object close-up image in which the other vehicle image v obtained by imaging the other vehicle V is always enlarged and displayed.
In the state shown in FIG. 6, the other vehicle V is visible in the vicinity of the left end of the windshield 110 in the visual field viewed with the naked eye, but the other vehicle image v is visually observed with the naked eye on the display device 50. The other vehicle V is enlarged and displayed, the display color of the screen is changed, and a text message indicating danger is displayed to alert the occupant and encourage appropriate avoidance action. It has become.

以上説明した第1実施形態によれば、以下の効果を得ることができる。
(1)乗員が視点を水平方向における一方側へ移動させることによって、画像を水平方向における他方側へパン(水平方向のフレーミング移動)させることができ、乗員の意図に応じた水平方向の表示範囲の変更を直感的に行うことができる。
このような動作は、車両周囲をガラス越しに肉眼で、あるいは、ミラー類を介して目視する際に視野を変更する動作と類似しており、視認補助装置をもたない既存の車両に慣れた乗員であっても容易に視野変更機能を利用することができる。
(2)乗員が視点を上下方向における一方側へ移動させることによって、画像を上下方向における他方側へチルト(上下方向のフレーミング移動)させることができ、乗員の意図に応じた上下方向の表示範囲の変更を直感的に行うことができる。
(3)視角変化量θの算出に用いる視点移動基準点Oを、表示装置50の表示領域の右側(左右方向における乗員側)に設けることによって、比較的少ない視点移動量により表示範囲を大きく変化させることができ、過度に視点を大きく動かすことなく広範囲の視界情報を得ることができる。
(4)リスク対象物が存在する場合には、通常表示画像からリスク対象物クローズアップ画像に切り換え、リスク対象物を常時表示することによって、乗員の注意を喚起するとともに、リスク対象物の視認性を高めて適切な対処を促すことができる。
According to the first embodiment described above, the following effects can be obtained.
(1) When the occupant moves the viewpoint to one side in the horizontal direction, the image can be panned (horizontal framing movement) to the other side in the horizontal direction, and the horizontal display range according to the occupant's intention Can be changed intuitively.
Such an operation is similar to the operation of changing the field of view when viewing the surroundings of the vehicle with the naked eye through a glass or through mirrors, and has become used to existing vehicles that do not have a visual aid. Even a passenger can easily use the visual field changing function.
(2) When the occupant moves the viewpoint to one side in the vertical direction, the image can be tilted (vertical framing movement) to the other side in the vertical direction, and the display range in the vertical direction according to the occupant's intention Can be changed intuitively.
(3) By providing the viewpoint movement reference point O used for calculating the viewing angle change amount θ on the right side (occupant side in the left-right direction) of the display area of the display device 50, the display range is greatly changed with a relatively small viewpoint movement amount. A wide range of field of view information can be obtained without excessively moving the viewpoint.
(4) When there is a risk object, the normal display image is switched to the risk object close-up image, and the risk object is always displayed to alert the occupant and the visibility of the risk object. Can be encouraged to take appropriate measures.

<第2実施形態>
次に、本発明を適用した視認補助装置の第2実施形態について説明する。
以下説明する各実施形態において、上述した第1実施形態と実質的に共通する箇所については同じ符号を付して説明を省略し、主に相違点について説明する。
Second Embodiment
Next, a second embodiment of the visual assistance device to which the present invention is applied will be described.
In each embodiment described below, portions that are substantially the same as those in the first embodiment described above are denoted by the same reference numerals, description thereof is omitted, and differences are mainly described.

図7は、第2実施形態の視認補助装置における視覚検出を示す図である。
第2実施形態においては、視角変化量θを算出するために用いる視点移動基準点Oを、表示装置50の左右方向における乗員側とは反対側(左側)の端部に設けている。
以上説明した第2実施形態によれば、視点移動量に対する表示範囲の変化量を抑制することによって、表示範囲の変化が煩雑となって乗員に違和感を与えることを防止できる。
FIG. 7 is a diagram illustrating visual detection in the visual assistance device of the second embodiment.
In the second embodiment, the viewpoint movement reference point O used for calculating the viewing angle change amount θ is provided at the end of the display device 50 on the side opposite to the passenger side (left side) in the left-right direction.
According to the second embodiment described above, by suppressing the change amount of the display range with respect to the viewpoint movement amount, it is possible to prevent the change of the display range from becoming complicated and giving the passenger an uncomfortable feeling.

<第3実施形態>
次に、本発明を適用した視認補助装置の第3実施形態について説明する。
第3実施形態の視認補助装置においては、リスク対象物が検出された場合に、第1実施形態のように、リスク対象物を常時拡大表示するリスク対象物クローズアップ画像に切り替えることに代えて、通常表示画像における視点位置の移動量に対する画像のパン量を増加させる(ゲインを高める)ようにしている。
このとき、第1実施形態と同様に、表示色を変更したり警告メッセージを表示するようにしてもよい。
以上説明した第3実施形態によれば、リスク対象物が存在する場合に視点移動量に対する画像のパン量が増加することによって、乗員に違和感を与え、乗員に注意を喚起し、安全性を向上することができる。
<Third Embodiment>
Next, a third embodiment of the visual assistance device to which the present invention is applied will be described.
In the visual assistance device of the third embodiment, when a risk object is detected, instead of switching to a risk object close-up image that constantly enlarges and displays the risk object as in the first embodiment, The pan amount of the image with respect to the movement amount of the viewpoint position in the normal display image is increased (gain is increased).
At this time, as in the first embodiment, the display color may be changed or a warning message may be displayed.
According to the third embodiment described above, when there is a risk object, the panning amount of the image with respect to the viewpoint movement amount increases, which gives the passenger a sense of incongruity, alerts the passenger, and improves safety. can do.

(変形例)
本発明は、以上説明した実施形態に限定されることなく、種々の変形や変更が可能であって、それらも本発明の技術的範囲内である。
(1)車両及び視認補助装置の構成は、上述した実施形態に限定されることなく、適宜変更することが可能である。
例えば、表示装置が設けられる位置や、表示装置の個数は適宜変更することが可能である。
また、実施形態において単一のユニット等により実現している機能を複数のユニットに分割したり、実施形態において複数のユニットにより実現している機能を単一のユニットに集約してもよい。
(2)実施形態では、表示装置として透明LCDを用いているが、表示装置の具体的構成はこれに限定されず適宜変更することができる。例えば、透明ではない一般的なLCDや、有機ELディスプレイを用いてもよい。
また、ヘッドアップディスプレイ装置を用いて、フロントガラスや、フロントガラスとは別個に設けられる透明板に画像を投影してもよい。
(3)実施形態では、自車両前方の環境認識に用いられるステレオカメラ装置により撮像された画像を表示画像の生成に利用しているが、表示画像生成用として専用のカメラユニットを設けてもよい。
この場合、画像をパン、シフトさせる際に、広角撮像画像の一部範囲をトリミングするトリミング範囲を変更することに代えて、カメラ自体をアクチュエータによって駆動し、角度変化させる構成としてもよい。
(Modification)
The present invention is not limited to the embodiments described above, and various modifications and changes are possible, and these are also within the technical scope of the present invention.
(1) The configurations of the vehicle and the visual assistance device are not limited to the above-described embodiments, and can be changed as appropriate.
For example, the position where the display device is provided and the number of display devices can be changed as appropriate.
In addition, the function realized by a single unit or the like in the embodiment may be divided into a plurality of units, or the function realized by a plurality of units in the embodiment may be aggregated into a single unit.
(2) In the embodiment, a transparent LCD is used as the display device, but the specific configuration of the display device is not limited to this and can be changed as appropriate. For example, a general LCD that is not transparent or an organic EL display may be used.
Further, an image may be projected onto a windshield or a transparent plate provided separately from the windshield using a head-up display device.
(3) In the embodiment, an image captured by a stereo camera device used for environment recognition in front of the host vehicle is used to generate a display image. However, a dedicated camera unit may be provided for display image generation. .
In this case, when panning and shifting an image, instead of changing a trimming range for trimming a partial range of a wide-angle captured image, the camera itself may be driven by an actuator to change the angle.

1 視認補助装置 10 ステレオカメラ装置
11 カメラLH 12 カメラRH
13 ステレオ画像処理ユニット 20 環境認識ユニット
30 乗員モニタリングユニット 31 乗員撮影カメラ
40 表示画像生成ユニット 50 表示装置
110 フロントガラス 120 フロントドアガラス
121 本体部 122 三角窓部
130 サイドミラー 140 インストルメントパネル
141 コンビネーションメータ
142 マルチファンクションディスプレイ
143 ナビゲーション装置ディスプレイ
150 ステアリングホイール 160 Aピラー
170 ルーフ 171 ステレオカメラ収容部
180 ルームミラー
A,B,C 樹木 a,b,c 樹木像
R 表示位置基準点
V 他車両 v 他車両像
P1,P2 乗員の視点位置
O 視点移動基準点
1 Visual Auxiliary Device 10 Stereo Camera Device 11 Camera LH 12 Camera RH
13 stereo image processing unit 20 environment recognition unit 30 occupant monitoring unit 31 occupant photographing camera 40 display image generation unit 50 display device 110 windshield 120 front door glass 121 main body 122 triangular window 130 side mirror 140 instrument panel 141 combination meter 142 Multifunction display 143 Navigation device display 150 Steering wheel 160 A pillar 170 Roof 171 Stereo camera housing 180 Room mirror A, B, C Tree a, b, c Tree image R Display position reference point V Other vehicle v Other vehicle image P1, P2 Crew's viewpoint position O Viewpoint movement reference point

Claims (7)

自車両の周囲を撮像する撮像装置と、
前記撮像装置によって撮像された画像を表示する画像表示装置と、
乗員の視点の位置を検出する視点検出装置と、
水平方向における一方側への前記視点の移動に応じて、前記画像表示装置に表示される画像を水平方向における他方側へパンさせる表示範囲変更手段と
を備えることを特徴とする視認補助装置。
An imaging device for imaging the surroundings of the host vehicle;
An image display device for displaying an image captured by the imaging device;
A viewpoint detection device for detecting the position of the passenger's viewpoint;
A visual assistance device comprising: display range changing means for panning an image displayed on the image display device to the other side in the horizontal direction according to the movement of the viewpoint to one side in the horizontal direction.
前記表示範囲変更手段は、上下方向における一方側への前記視点の移動に応じて、表示される画像を上下方向における他方側へチルトさせること
を特徴とする請求項1に記載の視認補助装置。
The visual assistance device according to claim 1, wherein the display range changing unit tilts the displayed image to the other side in the vertical direction according to the movement of the viewpoint to the one side in the vertical direction.
前記画像表示装置は、前記乗員の視点から見たときの少なくとも水平方向の表示倍率が肉眼により目視する視野に対して縮小して表示されること
を特徴とする請求項1又は請求項2に記載の視認補助装置。
3. The image display device according to claim 1, wherein at least a horizontal display magnification when viewed from the viewpoint of the occupant is displayed in a reduced manner with respect to a visual field viewed with the naked eye. Visual assistance device.
前記画像表示装置は、前記乗員に対して左右方向にオフセットして配置され、
前記表示範囲変更手段は、前記画像表示装置の左右方向における前記乗員側の端部近傍に設定される視点移動基準点から見たときの前記視点の移動角度に応じて前記画像のパン量を設定すること
を特徴とする請求項1から請求項3までのいずれか1項に記載の視認補助装置。
The image display device is arranged offset in the left-right direction with respect to the occupant,
The display range changing unit sets a pan amount of the image according to a moving angle of the viewpoint when viewed from a viewpoint moving reference point set in the vicinity of the occupant side end in the left-right direction of the image display device. The visual assistance device according to any one of claims 1 to 3, wherein:
前記画像表示装置は、前記乗員に対して左右方向にオフセットして配置され、
前記表示範囲変更手段は、前記画像表示装置の左右方向における前記乗員側と反対側の端部近傍に設定される視点移動基準点から見たときの前記視点の移動角度に応じて前記画像のパン量を設定すること
を特徴とする請求項1から請求項3までのいずれか1項に記載の視認補助装置。
The image display device is arranged offset in the left-right direction with respect to the occupant,
The display range changing means pans the image according to a movement angle of the viewpoint when viewed from a viewpoint movement reference point set in the vicinity of the end opposite to the occupant side in the left-right direction of the image display device. The amount is set. The visual recognition auxiliary device according to any one of claims 1 to 3, wherein the amount is set.
自車両周辺のリスク対象物を検出するリスク対象物検出手段を備え、
前記表示範囲変更手段は、前記リスク対象物が検出された場合に、前記視点の移動量に対する前記画像のパン量を増加させること
を特徴とする請求項1から請求項5までのいずれか1項に記載の視認補助装置。
A risk object detection means for detecting a risk object around the host vehicle;
The display range changing unit increases the pan amount of the image with respect to the movement amount of the viewpoint when the risk object is detected. 6. The visual aid device described in 1.
自車両周辺のリスク対象物を検出するリスク対象物検出手段を備え、
前記表示範囲変更手段は、前記リスク対象物が検出された場合に、前記視点の位置に関わらず前記リスク対象物が表示されるよう表示範囲を設定すること
を特徴とする請求項1から請求項5までのいずれか1項に記載の視認補助装置。
A risk object detection means for detecting a risk object around the host vehicle;
The display range changing unit sets the display range so that the risk target object is displayed regardless of the position of the viewpoint when the risk target object is detected. The visual assistance device according to any one of 5 to 5.
JP2017161847A 2017-08-25 2017-08-25 Visual assistance device Active JP7037896B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017161847A JP7037896B2 (en) 2017-08-25 2017-08-25 Visual assistance device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017161847A JP7037896B2 (en) 2017-08-25 2017-08-25 Visual assistance device

Publications (2)

Publication Number Publication Date
JP2019038372A true JP2019038372A (en) 2019-03-14
JP7037896B2 JP7037896B2 (en) 2022-03-17

Family

ID=65725176

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017161847A Active JP7037896B2 (en) 2017-08-25 2017-08-25 Visual assistance device

Country Status (1)

Country Link
JP (1) JP7037896B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7423388B2 (en) 2020-03-31 2024-01-29 本田技研工業株式会社 Information provision device

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06247184A (en) * 1993-03-01 1994-09-06 Aisin Seiki Co Ltd Display device on vehicle
JP2008280026A (en) * 2007-04-11 2008-11-20 Denso Corp Driving assistance device
JP2008293095A (en) * 2007-05-22 2008-12-04 Denso Corp Operation support system
WO2009072366A1 (en) * 2007-12-05 2009-06-11 Bosch Corporation Vehicle information display device
JP2012179958A (en) * 2011-02-28 2012-09-20 Denso Corp Display device for vehicle
JP2014045265A (en) * 2012-08-24 2014-03-13 Kyocera Corp On-vehicle imaging system
JP2015009646A (en) * 2013-06-28 2015-01-19 アルパイン株式会社 Driving support device
JP2016024574A (en) * 2014-07-18 2016-02-08 日産自動車株式会社 Display device for vehicle
US20160297362A1 (en) * 2015-04-09 2016-10-13 Ford Global Technologies, Llc Vehicle exterior side-camera systems and methods
JP2017009293A (en) * 2015-06-16 2017-01-12 株式会社デンソー Display device

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06247184A (en) * 1993-03-01 1994-09-06 Aisin Seiki Co Ltd Display device on vehicle
JP2008280026A (en) * 2007-04-11 2008-11-20 Denso Corp Driving assistance device
JP2008293095A (en) * 2007-05-22 2008-12-04 Denso Corp Operation support system
WO2009072366A1 (en) * 2007-12-05 2009-06-11 Bosch Corporation Vehicle information display device
JP2012179958A (en) * 2011-02-28 2012-09-20 Denso Corp Display device for vehicle
JP2014045265A (en) * 2012-08-24 2014-03-13 Kyocera Corp On-vehicle imaging system
JP2015009646A (en) * 2013-06-28 2015-01-19 アルパイン株式会社 Driving support device
JP2016024574A (en) * 2014-07-18 2016-02-08 日産自動車株式会社 Display device for vehicle
US20160297362A1 (en) * 2015-04-09 2016-10-13 Ford Global Technologies, Llc Vehicle exterior side-camera systems and methods
JP2017009293A (en) * 2015-06-16 2017-01-12 株式会社デンソー Display device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7423388B2 (en) 2020-03-31 2024-01-29 本田技研工業株式会社 Information provision device

Also Published As

Publication number Publication date
JP7037896B2 (en) 2022-03-17

Similar Documents

Publication Publication Date Title
JP5099451B2 (en) Vehicle periphery confirmation device
JP6413207B2 (en) Vehicle display device
JP2018157403A (en) On-vehicle display device, control method for on-vehicle display device, and control program for on-vehicle display device
JP5310602B2 (en) Perimeter monitoring system for vehicles
JP5169884B2 (en) Head-up display device
JP5093611B2 (en) Vehicle periphery confirmation device
JP6649914B2 (en) Image display device
JP2011213186A (en) Electronic side mirror device
US11601621B2 (en) Vehicular display system
JP2010143411A (en) Head-up display device
JP2013191050A (en) Vehicle periphery monitoring device
US10836311B2 (en) Information-presenting device
US20150085117A1 (en) Driving assistance apparatus
JP2011189775A (en) Posterolateral checking apparatus for vehicle
JP2017111739A (en) Driving support apparatus and driving support method
JP2019116220A (en) Vehicular visible device
JP7037896B2 (en) Visual assistance device
KR20160034681A (en) Environment monitoring apparatus and method for vehicle
WO2013144998A1 (en) Visual recognition assistance apparatus for vehicle
JP2008162550A (en) External environment display device
JP6971087B2 (en) Visual assistance device
JP2021154888A (en) Display device for vehicle
JP6878109B2 (en) Image display device
TWI751932B (en) In-car electronic rear view system
JP2018074558A (en) On-vehicle imaging and display device and imaging and display program for vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200707

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220307

R150 Certificate of patent or registration of utility model

Ref document number: 7037896

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150