JP2013026797A - Image display unit - Google Patents

Image display unit Download PDF

Info

Publication number
JP2013026797A
JP2013026797A JP2011159308A JP2011159308A JP2013026797A JP 2013026797 A JP2013026797 A JP 2013026797A JP 2011159308 A JP2011159308 A JP 2011159308A JP 2011159308 A JP2011159308 A JP 2011159308A JP 2013026797 A JP2013026797 A JP 2013026797A
Authority
JP
Japan
Prior art keywords
head
image
rotation angle
angle
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011159308A
Other languages
Japanese (ja)
Inventor
Hiroyoshi Yanagi
柳  拓良
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2011159308A priority Critical patent/JP2013026797A/en
Publication of JP2013026797A publication Critical patent/JP2013026797A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Position Input By Displaying (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image display unit capable of providing a user with an image captured from a view point different from an angle where a user's head is actually oriented.SOLUTION: If a head inclination angle, that is an upward/downward inclination angel of a head to a horizontal plane, is determined to be a depression angle, the image display unit changes a view point in accordance with the inclination angle downward from the horizontal plane, further changes the changed view point toward an imaging axis orienting to a rotation angle different from a head rotation angle, that is a rotation angle around a vertical axis of the user's head to a preset reference direction, and generates an overhead view image from the further changed view point, by using an overhead view image in which the view point is set to upper side of the user, thereby providing the user with the image. If the head inclination angle is determined not to be a depression angle, the image display unit generates an image captured from an imaging axis oriented to a rotation angle different from the head rotation angle, by using an image captured from at least one axis as the imaging axis among a plurality of axes radially extending from the user to surroundings from viewed above, thereby providing the user with the image.

Description

本発明は、例えば、車両の運転時において、自車両周囲の環境を示す画像情報を運転者に提供する、画像表示装置に関する。   The present invention relates to an image display device that provides a driver with image information indicating an environment around a host vehicle, for example, during driving of the vehicle.

作業を支援するための画像情報を使用者に提供する画像表示装置として、例えば、特許文献1に記載されているものがある。
特許文献1に記載されている画像表示装置は、使用者の頭部に装着する撮像部(カメラ)及び表示部(ディスプレイ)を備える。そして、撮像部で撮像した画像に対し、作業に関する作業情報(文字等)を付加する。さらに、作業情報を付加した画像情報を表示部に表示する。ここで、撮像部は、使用者の頭部の前面が向いている方向に延びる軸を撮像軸として、画像を撮像する。
As an image display device that provides image information for supporting work to a user, for example, there is one described in Patent Document 1.
The image display device described in Patent Literature 1 includes an imaging unit (camera) and a display unit (display) that are mounted on the user's head. Then, work information (such as characters) related to the work is added to the image picked up by the image pickup unit. Further, the image information added with the work information is displayed on the display unit. Here, the imaging unit captures an image using an axis extending in a direction in which the front surface of the user's head is facing as an imaging axis.

特開2008−225913号公報JP 2008-225913 A

しかしながら、特許文献1に記載の画像表示装置では、使用者の頭部の前面が向いている方向に延びる軸を撮像軸として撮像した画像を、表示部に表示する。このため、例えば、画像表示装置を車両の運転に使用し、使用者が自車両の側方や後方の状況を確認したい場合等、使用者の頭部が実際に回転している角度と異なる視点で撮像した画像を使用者に提供することは困難である。
本発明は、上記のような問題点に着目してなされたもので、使用者の頭部が実際に回転している角度と異なる視点で撮像した画像を使用者に提供することが可能な、画像表示装置を提供することを課題とする。
However, in the image display device described in Patent Document 1, an image captured using an axis extending in a direction in which the front surface of the user's head is facing as an imaging axis is displayed on the display unit. For this reason, for example, when the image display device is used for driving the vehicle and the user wants to check the situation of the side or the back of the host vehicle, the viewpoint different from the angle at which the user's head is actually rotated It is difficult to provide a user with an image captured in (1).
The present invention was made paying attention to the above problems, and can provide the user with an image captured from a viewpoint different from the angle at which the user's head is actually rotated. It is an object to provide an image display device.

上記課題を解決するために、本発明の一態様は、予め設定した基準方向に対する使用者の頭部の上下軸周りの回転角度である頭部回転角を検出し、水平面に対する上記頭部の上下方向への傾斜角度である頭部傾斜角を検出する。
そして、上記検出した頭部傾斜角が俯角であると判定すると、水平面よりも下方向への傾斜角度に応じて視点を変化させ、且つ当該変化させた視点を上記検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。さらに、生成した俯瞰画像を、上記頭部の向きに対して予め設定した表示範囲内へ表示する。ここで、俯瞰画像の生成は、上記使用者の上方に視点を設定した俯瞰画像のうち少なくとも使用者の周囲を映した俯瞰画像を取得し、この取得した俯瞰画像を用いて行う。
In order to solve the above-described problem, an aspect of the present invention detects a head rotation angle that is a rotation angle around a vertical axis of a user's head relative to a preset reference direction, and moves the head up and down relative to a horizontal plane. A head inclination angle that is an inclination angle in the direction is detected.
When it is determined that the detected head inclination angle is a depression angle, the viewpoint is changed according to the inclination angle downward from the horizontal plane, and the changed viewpoint is different from the detected head rotation angle. An overhead view image that is changed in the direction of the imaging axis facing the rotation angle is generated. Further, the generated overhead image is displayed within a display range set in advance with respect to the orientation of the head. Here, the overhead image is generated by acquiring an overhead image that reflects at least the user's surroundings from among the overhead images set with the viewpoint above the user, and using the acquired overhead image.

また、上記検出した頭部傾斜角が俯角ではないと判定すると、上記検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成する。さらに、生成した画像を、上記頭部の向きに対して予め設定した表示範囲内へ表示する。ここで、上記検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像の生成は、上面視で上記使用者から周囲へ放射状に延びる複数の軸の少なくとも一つの軸を撮像軸として撮像した画像を取得し、この取得した画像を用いて行う。   If it is determined that the detected head inclination angle is not a depression angle, an image picked up with an image pickup axis facing a rotation angle different from the detected head rotation angle is generated. Further, the generated image is displayed within a display range set in advance with respect to the orientation of the head. Here, the generation of an image picked up by an image pickup axis that faces a rotation angle different from the detected head rotation angle is performed using at least one of a plurality of axes radially extending from the user as viewed in the top view as an image pickup axis. A captured image is acquired, and the acquired image is used.

本発明によれば、検出した頭部傾斜角が俯角であると判定すると、水平面よりも下方向への傾斜角度に応じて変化させた視点を、検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成して、予め設定した表示範囲内へ表示する。一方、検出した頭部傾斜角が俯角ではないと判定すると、検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成して、予め設定した表示範囲内へ表示する。
このため、使用者の頭部が実際に回転している角度と異なる視点で撮像した画像を、使用者に提供することが可能となる。
According to the present invention, when it is determined that the detected head tilt angle is a depression angle, the viewpoint changed according to the tilt angle downward from the horizontal plane is directed to a rotation angle different from the detected head rotation angle. An overhead image changed in the direction of the imaging axis is generated and displayed within a preset display range. On the other hand, if it is determined that the detected head inclination angle is not a depression angle, an image picked up with an image pickup axis facing a rotation angle different from the detected head rotation angle is generated and displayed within a preset display range.
For this reason, it is possible to provide the user with an image captured from a viewpoint different from the angle at which the user's head is actually rotating.

本発明の第一実施形態の画像表示装置の構成を示すブロック図である。It is a block diagram which shows the structure of the image display apparatus of 1st embodiment of this invention. 画像表示装置を適用した頭部装着部材の構成を示す図である。It is a figure which shows the structure of the head mounting member to which an image display apparatus is applied. 画像表示装置の使用者が運転する自車両の構成を示す図である。It is a figure which shows the structure of the own vehicle which the user of an image display apparatus drives. 本発明の第一実施形態の画像表示装置が行う処理を示すフローチャートである。It is a flowchart which shows the process which the image display apparatus of 1st embodiment of this invention performs.

以下、本発明の実施形態について図面を参照しつつ説明する。
(第一実施形態)
以下、本発明の第一実施形態について、図面を参照しつつ説明する。
(構成)
図1は、本実施形態の画像表示装置の構成を示すブロック図である。
図1から図3中に示すように、本実施形態の画像表示装置1は、水平方向画像取得部2と、俯瞰画像取得部4と、頭部回転角検出部6と、頭部傾斜角検出部8と、ナビゲーションシステム部10と、画像生成部12と、画像表示部14を備える。
Embodiments of the present invention will be described below with reference to the drawings.
(First embodiment)
Hereinafter, a first embodiment of the present invention will be described with reference to the drawings.
(Constitution)
FIG. 1 is a block diagram showing the configuration of the image display apparatus of this embodiment.
As shown in FIGS. 1 to 3, the image display device 1 of the present embodiment includes a horizontal image acquisition unit 2, an overhead image acquisition unit 4, a head rotation angle detection unit 6, and a head tilt angle detection. Unit 8, navigation system unit 10, image generation unit 12, and image display unit 14.

水平方向画像取得部2は、例えば、複数のCCDカメラ等を有する。また、水平方向画像取得部2は、上面視で画像表示装置1の使用者(図示せず)から周囲へ放射状に延びる複数の軸のうち、少なくとも一つの軸を撮像軸として撮像した画像を取得する。そして、水平方向画像取得部2は、取得した画像を含む情報信号を、頭部回転角検出部6、頭部傾斜角検出部8及び画像生成部12へ出力する。   The horizontal image acquisition unit 2 includes, for example, a plurality of CCD cameras. Further, the horizontal image acquisition unit 2 acquires an image obtained by imaging at least one of the plurality of axes extending radially from the user (not shown) of the image display device 1 in a top view as an imaging axis. To do. Then, the horizontal image acquisition unit 2 outputs an information signal including the acquired image to the head rotation angle detection unit 6, the head tilt angle detection unit 8, and the image generation unit 12.

ここで、本実施形態では、画像表示装置1を、図2中に示すように、眼鏡形状の部材である頭部装着部材に適用した場合を説明する。なお、図2は、画像表示装置1を適用した頭部装着部材16の構成を示す図である。
頭部装着部材16は、画像表示装置1の使用者が頭部に装着する眼鏡形状の部材であり、フレーム部18と、レンズ部20を備える。
Here, in this embodiment, the case where the image display apparatus 1 is applied to a head-mounted member that is a spectacle-shaped member as shown in FIG. 2 will be described. FIG. 2 is a diagram showing a configuration of the head mounting member 16 to which the image display device 1 is applied.
The head mounting member 16 is a spectacle-shaped member that the user of the image display apparatus 1 wears on the head, and includes a frame portion 18 and a lens portion 20.

フレーム部18は、頭部装着部材16を使用者が頭部に装着した状態で、鉛直方向から見てコの字型に形成してあり、三つのフレーム辺22a〜22cを有する。
三つのフレーム辺22a〜22cのうち、鉛直方向から見て互いに平行であるフレーム辺22aとフレーム辺22cには、その外周面(互いに対向する面と反対側の面)に、複数のCCDカメラ24を取り付ける。
The frame portion 18 is formed in a U shape when viewed from the vertical direction with the user wearing the head mounting member 16 on the head, and has three frame sides 22a to 22c.
Among the three frame sides 22a to 22c, the frame side 22a and the frame side 22c that are parallel to each other when viewed from the vertical direction include a plurality of CCD cameras 24 on the outer peripheral surface (the surface opposite to the surface facing each other). Install.

また、三つのフレーム辺22a〜22cのうち、フレーム辺22aとフレーム辺22cとを連結するフレーム辺22bには、その外周面(フレーム辺22a及びフレーム辺22cの外周面と連続する面)に、複数のCCDカメラ24を取り付ける。
なお、本実施形態では、一例として、フレーム辺22a〜22cの外周面に、それぞれ、五つのCCDカメラ24をフレーム辺22の延在方向へ配列して形成したカメラアレイを設ける場合を説明する。ここで、フレーム辺22の延在方向とは、頭部装着部材16を使用者が頭部に装着した状態で、水平方向または略水平方向となる。また、フレーム辺22a〜22cの外周面に取り付けた五つのCCDカメラ24は、それぞれ、等間隔で配置する。
Of the three frame sides 22a to 22c, the frame side 22b connecting the frame side 22a and the frame side 22c has an outer peripheral surface (a surface continuous with the outer peripheral surface of the frame side 22a and the frame side 22c). A plurality of CCD cameras 24 are attached.
In the present embodiment, as an example, a case will be described in which a camera array in which five CCD cameras 24 are arranged in the extending direction of the frame side 22 is provided on the outer peripheral surfaces of the frame sides 22a to 22c. Here, the extending direction of the frame side 22 is a horizontal direction or a substantially horizontal direction in a state where the user wears the head mounting member 16 on the head. Further, the five CCD cameras 24 attached to the outer peripheral surfaces of the frame sides 22a to 22c are arranged at equal intervals.

以上により、本実施形態では、一例として、頭部装着部材16のフレーム部18に取り付けた複数のCCDカメラ24により、水平方向画像取得部2を形成する場合を説明する。
したがって、本実施形態では、複数のCCDカメラ24、すなわち、上面視で使用者から周囲へ放射状に延びる複数の軸を撮像軸として撮像した画像を取得するため、使用者の視界よりも水平方向へ広い範囲の画像を撮像することが可能である。
As described above, in the present embodiment, as an example, a case where the horizontal image acquisition unit 2 is formed by the plurality of CCD cameras 24 attached to the frame unit 18 of the head mounting member 16 will be described.
Therefore, in the present embodiment, since a plurality of CCD cameras 24, that is, images obtained by using a plurality of axes extending radially from the user to the surroundings in the top view as the imaging axes are acquired, the horizontal direction from the user's field of view is obtained. A wide range of images can be taken.

レンズ部20は、例えば、透明な樹脂材料を用いて、板状に形成する。また、レンズ部20は、頭部装着部材16を使用者が頭部に装着した状態で、鉛直方向上方から見て、レンズ部20の上端とフレーム辺22bの下端が連続する状態で、フレーム部18に取り付ける。なお、本実施形態では、レンズ部20を、透明な樹脂材料を用いて形成した場合を説明する。   The lens unit 20 is formed in a plate shape using, for example, a transparent resin material. In addition, the lens unit 20 is configured so that the upper end of the lens unit 20 and the lower end of the frame side 22b are continuous when viewed from above in the vertical direction with the user wearing the head mounting member 16 on the head. 18 is attached. In the present embodiment, a case where the lens unit 20 is formed using a transparent resin material will be described.

また、レンズ部20の使用者側の面(三つのフレーム辺22a〜22cで囲んだ空間側の面)には、複数の網膜プロジェクタ26を取り付ける。なお、網膜プロジェクタ26に関する説明は、後述する。
俯瞰画像取得部4は、例えば、広角レンズを備えた複数の広角カメラを有して形成する。また、俯瞰画像取得部4は、後述する処理により、使用者の上方に視点を設定した俯瞰画像のうち、少なくとも使用者の周囲を映した俯瞰画像を取得する。そして、俯瞰画像取得部4は、取得した俯瞰画像を含む情報信号を、画像生成部12へ出力する。なお、以降の説明では、使用者の上方に設定した視点を、「仮想視点」と記載する場合がある。
A plurality of retina projectors 26 are attached to the user side surface of the lens unit 20 (the space side surface surrounded by the three frame sides 22a to 22c). A description of the retina projector 26 will be given later.
The overhead image acquisition unit 4 is formed with, for example, a plurality of wide-angle cameras including wide-angle lenses. In addition, the overhead image acquisition unit 4 acquires at least a bird's-eye view image that shows the surroundings of the user from among the overhead images in which the viewpoint is set above the user by a process described later. Then, the bird's-eye view image acquisition unit 4 outputs an information signal including the acquired bird's-eye view image to the image generation unit 12. In the following description, the viewpoint set above the user may be described as “virtual viewpoint”.

ここで、本実施形態では、画像表示装置1を、図2中に示す頭部装着部材16に適用し、さらに、頭部装着部材16を装着した使用者が、図3中に示す車両(以下、「自車両」と記載する場合がある)に運転する場合を説明する。なお、図3は、画像表示装置1の使用者が運転する自車両Vの構成を示す図である。
したがって、本実施形態では、俯瞰画像取得部4が取得する俯瞰画像を、自車両Vの上方に視点を設定した俯瞰画像のうち、少なくとも自車両Vの周囲を映した俯瞰画像として説明する。
Here, in the present embodiment, the image display device 1 is applied to the head mounting member 16 shown in FIG. The case of driving in the case of “may be described as“ own vehicle ”” will be described. FIG. 3 is a diagram illustrating the configuration of the host vehicle V that is driven by the user of the image display device 1.
Therefore, in this embodiment, the bird's-eye view image acquired by the bird's-eye view image acquisition unit 4 will be described as a bird's-eye view image that reflects at least the surroundings of the host vehicle V among the bird's-eye view images set with the viewpoint above the host vehicle V.

自車両Vは、画像表示装置1の使用者が運転する車両であり、複数の広角カメラ28を備える。なお、本実施形態では、一例として、自車両Vの構成が、四つの広角カメラ28を備える構成である場合を説明する。
四つの広角カメラ28は、前方カメラ28aと、右側方カメラ28bと、左側方カメラ28cと、後方カメラ28dである。
The host vehicle V is a vehicle that is driven by a user of the image display device 1 and includes a plurality of wide-angle cameras 28. In the present embodiment, the case where the configuration of the host vehicle V is a configuration including four wide-angle cameras 28 will be described as an example.
The four wide-angle cameras 28 are a front camera 28a, a right side camera 28b, a left side camera 28c, and a rear camera 28d.

前方カメラ28aは、車両前後方向前方、例えば、フロントグリルの中心付近に取り付ける。また、前方カメラ28aの撮像範囲は、例えば、自車両Vの車両前後方向前方の地面へ向ける。なお、図3中では、前方カメラ28aの撮像範囲を示す領域を、符号30aを付して示す。
右側方カメラ28bは、車幅方向右側、例えば、車幅方向右側のドアミラーの下面(地面と対向する面)に取り付ける。また、右側方カメラ28bの撮像範囲は、例えば、自車両Vの車幅方向右側の地面へ向ける。なお、図3中では、右側方カメラ28bの撮像範囲を示す領域を、符号30bを付して示す。
The front camera 28a is attached to the front in the vehicle front-rear direction, for example, near the center of the front grill. Moreover, the imaging range of the front camera 28a is directed to the ground in the front-rear direction of the host vehicle V, for example. In FIG. 3, an area indicating the imaging range of the front camera 28 a is indicated by reference numeral 30 a.
The right side camera 28b is attached to the lower surface (surface facing the ground surface) of the door mirror on the right side in the vehicle width direction, for example, on the right side in the vehicle width direction. Further, the imaging range of the right side camera 28b is directed to the ground on the right side in the vehicle width direction of the host vehicle V, for example. In FIG. 3, an area indicating the imaging range of the right side camera 28 b is indicated with a reference numeral 30 b.

左側方カメラ28cは、車幅方向左側、例えば、車幅方向左側のドアミラーの下面(地面と対向する面)に取り付ける。また、左側方カメラ28cの撮像範囲は、例えば、自車両Vの車幅方向左側の地面へ向ける。なお、図3中では、左側方カメラ28cの撮像範囲を示す領域を、符号30cを付して示す。
後方カメラ28dは、車両前後方向後方、例えば、後部ドア上端の中心付近に取り付ける。また、後方カメラ28dの撮像範囲は、例えば、自車両Vの車両前後方向後方の地面へ向ける。なお、図3中では、後方カメラ28dの撮像範囲を示す領域を、符号30dを付して示す。
The left-side camera 28c is attached to the lower surface (surface facing the ground) of the door mirror on the left side in the vehicle width direction, for example, the left side in the vehicle width direction. The imaging range of the left side camera 28c is directed to the ground on the left side in the vehicle width direction of the host vehicle V, for example. In FIG. 3, an area indicating the imaging range of the left side camera 28 c is indicated by reference numeral 30 c.
The rear camera 28d is attached to the rear in the vehicle front-rear direction, for example, near the center of the upper end of the rear door. Further, the imaging range of the rear camera 28d is directed to the ground behind the host vehicle V in the vehicle front-rear direction, for example. In FIG. 3, an area indicating the imaging range of the rear camera 28d is indicated by reference numeral 30d.

したがって、前方カメラ28a、右側方カメラ28b、左側方カメラ28c及び後方カメラ28dが撮像した画像を組み合わせると、自車両Vの上方に設定した仮想視点Pから自車両Vの周囲の地面を見下ろした画像となる。すなわち、前方カメラ28a、右側方カメラ28b、左側方カメラ28c及び後方カメラ28dが撮像した画像を組み合わせると、使用者が運転する自車両Vの周囲(使用者の周囲)における地面の俯瞰画像を形成することが可能となる。   Therefore, when the images captured by the front camera 28a, the right side camera 28b, the left side camera 28c, and the rear camera 28d are combined, the image looks down on the ground around the host vehicle V from the virtual viewpoint P set above the host vehicle V. It becomes. That is, when the images captured by the front camera 28a, the right side camera 28b, the left side camera 28c, and the rear camera 28d are combined, an overhead view image of the ground around the host vehicle V driven by the user (around the user) is formed. It becomes possible to do.

なお、図3中では、仮想視点Pが、自車両Vの上方において、自車両Vの中心付近(車両前後方向及び車幅方向の中心付近)と重なる位置である場合を示す。
以上により、本実施形態では、一例として、自車両Vの外周面に取り付けた四つの広角カメラ28(車載カメラ)により、俯瞰画像取得部4を形成する場合を説明する。すなわち、本実施形態では、一例として、俯瞰画像取得部4の構成を、使用者が装着しないカメラ(広角カメラ28)を有する構成とした場合を説明する。
FIG. 3 shows a case where the virtual viewpoint P is located above the host vehicle V and is near the center of the host vehicle V (near the center in the vehicle longitudinal direction and the vehicle width direction).
As described above, in the present embodiment, as an example, the case where the overhead image acquisition unit 4 is formed by the four wide-angle cameras 28 (vehicle-mounted cameras) attached to the outer peripheral surface of the host vehicle V will be described. That is, in the present embodiment, as an example, a case will be described in which the overhead image acquisition unit 4 is configured to have a camera (wide-angle camera 28) that is not worn by the user.

頭部回転角検出部6は、水平方向画像取得部2が出力した情報信号に基づき、頭部回転角を検出する。ここで、頭部回転角は、予め設定した基準方向に対する、使用者の頭部の上下軸周りの回転角度である。
そして、頭部回転角検出部6は、検出した頭部回転角を含む情報信号を、画像生成部12へ出力する。すなわち、本実施形態では、一例として、頭部回転角検出部6が、水平方向画像取得部2が取得した画像に基づいて、頭部回転角を検出する場合を説明する。なお、頭部回転角検出部6は、例えば、フレーム部18に内蔵する。
The head rotation angle detection unit 6 detects the head rotation angle based on the information signal output by the horizontal image acquisition unit 2. Here, the head rotation angle is a rotation angle around the vertical axis of the user's head relative to a preset reference direction.
Then, the head rotation angle detection unit 6 outputs an information signal including the detected head rotation angle to the image generation unit 12. That is, in this embodiment, the case where the head rotation angle detection part 6 detects a head rotation angle based on the image which the horizontal direction image acquisition part 2 acquired as an example is demonstrated. The head rotation angle detection unit 6 is built in the frame unit 18, for example.

また、本実施形態では、一例として、基準方向を、使用者の上半身の正中面と同じ方向とする場合を説明する。ここで、「上半身の正中面」とは、使用者の上半身を横方向(左右方向)で均等に分割する面である。
なお、基準方向の設定は、例えば、フレーム辺22bの外周面に取り付けた五つのCCDカメラ24のうち、中心に配置したCCDカメラ24が、自車両Vが備えるステアリングホイールの回転中心を最短距離で撮像している状態を検出して行う。この場合、ステアリングホイールの回転中心を最短距離で撮像している状態の検出は、例えば、自車両Vの運転席に着座した使用者がシートベルトを着用した状態で行う。
In the present embodiment, as an example, a case where the reference direction is the same direction as the median surface of the upper body of the user will be described. Here, the “midline surface of the upper body” is a surface that equally divides the upper body of the user in the horizontal direction (left-right direction).
The reference direction is set by, for example, the center of the five CCD cameras 24 attached to the outer peripheral surface of the frame side 22b so that the center of rotation of the steering wheel of the host vehicle V is the shortest distance. This is done by detecting the imaging state. In this case, detection of the state in which the rotation center of the steering wheel is imaged at the shortest distance is performed, for example, in a state where the user seated on the driver's seat of the host vehicle V wears the seat belt.

また、本実施形態では、一例として、頭部回転角検出部6が、使用者の頭部と対向する物体に対する使用者の頭部の上下軸周りの回転角度を用いて、頭部回転角を検出する場合を説明する。
ここで、頭部回転角を検出する処理の具体例としては、まず、ステアリングホイールの回転中心を、使用者の頭部と対向する物体として設定する。これに加え、複数のCCDカメラ24が撮像した画像を検出する。
In the present embodiment, as an example, the head rotation angle detection unit 6 uses the rotation angle around the vertical axis of the user's head relative to the object facing the user's head to determine the head rotation angle. A case of detection will be described.
Here, as a specific example of the process of detecting the head rotation angle, first, the rotation center of the steering wheel is set as an object facing the user's head. In addition to this, images taken by a plurality of CCD cameras 24 are detected.

そして、複数のCCDカメラ24のうち、ステアリングホイールの回転中心に最も近いCCDカメラ24とステアリングホイールの回転中心を結ぶ第一直線を算出する。これに加え、フレーム辺22bの外周面に取り付けた五つのCCDカメラ24のうち、中心に配置したCCDカメラ24の撮像方向中心を示す第二直線を算出する。
さらに、鉛直方向から見た第一直線と第二直線がなす角度を算出し、この算出した角度を、頭部回転角として検出する。
Then, a first straight line connecting the CCD camera 24 closest to the rotation center of the steering wheel and the rotation center of the steering wheel among the plurality of CCD cameras 24 is calculated. In addition, among the five CCD cameras 24 attached to the outer peripheral surface of the frame side 22b, a second straight line indicating the imaging direction center of the CCD camera 24 arranged at the center is calculated.
Furthermore, an angle formed by the first straight line and the second straight line viewed from the vertical direction is calculated, and the calculated angle is detected as a head rotation angle.

頭部傾斜角検出部8は、水平方向画像取得部2が出力した情報信号に基づき、頭部傾斜角を検出する。ここで、頭部傾斜角は、水平面に対する使用者の頭部の上下方向への傾斜角度である。そして、頭部傾斜角検出部8は、検出した頭部傾斜角を含む情報信号を、画像生成部12へ出力する。すなわち、本実施形態では、一例として、頭部傾斜角検出部8が、水平方向画像取得部2が取得した画像に基づいて、頭部傾斜角を検出する場合を説明する。なお、頭部傾斜角検出部8は、例えば、フレーム部18に内蔵する。   The head tilt angle detection unit 8 detects the head tilt angle based on the information signal output by the horizontal image acquisition unit 2. Here, the head inclination angle is an inclination angle of the user's head in the vertical direction with respect to the horizontal plane. Then, the head tilt angle detection unit 8 outputs an information signal including the detected head tilt angle to the image generation unit 12. That is, in the present embodiment, as an example, a case where the head tilt angle detection unit 8 detects the head tilt angle based on the image acquired by the horizontal image acquisition unit 2 will be described. The head inclination angle detection unit 8 is built in the frame unit 18, for example.

また、本実施形態では、一例として、頭部傾斜角検出部8が、使用者の頭部と対向する物体に対する使用者の頭部の上下方向への傾斜角度を用いて、頭部傾斜角を検出する場合を説明する。
ここで、頭部傾斜角を検出する処理の具体例としては、まず、自車両Vが備えるステアリングホイールの回転中心を、使用者の頭部と対向する物体として設定する。これに加え、複数のCCDカメラ24が撮像した画像を参照する。
In the present embodiment, as an example, the head tilt angle detection unit 8 uses the tilt angle in the vertical direction of the user's head relative to the object facing the user's head to determine the head tilt angle. A case of detection will be described.
Here, as a specific example of the process of detecting the head inclination angle, first, the rotation center of the steering wheel provided in the host vehicle V is set as an object facing the user's head. In addition to this, images taken by a plurality of CCD cameras 24 are referred to.

そして、複数のCCDカメラ24のうち、ステアリングホイールの回転中心に最も近いCCDカメラ24とステアリングホイールの回転中心を結ぶ第一直線を算出する。これに加え、フレーム辺22bの外周面に取り付けた五つのCCDカメラ24のうち、中心に配置したCCDカメラ24の撮像方向中心を示す第二直線を算出する。
さらに、水平方向から見た第一直線と第二直線がなす角度を算出し、この算出した角度を、頭部傾斜角として検出する。
Then, a first straight line connecting the CCD camera 24 closest to the rotation center of the steering wheel and the rotation center of the steering wheel among the plurality of CCD cameras 24 is calculated. In addition, among the five CCD cameras 24 attached to the outer peripheral surface of the frame side 22b, a second straight line indicating the imaging direction center of the CCD camera 24 arranged at the center is calculated.
Further, an angle formed by the first straight line and the second straight line viewed from the horizontal direction is calculated, and the calculated angle is detected as a head tilt angle.

ナビゲーションシステム部10は、一般的なカーナビゲーション(Automotive navigation system)を用いて構成する。また、ナビゲーションシステム部10は、道路種別、道路曲率、道路勾配等の地図情報を記憶し、必要に応じて、これらの情報を更新可能な機能を有する。これに加え、ナビゲーションシステム部10は、例えば、GPS(Global Positioning System)による、自車両の位置測定、自車両の経路誘導、自車両の走行経路における制限車速情報の表示等を行う機能を有する。   The navigation system unit 10 is configured using a general car navigation system. Further, the navigation system unit 10 stores map information such as road type, road curvature, road gradient, and the like, and has a function capable of updating these information as necessary. In addition to this, the navigation system unit 10 has a function of performing position measurement of the host vehicle, route guidance of the host vehicle, display of limited vehicle speed information in the travel route of the host vehicle, and the like by, for example, GPS (Global Positioning System).

なお、ナビゲーションシステム部10が記憶している各種情報は、必要に応じて、画像生成部12が、情報信号の入力により取得する。
画像生成部12は、水平方向画像取得部2、俯瞰画像取得部4、頭部回転角検出部6、頭部傾斜角検出部8及びナビゲーションシステム部10が出力した情報信号に基づき、画像表示部14に表示するための画像を生成する。そして、画像生成部12は、生成した画像を含む情報信号を、画像表示部14へ出力する。また、画像生成部12には、予め、自車両Vの上面の画像(写真データ、CGデータ等)を記憶させておく。なお、画像生成部12は、例えば、フレーム部18に内蔵する。
Note that the various types of information stored in the navigation system unit 10 are acquired by the image generation unit 12 by inputting information signals as necessary.
The image generation unit 12 includes an image display unit based on information signals output from the horizontal image acquisition unit 2, the overhead image acquisition unit 4, the head rotation angle detection unit 6, the head tilt angle detection unit 8, and the navigation system unit 10. 14 is generated. Then, the image generation unit 12 outputs an information signal including the generated image to the image display unit 14. In addition, the image generation unit 12 stores an image (photo data, CG data, etc.) of the upper surface of the host vehicle V in advance. The image generation unit 12 is built in the frame unit 18, for example.

具体的には、画像生成部12は、まず、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であるか否かを判定する。ここで、判定に用いる俯角は、例えば、自車両Vが平坦路を走行している場合では、水平面と下り勾配の線がなす垂直面内の角度とする。また、判定に用いる俯角は、例えば、自車両Vが上り坂を走行している場合では、水平面よりも上方向へ、上り坂の勾配に応じて傾斜した面を基準とし、この基準とした面と下り勾配の線がなす垂直面内の角度とする。また、判定に用いる俯角は、例えば、自車両Vが下り坂を走行している場合では、水平面よりも下方向へ、下り坂の勾配に応じて傾斜した面を基準とし、この基準とした面と下り勾配の線がなす垂直面内の角度とする。   Specifically, the image generation unit 12 first determines whether or not the head tilt angle detected by the head tilt angle detection unit 8 is a depression angle. Here, the depression angle used for the determination is, for example, an angle in a vertical plane formed by a horizontal plane and a downward slope line when the host vehicle V is traveling on a flat road. In addition, for example, when the host vehicle V is traveling uphill, the depression angle used for the determination is based on a surface inclined in accordance with the gradient of the uphill upward from the horizontal plane. And the angle in the vertical plane formed by the descending slope line. In addition, for example, when the host vehicle V is traveling on a downhill, the depression angle used for the determination is based on a surface inclined in accordance with the gradient of the downhill downward from the horizontal plane. And the angle in the vertical plane formed by the descending slope line.

以下、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定した場合の処理と、頭部傾斜角検出部8が検出した頭部傾斜角が俯角ではないと判定した場合の処理を、順に説明する。
・頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定した場合の処理
画像生成部12は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定すると、水平面よりも下方向への傾斜角度に応じて仮想視点Pの位置を変化させる。これに加え、位置を変化させた仮想視点Pを頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。この場合、俯瞰画像の生成は、俯瞰画像取得部4が撮像した画像を用いて行う。そして、画像生成部12は、生成した俯瞰画像を含む情報信号を、画像表示部14へ出力する。
Hereinafter, when it is determined that the head tilt angle detected by the head tilt angle detection unit 8 is a depression angle, and when it is determined that the head inclination angle detected by the head tilt angle detection unit 8 is not a depression angle These processes will be described in order.
Processing when it is determined that the head tilt angle detected by the head tilt angle detection unit 8 is a depression angle The image generation unit 12 determines that the head inclination angle detected by the head tilt angle detection unit 8 is a depression angle. If it determines, the position of the virtual viewpoint P will be changed according to the inclination angle below a horizontal plane. In addition, a bird's-eye view image in which the virtual viewpoint P whose position has been changed is changed in the direction of the imaging axis that faces a rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6 is generated. In this case, the overhead image is generated using the image captured by the overhead image acquisition unit 4. Then, the image generation unit 12 outputs an information signal including the generated overhead image to the image display unit 14.

なお、本実施形態では、一例として、画像生成部12が、頭部傾斜角検出部8が検出した頭部傾斜角のうち、水平面よりも下方向への傾斜角度が大きいほど、自車両V(使用者)の周囲の領域が広く映るように視点を変化させた俯瞰画像を生成する場合を説明する。このような俯瞰画像の生成は、上述したように、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定すると行う。   In the present embodiment, as an example, the image generation unit 12 increases, as the head tilt angle detected by the head tilt angle detection unit 8, the tilt angle downward from the horizontal plane is larger. A case will be described in which a bird's-eye view image in which the viewpoint is changed so that a user's surrounding area is widely reflected is generated. Such a bird's-eye view image is generated when it is determined that the head tilt angle detected by the head tilt angle detection unit 8 is a depression angle, as described above.

以下、頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、自車両Vの周囲の領域が広く映るように仮想視点Pの位置を変化させた俯瞰画像を生成する際に行う処理の具体例を説明する。
まず、四つの広角カメラ28が撮像した画像を組み合わせる。次に、頭部傾斜角のうち水平面よりも下方向への傾斜角度の大きさに応じて、四つの広角カメラ28がそれぞれ撮像した画像から、自車両Vから離れた領域の比率を変更した画像を生成する。この場合、頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、自車両Vの領域よりも自車両Vから離れた領域が広く映る仮想視点Pの俯瞰画像を生成する。なお、自車両Vから離れた領域の最大値は、広角カメラ28の性能等に応じた値である。
Hereinafter, it is performed when generating a bird's-eye view image in which the position of the virtual viewpoint P is changed so that the area around the host vehicle V is reflected more widely as the tilt angle downward from the horizontal plane is larger in the head tilt angle. A specific example of processing will be described.
First, the images captured by the four wide-angle cameras 28 are combined. Next, an image obtained by changing the ratio of the area away from the host vehicle V from the images captured by the four wide-angle cameras 28 according to the inclination angle of the head inclination angle downward from the horizontal plane. Is generated. In this case, an overhead image of the virtual viewpoint P in which a region farther from the host vehicle V than the region of the host vehicle V appears wider as the tilt angle of the head tilt angle downward from the horizontal plane is larger. Note that the maximum value in the region away from the host vehicle V is a value according to the performance of the wide-angle camera 28 and the like.

さらに、自車両Vの領域よりも自車両Vから離れた領域が広く映るように位置を変化させた仮想視点Pを、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。
なお、本実施形態では、一例として、画像生成部12が、予め設定した回転角変化係数を、頭部回転角検出部6が検出した頭部回転角に乗算した角度に基づいて、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を設定する場合を説明する。
Further, the virtual viewpoint P whose position is changed so that a region far from the host vehicle V is reflected wider than the region of the host vehicle V has a rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6. A bird's-eye view image that is changed in the direction of the imaging axis that faces is generated.
In the present embodiment, as an example, the image generation unit 12 rotates the head rotation based on an angle obtained by multiplying the rotation angle change coefficient set in advance by the head rotation angle detected by the head rotation angle detection unit 6. A case where a rotation angle different from the head rotation angle detected by the angle detection unit 6 is set will be described.

この場合、本実施形態では、一例として、回転角変化係数を「K」と定義し、以下に示す式(1)が成立するように、回転角変化係数Kを予め設定する。なお、設定した回転角変化係数Kは、予め、画像生成部12に記憶させておく。
K>1 … (1)
すなわち、本実施形態では、回転角変化係数Kを、1よりも大きい値とする場合を説明する。
そして、形成した俯瞰画像の中心に、予め記憶させてある自車両Vの上面の画像を合成(上書き)する。これにより、水平面よりも下方向への傾斜角度に応じて仮想視点Pを変化させ、さらに、変化させた仮想視点Pを頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。
In this case, in this embodiment, as an example, the rotation angle change coefficient is defined as “K”, and the rotation angle change coefficient K is set in advance so that the following equation (1) is satisfied. The set rotation angle change coefficient K is stored in the image generation unit 12 in advance.
K> 1 (1)
That is, in this embodiment, a case where the rotation angle change coefficient K is set to a value larger than 1 will be described.
Then, the image of the upper surface of the host vehicle V stored in advance is synthesized (overwritten) at the center of the formed overhead image. Thereby, the virtual viewpoint P is changed according to the inclination angle downward from the horizontal plane, and further, the rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6 is detected. A bird's-eye view image that is changed in the direction of the imaging axis that faces is generated.

・頭部傾斜角検出部8が検出した頭部傾斜角が俯角ではないと判定した場合の処理
画像生成部12は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角ではないと判定すると、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成する。この場合、画像の生成は、水平方向画像取得部2が取得した画像を用いて行う。そして、画像生成部12は、生成した画像を含む情報信号を、画像表示部14へ出力する。
Processing when it is determined that the head tilt angle detected by the head tilt angle detection unit 8 is not a depression angle The image generation unit 12 determines that the head inclination angle detected by the head tilt angle detection unit 8 is not a depression angle If it determines, the image imaged with the imaging axis which will turn to the rotation angle different from the head rotation angle which the head rotation angle detection part 6 detected will be produced | generated. In this case, the image is generated using the image acquired by the horizontal image acquisition unit 2. Then, the image generation unit 12 outputs an information signal including the generated image to the image display unit 14.

なお、本実施形態では、上述したように、回転角変化係数Kを、1よりも大きい値とする場合を説明する。
なお、上式(1)に示すように、1を超える値に設定する回転角変化係数Kは、例えば、定数である「2」に設定してもよい。これにより、使用者が頭部を水平方向へ90[°]右回転させた場合に、画像生成部12が、使用者が頭部を水平方向へ180[°]右回転させた範囲の画像を生成する。この場合、画像生成部12が生成する画像は、自車両Vの後方を撮像した画像となる。
In the present embodiment, as described above, a case where the rotation angle change coefficient K is set to a value larger than 1 will be described.
As shown in the above equation (1), the rotation angle change coefficient K set to a value exceeding 1 may be set to “2” which is a constant, for example. As a result, when the user rotates the head by 90 [°] right in the horizontal direction, the image generation unit 12 displays an image in a range in which the user rotates the head by 180 [°] right in the horizontal direction. Generate. In this case, the image generated by the image generation unit 12 is an image obtained by capturing the rear of the host vehicle V.

また、画像生成部12が、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成する際には、隣り合うCCDカメラ24が撮像した画像同士を連続させる処理を行う。この処理は、例えば、複数のCCDカメラ24を、隣り合うCCDカメラ24が撮像した画像が互いに端の部分で重なるように配置し、隣り合うCCDカメラ24が撮像した画像を、上述した重なり部分を互いに重ねて一枚に統合した画像とする処理である。   Further, when the image generation unit 12 generates an image picked up with an image pickup axis that faces a rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6, an image picked up by the adjacent CCD camera 24 is used. Process to make them continuous. In this process, for example, a plurality of CCD cameras 24 are arranged so that images captured by adjacent CCD cameras 24 overlap each other at the end portions, and the images captured by adjacent CCD cameras 24 are replaced with the above-described overlapping portions. This is a process of creating images that are superimposed on each other and integrated into one sheet.

また、本実施形態では、一例として、画像生成部12が、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、生成した画像を含む情報信号の出力を行わない場合を説明する。
ここで、非表示角度は、例えば、上述した基準方向を中心とした円形の領域を形成する角度とする。この場合、非表示角度は、例えば、使用者の頭部の中心から前方(視認方向)へ向けて、水平方向±10[°]及び鉛直方向±10[°]程度の範囲に対応する円形の領域を形成する角度に設定する。また、設定した非表示角度は、予め、画像生成部12に記憶しておく。
In the present embodiment, as an example, when the image generation unit 12 does not output an information signal including the generated image if the head rotation angle and the head tilt angle are equal to or less than a preset non-display angle. Will be explained.
Here, the non-display angle is, for example, an angle that forms a circular region centered on the reference direction described above. In this case, the non-display angle is, for example, a circular shape corresponding to a range of about ± 10 [°] in the horizontal direction and ± 10 [°] in the vertical direction from the center of the user's head to the front (viewing direction). Set the angle to form the region. The set non-display angle is stored in advance in the image generation unit 12.

また、本実施形態では、一例として、画像生成部12が、頭部傾斜角検出部8が検出した頭部傾斜角が、水平面よりも上方向への傾斜角度である場合に、自車両Vの周辺環境情報や走行支援情報を表示する画像を生成する場合を説明する。
ここで、自車両Vの周辺環境情報とは、例えば、ナビゲーションシステム部10が記憶している地図情報と自車両Vの位置測定により生成する自車両Vの周辺マップ等である。また、走行支援情報とは、自車両Vの走行経路における、渋滞予測情報等である。
In the present embodiment, as an example, when the image generation unit 12 detects that the head inclination angle detected by the head inclination angle detection unit 8 is an inclination angle upward from the horizontal plane, The case where the image which displays surrounding environment information and driving support information is produced | generated is demonstrated.
Here, the surrounding environment information of the own vehicle V is, for example, map information stored in the navigation system unit 10 and a surrounding map of the own vehicle V generated by measuring the position of the own vehicle V. The driving support information is traffic jam prediction information and the like on the driving route of the host vehicle V.

画像表示部14は、画像生成部12が出力した情報信号に基づき、使用者の頭部の向きに対して予め設定した表示範囲内へ、画像生成部12が生成した画像を表示する。
ここで、使用者の頭部の向きに対して予め設定した表示範囲とは、例えば、使用者の視界である。
なお、本実施形態では、上述したように、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、画像生成部12が、生成した画像を含む情報信号の出力を行わない。このため、本実施形態では、画像表示部14が、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、画像生成部12が生成した画像を表示しない場合を説明する。
The image display unit 14 displays the image generated by the image generation unit 12 within a display range set in advance with respect to the orientation of the user's head based on the information signal output by the image generation unit 12.
Here, the display range set in advance with respect to the orientation of the user's head is, for example, the user's field of view.
In the present embodiment, as described above, if the head rotation angle and the head tilt angle are equal to or less than the preset non-display angle, the image generation unit 12 outputs an information signal including the generated image. Absent. For this reason, in the present embodiment, a case will be described in which the image display unit 14 does not display the image generated by the image generation unit 12 if the head rotation angle and the head tilt angle are equal to or less than the preset non-display angles. .

また、本実施形態では、一例として、画像表示部14の構成が、レンズ部20に取り付けた、複数の網膜プロジェクタ26を備える構成である場合について説明する。
網膜プロジェクタ26は、使用者の視界内に画像を表示する表示装置である。また、網膜プロジェクタ26は、例えば、網膜走査ディスプレイ(RID:Retinal Imaging Display)を用いて形成する。ここで、網膜走査ディスプレイは、画像生成部12が生成した画像を形成する光を、使用者の網膜へ直接照射して、使用者の視界内に画像を表示する。なお、本実施形態では、複数の網膜プロジェクタ26を、使用者の両目(右目及び左目)に対し、それぞれ、網膜へ光を直接照射することが可能な位置に配置する。具体的に、本実施形態では、レンズ部20に四つの網膜プロジェクタ26を取り付け、二つ一組の網膜プロジェクタ26を、それぞれ、右目または左目へ光を直接照射することが可能な位置に配置する。
In the present embodiment, as an example, a case where the configuration of the image display unit 14 includes a plurality of retinal projectors 26 attached to the lens unit 20 will be described.
The retina projector 26 is a display device that displays an image in the user's field of view. In addition, the retina projector 26 is formed using, for example, a retina scanning display (RID: Retinal Imaging Display). Here, the retinal scanning display directly irradiates the user's retina with the light that forms the image generated by the image generation unit 12 and displays the image in the user's field of view. In the present embodiment, the plurality of retina projectors 26 are arranged at positions where the retina can be directly irradiated with light with respect to both eyes (right eye and left eye) of the user. Specifically, in the present embodiment, four retinal projectors 26 are attached to the lens unit 20, and each pair of retinal projectors 26 is disposed at a position where light can be directly emitted to the right eye or the left eye, respectively. .

(動作)
次に、図1から図3を参照しつつ、図4を用いて、本実施形態の画像表示装置1が行なう動作の一例について説明する。
図4は、本実施形態の画像表示装置1が行う処理を示すフローチャートである。
図4中に示すフローチャートは、自車両Vが走行しており、自車両Vを運転している画像表示装置1の使用者によって、画像表示装置1を作動させるスイッチが操作(ON)された状態からスタートする(図4中に示す「START」)。なお、画像表示装置1を作動させるスイッチは、例えば、フレーム部18に設け、手動により操作する。
(Operation)
Next, an example of an operation performed by the image display apparatus 1 according to the present embodiment will be described with reference to FIGS. 1 to 3 and FIG.
FIG. 4 is a flowchart showing processing performed by the image display apparatus 1 of the present embodiment.
In the flowchart shown in FIG. 4, the host vehicle V is traveling, and a switch for operating the image display device 1 is operated (ON) by a user of the image display device 1 driving the host vehicle V. Start from ("START" shown in FIG. 4). The switch for operating the image display device 1 is provided, for example, in the frame unit 18 and is manually operated.

画像表示装置1を作動させると、水平方向画像取得部2を形成する複数のCCDカメラ24が、それぞれ、画像を撮像する。これにより、水平方向画像取得部2が、使用者の視界よりも水平方向へ広い範囲の画像を取得(ステップS100に示す「水平方向の画像を取得」)する。そして、使用者の視界よりも水平方向へ広い範囲の画像を取得した水平方向画像取得部2は、取得した画像を含む情報信号を、頭部回転角検出部6、頭部傾斜角検出部8及び画像生成部12へ出力する。ステップS100において、使用者の視界よりも水平方向へ広い範囲の画像を取得すると、画像表示装置1が行う処理は、ステップS102へ移行する。   When the image display device 1 is operated, the plurality of CCD cameras 24 forming the horizontal direction image acquisition unit 2 capture images. As a result, the horizontal image acquisition unit 2 acquires an image in a wider range in the horizontal direction than the user's field of view ("acquire horizontal image" shown in step S100). And the horizontal direction image acquisition part 2 which acquired the image of the range wider than a user's visual field in the horizontal direction makes the head rotation angle detection part 6 and the head inclination angle detection part 8 the information signal containing the acquired image. And output to the image generation unit 12. In step S100, when an image having a wider range in the horizontal direction than the user's field of view is acquired, the processing performed by the image display device 1 proceeds to step S102.

ステップS102では、俯瞰画像取得部4を形成する複数の広角カメラ28a〜28dが、それぞれ、自車両Vの周囲の地面を、自車両Vの上方に設定した仮想視点Pから見下ろした画像を取得する。これにより、画像表示装置1の使用者が運転する自車両Vの周囲における地面の俯瞰画像を取得(ステップS102に示す「俯瞰画像を取得」)する。自車両Vの周囲における地面の俯瞰画像を取得した俯瞰画像取得部4は、取得した俯瞰画像を含む情報信号を、画像生成部12へ出力する。ステップS102において、自車両Vの周囲における地面の俯瞰画像を取得すると、画像表示装置1が行う処理は、ステップS104へ移行する。   In step S <b> 102, the plurality of wide-angle cameras 28 a to 28 d forming the overhead image acquisition unit 4 respectively acquire images in which the ground around the host vehicle V is looked down from the virtual viewpoint P set above the host vehicle V. . Thereby, the bird's-eye view image of the ground around the host vehicle V driven by the user of the image display device 1 is acquired ("getting a bird's-eye view image" shown in step S102). The overhead image acquisition unit 4 that has acquired the overhead image of the ground around the host vehicle V outputs an information signal including the acquired overhead image to the image generation unit 12. In step S102, when an overhead view image of the ground around the host vehicle V is acquired, the processing performed by the image display device 1 proceeds to step S104.

なお、ステップS100で行う処理と、ステップS102で行う処理は、逆の順番(ステップS102→ステップS100)で行ってもよい。
ステップS104では、頭部回転角検出部6が、水平方向画像取得部2が出力した情報信号に基づいて、頭部回転角を検出(ステップS104に示す「頭部回転角を検出」)する。そして、頭部回転角を検出した頭部回転角検出部6は、検出した頭部回転角を含む情報信号を、画像生成部12へ出力する。ステップS104において、頭部回転角を検出すると、画像表示装置1が行う処理は、ステップS106へ移行する。
Note that the process performed in step S100 and the process performed in step S102 may be performed in the reverse order (step S102 → step S100).
In step S104, the head rotation angle detection unit 6 detects the head rotation angle based on the information signal output from the horizontal image acquisition unit 2 ("detects head rotation angle" shown in step S104). Then, the head rotation angle detection unit 6 that detects the head rotation angle outputs an information signal including the detected head rotation angle to the image generation unit 12. If the head rotation angle is detected in step S104, the processing performed by the image display device 1 proceeds to step S106.

ステップS106では、頭部傾斜角検出部8が、水平方向画像取得部2が出力した情報信号に基づいて、頭部傾斜角を検出(ステップS106に示す「頭部傾斜角を検出」)する。そして、頭部傾斜角を検出した頭部傾斜角検出部8は、検出した頭部傾斜角を含む情報信号を、画像生成部12へ出力する。ステップS106において、頭部傾斜角を検出すると、画像表示装置1が行う処理は、ステップS108へ移行する。
なお、ステップS104で行う処理と、ステップS106で行う処理は、逆の順番(ステップS106→ステップS104)で行ってもよい。
In step S106, the head tilt angle detector 8 detects the head tilt angle based on the information signal output from the horizontal image acquisition unit 2 ("detect head tilt angle" shown in step S106). Then, the head tilt angle detection unit 8 that has detected the head tilt angle outputs an information signal including the detected head tilt angle to the image generation unit 12. If the head inclination angle is detected in step S106, the processing performed by the image display device 1 proceeds to step S108.
Note that the processing performed in step S104 and the processing performed in step S106 may be performed in the reverse order (step S106 → step S104).

ステップS108では、画像生成部12が、画像表示部14に表示するための画像を生成(ステップS108に示す「画像を生成」)する。そして、画像表示部14に表示するための画像を生成した画像生成部12は、生成した画像を含む情報信号を、画像表示部14へ出力する。ステップS108において、画像表示部14に表示するための画像を生成すると、画像表示装置1が行う処理は、ステップS110へ移行する。
ここで、画像生成部12は、水平方向画像取得部2、俯瞰画像取得部4、頭部回転角検出部6、頭部傾斜角検出部8及びナビゲーションシステム部10が出力した情報信号に基づいて、画像表示部14に表示するための画像を生成する。
In step S108, the image generation unit 12 generates an image to be displayed on the image display unit 14 ("generate image" shown in step S108). Then, the image generation unit 12 that has generated an image to be displayed on the image display unit 14 outputs an information signal including the generated image to the image display unit 14. When an image to be displayed on the image display unit 14 is generated in step S108, the process performed by the image display device 1 proceeds to step S110.
Here, the image generation unit 12 is based on information signals output by the horizontal image acquisition unit 2, the overhead image acquisition unit 4, the head rotation angle detection unit 6, the head tilt angle detection unit 8, and the navigation system unit 10. Then, an image to be displayed on the image display unit 14 is generated.

以下に、画像生成部12が、上述した各種の情報信号に基づいて、画像表示部14に表示するための画像を生成する処理の具体例を列挙する。
(例1)頭部回転角検出部6が検出した頭部回転角が、自車両Vの車幅方向右側へ45[°]増加した角度であり、頭部傾斜角検出部8が検出した頭部傾斜角が0[°]である場合。
Hereinafter, specific examples of processing in which the image generation unit 12 generates an image to be displayed on the image display unit 14 based on the various information signals described above will be listed.
(Example 1) The head rotation angle detected by the head rotation angle detection unit 6 is an angle increased by 45 [°] to the right in the vehicle width direction of the host vehicle V, and the head detected by the head tilt angle detection unit 8 When the tilt angle is 0 [°].

この場合、画像生成部12は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角ではないと判定する。そして、画像生成部12は、水平方向画像取得部2が取得した画像を用いて、頭部回転角検出部8が検出した頭部回転角(車幅方向右側へ45[°])と異なる回転角度(車幅方向右側へ90[°])を向く撮像軸で撮像した画像を生成する。
これにより、画像生成部12は、頭部回転角が自車両Vの車幅方向右側へ90[°]増加した範囲の画像を生成する。これは、回転角変化係数Kを、定数である「2」に設定した場合である。
In this case, the image generation unit 12 determines that the head tilt angle detected by the head tilt angle detection unit 8 is not a depression angle. Then, the image generation unit 12 uses the image acquired by the horizontal direction image acquisition unit 2 and rotates different from the head rotation angle detected by the head rotation angle detection unit 8 (45 [°] to the right in the vehicle width direction). An image picked up with an image pickup axis facing an angle (90 [°] to the right in the vehicle width direction) is generated.
Thereby, the image generation unit 12 generates an image in a range in which the head rotation angle is increased by 90 [°] to the right in the vehicle width direction of the host vehicle V. This is a case where the rotation angle change coefficient K is set to a constant “2”.

(例2)頭部回転角検出部6が検出した頭部回転角が0[°]であり、頭部傾斜角検出部8が検出した頭部傾斜角が、水平面よりも下方向への傾斜角度である場合。これに加え、水平面よりも下方向への傾斜角度が45[°]である場合。
この場合、画像生成部12は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定する。そして、画像生成部12は、俯瞰画像取得部4が撮像した画像を用いて、四つの広角カメラ28a〜28dの撮像可能な範囲のうち、半分の領域が映るように仮想視点Pを変化させた俯瞰画像を生成する。
(Example 2) The head rotation angle detected by the head rotation angle detection unit 6 is 0 [°], and the head inclination angle detected by the head inclination angle detection unit 8 is inclined downward from the horizontal plane. If it is an angle. In addition to this, when the angle of inclination downward from the horizontal plane is 45 [°].
In this case, the image generation unit 12 determines that the head tilt angle detected by the head tilt angle detection unit 8 is a depression angle. And the image generation part 12 changed the virtual viewpoint P so that a half area | region might be reflected among the imaging | photography range of the four wide-angle cameras 28a-28d using the image imaged by the overhead image acquisition part 4. An overhead image is generated.

また、頭部回転角検出部6が検出した頭部回転角が0[°]であるため、画像生成部12は、変化させた仮想視点Pを頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する処理は行わない。
これにより、画像生成部12は、四つの広角カメラ28a〜28dの撮像可能な範囲のうち、半分の領域が映るように仮想視点Pを変化させた俯瞰画像を生成する。
Since the head rotation angle detected by the head rotation angle detection unit 6 is 0 [°], the image generation unit 12 detects the changed virtual viewpoint P from the head rotation angle detection unit 6. Processing for generating an overhead image that is changed in the direction of the imaging axis that faces a rotation angle different from the rotation angle is not performed.
As a result, the image generation unit 12 generates a bird's-eye view image in which the virtual viewpoint P is changed so that half of the area that can be captured by the four wide-angle cameras 28a to 28d is reflected.

(例3)頭部回転角検出部6が検出した頭部回転角が0[°]であり、頭部傾斜角検出部8が検出した頭部傾斜角が水平面よりも上方向への傾斜角度である場合。
この場合、画像生成部12は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角ではないと判定する。そして、画像生成部12は、ナビゲーションシステム部10が出力した情報信号に基づいて、自車両Vの周辺環境情報を示す画像を生成する。
(Example 3) The head rotation angle detected by the head rotation angle detection unit 6 is 0 [°], and the head inclination angle detected by the head inclination angle detection unit 8 is an inclination angle upward from the horizontal plane. If it is.
In this case, the image generation unit 12 determines that the head tilt angle detected by the head tilt angle detection unit 8 is not a depression angle. Then, the image generation unit 12 generates an image indicating the surrounding environment information of the host vehicle V based on the information signal output from the navigation system unit 10.

(例4)頭部回転角検出部6が検出した頭部回転角が、自車両Vの車幅方向右側へ45[°]増加した角度であり、頭部傾斜角検出部8が検出した頭部傾斜角が、水平面よりも下方向への傾斜角度である場合。これに加え、水平面よりも下方向への傾斜角度が45[°]である場合。
この場合、画像生成部12は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定する。そして、画像生成部12は、俯瞰画像取得部4が撮像した画像を用いて、四つの広角カメラ28a〜28dの撮像可能な範囲のうち、半分の領域が映るように仮想視点Pの位置を変化させる。
(Example 4) The head rotation angle detected by the head rotation angle detection unit 6 is an angle increased by 45 [°] to the right in the vehicle width direction of the host vehicle V, and the head detected by the head inclination angle detection unit 8 The part inclination angle is an inclination angle downward from the horizontal plane. In addition to this, when the angle of inclination downward from the horizontal plane is 45 [°].
In this case, the image generation unit 12 determines that the head tilt angle detected by the head tilt angle detection unit 8 is a depression angle. And the image generation part 12 changes the position of the virtual viewpoint P so that a half area | region may be reflected using the image which the bird's-eye view image acquisition part 4 imaged, and the imaging range of four wide angle cameras 28a-28d. Let

さらに、画像生成部12は、上記のように位置を変化させた仮想視点Pを、頭部回転角が自車両Vの車幅方向右側へ90[°]増加した回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。これは、上述したように、回転角変化係数Kを、定数である「2」に設定した場合である。
これにより、画像生成部12は、四つの広角カメラ28a〜28dの撮像可能な範囲のうち、半分の領域が映るとともに、頭部回転角が自車両Vの車幅方向右側へ90[°]増加した回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。
Further, the image generation unit 12 has the virtual viewpoint P whose position has been changed as described above, the direction of the imaging axis in which the head rotation angle is directed to the rotation angle increased 90 [°] to the right in the vehicle width direction of the host vehicle V. The overhead view image changed to is generated. As described above, this is a case where the rotation angle change coefficient K is set to a constant “2”.
As a result, the image generation unit 12 shows a half of the range that can be captured by the four wide-angle cameras 28a to 28d, and the head rotation angle increases 90 ° to the right in the vehicle width direction of the host vehicle V. A bird's-eye view image that is changed in the direction of the imaging axis facing the rotation angle is generated.

ステップS110では、画像生成部12が、頭部回転角検出部6が検出した頭部回転角及び頭部傾斜角検出部8が検出した頭部傾斜角と、非表示角度とを比較する。そして、頭部回転角及び頭部傾斜角が非表示角度以下であるか否かを判定(ステップS110に示す「頭部回転角及び頭部傾斜角が非表示角度以下?」)する。   In step S110, the image generation unit 12 compares the head rotation angle detected by the head rotation angle detection unit 6 and the head tilt angle detected by the head tilt angle detection unit 8 with the non-display angle. Then, it is determined whether or not the head rotation angle and the head tilt angle are equal to or less than the non-display angle ("head rotation angle and head tilt angle equal to or less than the non-display angle" shown in step S110).

ステップS110において、画像生成部12が、頭部回転角及び頭部傾斜角が非表示角度以下であると判定(図4中に示す「Y」)すると、画像表示装置1が行う処理は、ステップS112へ移行する。
一方、ステップS110において、画像生成部12が、頭部回転角及び頭部傾斜角が非表示角度を超えていると判定(図4中に示す「N」)すると、画像表示装置1が行う処理は、ステップS114へ移行する。
ステップS112では、画像生成部12が、画像表示部14に表示するために生成した画像を含む情報信号を画像表示部14へ出力しない処理を行う。これにより、ステップS112の処理を行うと、網膜プロジェクタ26は光の照射を行わない。
In step S110, when the image generation unit 12 determines that the head rotation angle and the head tilt angle are equal to or less than the non-display angle ("Y" shown in FIG. 4), the process performed by the image display device 1 is as follows. The process proceeds to S112.
On the other hand, in step S110, when the image generation unit 12 determines that the head rotation angle and the head tilt angle exceed the non-display angle ("N" in FIG. 4), the process performed by the image display device 1 Shifts to step S114.
In step S <b> 112, the image generation unit 12 performs a process of not outputting an information signal including an image generated for display on the image display unit 14 to the image display unit 14. Thereby, when the process of step S112 is performed, the retina projector 26 does not perform light irradiation.

ここで、レンズ部20は、透明な樹脂材料を用いて形成しているため、網膜プロジェクタ26が光の照射を行わないと、画像生成部12が生成した画像は表示されない(ステップS112に示す「画像を非表示」)。このため、使用者の視界には、レンズ部20を透過した、実際の光景が映ることとなる。ステップS112において、画像表示部14に表示するために生成した画像を含む情報信号を画像表示部14へ出力しない処理を行うと、画像表示装置1が行う処理は、ステップS100の処理に復帰(図4中に示す「RETURN」)する。   Here, since the lens unit 20 is formed using a transparent resin material, the image generated by the image generation unit 12 is not displayed unless the retina projector 26 performs light irradiation (see “Step S112” Hide image "). Therefore, an actual scene that has passed through the lens unit 20 is reflected in the user's field of view. In step S112, when the process of not outputting the information signal including the image generated to be displayed on the image display unit 14 to the image display unit 14 is performed, the process performed by the image display device 1 returns to the process of step S100 (see FIG. ("RETURN" shown in 4).

ステップS114では、画像生成部12が、画像表示部14に表示するために生成した画像を含む情報信号を画像表示部14へ出力する処理を行う。これにより、ステップS114の処理を行うと、網膜プロジェクタ26から、画像生成部12が生成した画像を形成する光を、使用者の網膜へ直接照射する。
画像生成部12が生成した画像を形成する光を、使用者の網膜へ直接照射すると、画像生成部12が生成した画像が、使用者の視界内に表示される(ステップS114に示す「画像を表示」)。ステップS114において、画像表示部14に表示するために生成した画像を含む情報信号を画像表示部14へ出力する処理を行うと、画像表示装置1が行う処理は、ステップS100の処理に復帰(図4中に示す「RETURN」)する。
In step S <b> 114, the image generation unit 12 performs a process of outputting an information signal including an image generated for display on the image display unit 14 to the image display unit 14. Thereby, when the process of step S114 is performed, the retina projector 26 directly irradiates the retina of the user with the light that forms the image generated by the image generation unit 12.
When the light that forms the image generated by the image generation unit 12 is directly applied to the retina of the user, the image generated by the image generation unit 12 is displayed in the user's field of view (see “ display"). In step S114, when a process of outputting an information signal including an image generated to be displayed on the image display unit 14 to the image display unit 14, the process performed by the image display device 1 returns to the process of step S100 (FIG. ("RETURN" shown in 4).

(第一実施形態の効果)
(1)画像生成部12が、俯瞰画像取得部4が取得した俯瞰画像を用いて、水平面よりも下方向への傾斜角度に応じて変化させた視点を頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸の方向へ変化させた俯瞰画像を生成する。俯瞰画像の生成は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角であると判定すると行う。また、画像生成部12が、水平方向画像取得部2が取得した画像を用いて、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成する。この画像の生成は、頭部傾斜角検出部8が検出した頭部傾斜角が俯角ではないと判定すると行う。
(Effects of the first embodiment)
(1) Using the overhead image acquired by the overhead image acquisition unit 4, the head rotation angle detection unit 6 detects the viewpoint changed according to the inclination angle downward from the horizontal plane. A bird's-eye view image that is changed in the direction of the imaging axis that faces a rotation angle different from the head rotation angle is generated. The overhead image is generated when the head tilt angle detected by the head tilt angle detection unit 8 is determined to be a depression angle. In addition, the image generation unit 12 generates an image picked up by an image pickup axis that faces a rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6 using the image acquired by the horizontal image acquisition unit 2. To do. This image is generated when it is determined that the head tilt angle detected by the head tilt angle detection unit 8 is not a depression angle.

このため、使用者の頭部が実際に回転している角度と異なる視点で撮像した画像を、使用者に提供することが可能となる。
この構成によれば、画像表示装置1の使用者が、例えば、自車両Vの運転時に側方や後方の状況を確認したい場合に、頭部を下方及び側方へ回転させることにより、実際の回転角度と異なる角度に対応した画像を視認して、自車両Vの周囲を視認することが可能となる。
For this reason, it is possible to provide the user with an image captured from a viewpoint different from the angle at which the user's head is actually rotating.
According to this configuration, when the user of the image display device 1 wants to check the situation of the side and the rear when driving the host vehicle V, for example, by rotating the head downward and sideward, It is possible to visually recognize the periphery of the host vehicle V by visually recognizing an image corresponding to an angle different from the rotation angle.

(2)頭部回転角検出部6が、水平方向画像取得部2が取得した画像を用いて頭部回転角を検出し、頭部傾斜角検出部8が、水平方向画像取得部2が取得した画像を用いて頭部傾斜角を検出する。
この構成によれば、頭部回転角及び頭部傾斜角を検出するために、専用のセンサを追加する必要が無いため、画像表示装置1の構成を簡略化することが可能となる。これにより、画像表示装置1の製造コスト増加を抑制することが可能となる。
(2) The head rotation angle detection unit 6 detects the head rotation angle using the image acquired by the horizontal image acquisition unit 2, and the head tilt angle detection unit 8 acquires the horizontal direction image acquisition unit 2. The head inclination angle is detected using the obtained image.
According to this configuration, it is not necessary to add a dedicated sensor in order to detect the head rotation angle and the head tilt angle, so that the configuration of the image display device 1 can be simplified. As a result, an increase in manufacturing cost of the image display apparatus 1 can be suppressed.

(3)頭部回転角検出部6が、使用者の頭部と対向する物体に対する頭部の上下軸周りの回転角度を用いて頭部回転角を検出し、頭部傾斜角検出部8が、使用者の頭部と対向する物体に対する頭部の上下方向への傾斜角度を用いて頭部傾斜角を検出する。
この構成によれば、使用者の頭部に対する相対関係が変化しない対象を用いて、頭部回転角及び頭部傾斜角を検出することが可能となる。
(4)基準方向を、使用者の上半身の正中面と同じ方向とする。
この構成によれば、人体構造上で自然な基準を用いて、基準方向を設定することが可能となる。
(3) The head rotation angle detection unit 6 detects the head rotation angle using the rotation angle around the vertical axis of the head relative to the object facing the user's head, and the head tilt angle detection unit 8 The head tilt angle is detected using the tilt angle of the head in the vertical direction with respect to the object facing the user's head.
According to this configuration, it is possible to detect the head rotation angle and the head tilt angle using an object whose relative relationship with the user's head does not change.
(4) The reference direction is the same direction as the midline of the user's upper body.
According to this configuration, it is possible to set the reference direction using a natural reference on the human body structure.

(5)画像表示部14が、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、画像生成部12が生成した画像を表示しない。
この構成によれば、使用者の視界が前方を向いている状態では、視界に応じた自然な光景を、使用者に視認させることが可能となる。
(6)俯瞰画像取得部4が、使用者が装着しないカメラである、広角カメラ28を有する。
この構成によれば、例えば、自車両Vのピラー(フロントピラー)等により発生する死角を減少させることが可能となる。
(5) If the image display unit 14 has the head rotation angle and the head tilt angle equal to or less than the preset non-display angle, the image generated by the image generation unit 12 is not displayed.
According to this configuration, in a state where the user's field of vision is facing forward, the user can visually recognize a natural scene corresponding to the field of view.
(6) The overhead image acquisition unit 4 includes a wide-angle camera 28 that is a camera that is not worn by the user.
According to this configuration, for example, it is possible to reduce a blind spot generated by a pillar (front pillar) of the host vehicle V or the like.

(7)画像生成部12が、頭部傾斜角検出部8が検出した頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、自車両Vの周囲の領域が広く映るように仮想視点Pを変化させた俯瞰画像を生成する。
この構成によれば、頭部傾斜角検出部8が検出した頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、自車両Vに対する自車両Vの周囲の領域が広い俯瞰画像を、使用者に提供することが可能となる。
(7) The image generation unit 12 is configured so that the region around the host vehicle V is reflected more widely as the tilt angle of the head tilt angle detected by the head tilt angle detection unit 8 is larger than the horizontal plane. An overhead image in which the virtual viewpoint P is changed is generated.
According to this configuration, as the head tilt angle detected by the head tilt angle detector 8 is larger in the downward direction than the horizontal plane, the bird's-eye view image has a wider area around the host vehicle V. Can be provided to the user.

(8)画像生成部12が、予め設定した回転角変化係数Kを頭部回転角検出部8が検出した頭部回転角に乗算した角度に基づいて、頭部回転角検出部8が検出した頭部回転角と異なる回転角度を設定する。
この構成によれば、使用者の頭部が回転可能な範囲内で、使用者の周囲の状況を均等な回転量で視認することが可能となる。
(8) The head rotation angle detection unit 8 detects the image generation unit 12 based on an angle obtained by multiplying the preset rotation angle change coefficient K by the head rotation angle detected by the head rotation angle detection unit 8. Set a rotation angle different from the head rotation angle.
According to this configuration, it is possible to visually recognize the situation around the user with an equal amount of rotation within a range in which the user's head can rotate.

(9)回転角変化係数Kを、1よりも大きい値とする。
この構成によれば、使用者の頭部の実際の回転角度である頭部回転角よりも大きな回転角度を向く撮像軸で撮像した画像を、使用者へ提供することが可能となる。これにより、例えば、使用者の状況(体調等)が、自車両Vの後方を目視可能な角度まで頭部を回転させることが困難な状況であっても、使用者へ所望の画像を提供することが容易となる。
(9) The rotation angle change coefficient K is set to a value larger than 1.
According to this configuration, it is possible to provide the user with an image captured by the imaging axis that faces a rotation angle larger than the head rotation angle that is the actual rotation angle of the user's head. Thereby, for example, even if the user's situation (physical condition etc.) is a situation where it is difficult to rotate the head to an angle at which the rear of the host vehicle V can be seen, a desired image is provided to the user. It becomes easy.

(変形例)
(1)本実施形態では、画像表示装置1を、画像表示装置1の使用者が頭部に装着する頭部装着部材16に適用し、さらに、頭部装着部材16を装着した使用者が、自車両Vを運転する構成としたが、これに限定するものではない。
すなわち、画像表示装置1の構成を、例えば、画像表示装置1の使用者が、頭部装着部材16を装着した状態で徒歩により移動する構成としてもよい。この場合、例えば、俯瞰画像取得部4の構成を、使用者の俯瞰画像を撮像可能な、屋外施設・設備が有する監視カメラとしてもよい。
(Modification)
(1) In the present embodiment, the image display device 1 is applied to the head mounting member 16 that the user of the image display device 1 wears on the head, and the user wearing the head mounting member 16 Although the host vehicle V is driven, the present invention is not limited to this.
That is, the configuration of the image display device 1 may be configured such that, for example, the user of the image display device 1 moves on foot while wearing the head mounting member 16. In this case, for example, the configuration of the overhead image acquisition unit 4 may be a surveillance camera included in an outdoor facility / equipment that can capture an overhead image of the user.

また、画像表示装置1の構成を、例えば、画像表示装置1の使用者が、頭部装着部材16を装着した状態で住居等の建築物内で行動する構成としてもよい。この場合、例えば、俯瞰画像取得部4の構成を、使用者が内部で行動する建築物の俯瞰画像を撮像可能な、建築物が有するカメラとしてもよい。これにより、画像表示装置1の使用者が、建築物内において、例えば、玄関を視認する際に、玄関を実際に視認するため必要な頭部の回転角度が90[°]であっても、頭部の回転角度を45[°]として、玄関を視認することが可能となる。
また、頭部装着部材16を装着した使用者が運転する対象は、地上を移動する自車両Vに限定するものではなく、例えば、船舶や航空機等、海上・海中や空中を移動する乗物を、頭部装着部材16を装着した使用者が運転する対象としてもよい。
Further, the configuration of the image display device 1 may be a configuration in which, for example, the user of the image display device 1 acts in a building such as a residence while wearing the head mounting member 16. In this case, for example, the configuration of the bird's-eye view image acquisition unit 4 may be a camera included in the building that can capture a bird's-eye view image of the building in which the user acts. Thereby, when the user of the image display apparatus 1 visually recognizes the entrance in the building, for example, even if the rotation angle of the head necessary for actually viewing the entrance is 90 [°] It is possible to visually recognize the entrance by setting the rotation angle of the head to 45 [°].
In addition, the target to be driven by the user wearing the head mounting member 16 is not limited to the own vehicle V moving on the ground. For example, a vehicle moving in the sea, in the sea, or in the air, such as a ship or an aircraft, The user wearing the head mounting member 16 may be the target to drive.

(2)本実施形態の画像表示装置1では、俯瞰画像取得部4の構成を、使用者の周囲を映した俯瞰画像を撮像する構成としたが、これに限定するものではなく、俯瞰画像取得部4の構成を、使用者を含む使用者の周囲を映した俯瞰画像を撮像する構成としてもよい。この場合、例えば、俯瞰画像取得部4の構成を、使用者を映した俯瞰画像を撮像可能な、屋外施設・設備が有する監視カメラを有する構成とする。 (2) In the image display device 1 of the present embodiment, the overhead image acquisition unit 4 is configured to capture an overhead image that reflects the user's surroundings, but is not limited to this, and the overhead image acquisition is performed. The configuration of the unit 4 may be configured to capture a bird's-eye view image that reflects the surroundings of the user including the user. In this case, for example, the configuration of the bird's-eye view image acquisition unit 4 includes a monitoring camera included in an outdoor facility / equipment that can capture a bird's-eye view image showing a user.

(3)本実施形態の画像表示装置1では、画像生成部12の構成を、頭部傾斜角検出部8が検出した頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、使用者の周囲の領域が広く映るように視点を変化させた俯瞰画像を生成する構成とした。しかしながら、画像生成部12の構成は、これに限定するものではない。すなわち、画像生成部12の構成を、頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、使用者の周囲の領域のうち使用者前方の領域よりも使用者後方の領域が広く映るように視点を変化させた俯瞰画像を生成する構成としてもよい。 (3) In the image display device 1 of the present embodiment, the configuration of the image generation unit 12 is such that the larger the tilt angle downward from the horizontal plane among the head tilt angles detected by the head tilt angle detection unit 8, The configuration is such that a bird's-eye view image is generated by changing the viewpoint so that the area around the user is reflected widely. However, the configuration of the image generation unit 12 is not limited to this. That is, in the configuration of the image generation unit 12, the region behind the user in the region in front of the user in the region around the user is larger as the tilt angle in the downward direction than the horizontal plane in the head tilt angle is larger. It is good also as a structure which produces | generates the bird's-eye view image which changed the viewpoint so that it may reflect widely.

ここで、頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、使用者前方の領域よりも使用者後方の領域が広く映るように視点を変化させた俯瞰画像を生成する際に行う処理の具体例を説明する。
まず、四つの広角カメラ28が撮像した画像を組み合わせる。次に、四つの広角カメラ28のうち、前方カメラ28a及び後方カメラ28dが撮像した画像から、頭部傾斜角のうち水平面よりも下方向への傾斜角度の大きさに応じて、自車両V前方の領域と自車両V後方の領域との比率を変更した画像を生成する。この場合、頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、前方カメラ28aが撮像した画像の領域に対して、後方カメラ28dが撮像した画像の領域を増加させた俯瞰画像を生成する。
Here, when generating a bird's-eye view image in which the viewpoint is changed so that the area behind the user is reflected wider than the area in front of the user as the inclination angle downward from the horizontal plane of the head inclination angle is larger. A specific example of the processing to be performed will be described.
First, the images captured by the four wide-angle cameras 28 are combined. Next, of the four wide-angle cameras 28, the front of the host vehicle V is determined according to the magnitude of the inclination angle of the head inclination angle downward from the horizontal plane from the images captured by the front camera 28a and the rear camera 28d. An image in which the ratio between the area of the vehicle and the area behind the host vehicle V is changed is generated. In this case, the bird's-eye view image in which the region of the image captured by the rear camera 28d is increased with respect to the region of the image captured by the front camera 28a as the tilt angle downward from the horizontal plane is larger in the head tilt angle. Is generated.

これは、例えば、頭部傾斜角のうち水平面よりも下方向への傾斜角度が60[°]である場合に、前方カメラ28aが撮像した画像の領域と後方カメラ28dが撮像した画像の領域との比を、10:90とした俯瞰画像を生成する。さらに、俯瞰画像の中心に、予め記憶させてある自車両Vの上面の画像を合成する。   This is because, for example, when the head tilt angle is 60 [°] downward from the horizontal plane, the image area captured by the front camera 28a and the image area captured by the rear camera 28d A bird's-eye view image with a ratio of 10:90 is generated. Furthermore, an image of the upper surface of the host vehicle V stored in advance is synthesized at the center of the overhead view image.

これにより、頭部傾斜角検出部8が検出した頭部傾斜角のうち水平面よりも下方向への傾斜角度が大きいほど、自車両Vに対して、自車両Vの周囲の領域のうち、自車両V後方の領域が広い俯瞰画像を、使用者に提供することが可能となる。
この構成によれば、例えば、自車両Vを後退させながら車庫入れする場合等に、使用者が後方を視認しなくとも、頭部傾斜角のうち水平面よりも下方向への傾斜角度を増加させることにより、自車両V後方の状況を俯瞰で視認することが可能となる。
As a result, the larger the tilt angle in the downward direction than the horizontal plane of the head tilt angle detected by the head tilt angle detection unit 8, the self-vehicle V out of the area around the own vehicle V. A bird's-eye view image with a wide area behind the vehicle V can be provided to the user.
According to this configuration, for example, when entering the garage while reversing the host vehicle V, the inclination angle of the head inclination angle downward from the horizontal plane is increased without visually recognizing the rear. Thus, the situation behind the host vehicle V can be viewed from an overhead view.

(4)本実施形態の画像表示装置1では、回転角変化係数Kを、1よりも大きい値としたが、これに限定するものではない。すなわち、回転角変化係数Kを、例えば、自車両Vの車速、すなわち、使用者の移動速度に応じて変化させてもよい。この場合、例えば、車速閾値(例えば、60[kmk/h])を予め設定し、車速が車速閾値を超えた場合、車速の増加に応じて回転角変化係数Kを減少させる。これに加え、車速が車速閾値未満の場合、車速の減少に応じて回転角変化係数Kを増加させる。ここで、車速の減少に応じて増加させる回転角変化係数Kは、例えば、最大で「2」とする。 (4) In the image display device 1 of the present embodiment, the rotation angle change coefficient K is set to a value larger than 1, but the present invention is not limited to this. That is, the rotation angle change coefficient K may be changed according to the vehicle speed of the host vehicle V, that is, the moving speed of the user, for example. In this case, for example, a vehicle speed threshold (for example, 60 [kmk / h]) is set in advance, and when the vehicle speed exceeds the vehicle speed threshold, the rotation angle change coefficient K is decreased according to the increase in the vehicle speed. In addition, when the vehicle speed is less than the vehicle speed threshold, the rotation angle change coefficient K is increased according to the decrease in the vehicle speed. Here, the rotation angle change coefficient K to be increased in accordance with the decrease in the vehicle speed is, for example, “2” at the maximum.

また、回転角変化係数Kを自車両Vの車速に応じて変化させる場合、回転角変化係数Kは、例えば、前進走行時と後退時で異なる値に変化させてもよい。この場合、前進走行時と後退時の検出は、例えば、シフトレバーのポジション変化等に基づいて行う。
上記のように、回転角変化係数Kを使用者の移動速度に応じて変化させると、画像生成部12が生成し、画像表示部14に表示する画像の、使用者の頭部が実際に回転している角度から変化度合いを、使用者が視認しやすい変化度合いとすることが可能となる。
When the rotation angle change coefficient K is changed according to the vehicle speed of the host vehicle V, the rotation angle change coefficient K may be changed to a different value, for example, when traveling forward and when traveling backward. In this case, detection during forward travel and reverse travel is performed based on, for example, a change in the position of the shift lever.
As described above, when the rotation angle change coefficient K is changed according to the moving speed of the user, the image generating unit 12 generates and the user's head of the image displayed on the image display unit 14 is actually rotated. It is possible to set the degree of change from the angle being changed to a degree of change that is easy for the user to visually recognize.

(5)本実施形態の画像表示装置1では、回転角変化係数Kを、1よりも大きい値としたが、これに限定するものではない。すなわち、回転角変化係数Kは、例えば、1未満の値としてもよい。また、回転角変化係数Kは、例えば、予め設定したテーブルから読み出して、設定してもよい。 (5) In the image display device 1 of the present embodiment, the rotation angle change coefficient K is set to a value larger than 1, but the present invention is not limited to this. That is, the rotation angle change coefficient K may be a value less than 1, for example. Further, the rotation angle change coefficient K may be set by reading from a preset table, for example.

(6)本実施形態の画像表示装置1では、画像生成部12が、予め設定した回転角変化係数Kを頭部回転角検出部6が検出した頭部回転角に乗算した角度に基づいて、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を設定する。しかしながら、画像生成部12の構成は、これに限定するものではない。すなわち、画像生成部12の構成を、予め設定した指数関数を頭部回転角検出部6が検出した頭部回転角に乗算した角度に基づいて、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を設定する構成としてもよい。
この場合、使用者の頭部の回転量が少ない状況では、使用者が視認する画像と使用者の頭部の回転量との乖離を減少させることが可能となる。
(6) In the image display device 1 of the present embodiment, the image generation unit 12 is based on an angle obtained by multiplying the rotation angle change coefficient K set in advance by the head rotation angle detected by the head rotation angle detection unit 6. A rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6 is set. However, the configuration of the image generation unit 12 is not limited to this. That is, the head detected by the head rotation angle detection unit 6 is configured based on an angle obtained by multiplying the configuration of the image generation unit 12 by a head rotation angle detected by the head rotation angle detection unit 6 by a preset exponential function. It is good also as a structure which sets the rotation angle different from a rotation angle.
In this case, in a situation where the rotation amount of the user's head is small, it is possible to reduce the difference between the image visually recognized by the user and the rotation amount of the user's head.

(7)本実施形態の画像表示装置1では、水平方向画像取得部2が撮像した画像を用いて頭部回転角及び頭部傾斜角を検出したが、これに限定するものではない。すなわち、頭部回転角検出部6及び頭部傾斜角検出部8を、例えば、ジャイロスコープ(gyroscope)等、回転角度を検出可能なセンサを用いて形成し、頭部回転角及び頭部傾斜角を検出してもよい。
また、頭部回転角検出部6及び頭部傾斜角検出部8の構成を、例えば、使用者を撮像するカメラを有する構成とし、撮像した画像から使用者の頭部と上半身との相対位置を検出して、頭部回転角及び頭部傾斜角を検出してもよい。
(7) In the image display device 1 of the present embodiment, the head rotation angle and the head tilt angle are detected using the image captured by the horizontal image acquisition unit 2, but the present invention is not limited to this. That is, the head rotation angle detection unit 6 and the head tilt angle detection unit 8 are formed using a sensor capable of detecting the rotation angle, such as a gyroscope, for example, and the head rotation angle and the head tilt angle are formed. May be detected.
In addition, the configuration of the head rotation angle detection unit 6 and the head tilt angle detection unit 8 is, for example, a configuration having a camera that images a user, and the relative position between the user's head and upper body is determined from the captured image. The head rotation angle and head tilt angle may be detected.

(8)本実施形態の画像表示装置1では、水平方向画像取得部2が撮像した画像を用いて頭部回転角及び頭部傾斜角を検出したが、これに限定するものではない。すなわち、俯瞰画像取得部4が取得した俯瞰画像を用いて頭部回転角及び頭部傾斜角を検出してもよい。
(9)本実施形態の画像表示装置1では、使用者の頭部と対向する物体に対する頭部の上下軸周りの回転角度を用いて、頭部回転角を検出したが、これに限定するものではない。すなわち、使用者の上半身に対する前記頭部の上下軸周りの回転角度を用いて、頭部回転角を検出してもよい。同様に、使用者の上半身に対する前記頭部の上下方向への傾斜角度を用いて、頭部傾斜角を検出してもよい。
(8) In the image display device 1 of the present embodiment, the head rotation angle and the head tilt angle are detected using the image captured by the horizontal image acquisition unit 2, but the present invention is not limited to this. That is, the head rotation angle and the head inclination angle may be detected using the overhead image acquired by the overhead image acquisition unit 4.
(9) In the image display device 1 of the present embodiment, the head rotation angle is detected using the rotation angle around the vertical axis of the head relative to the object facing the user's head, but the present invention is not limited to this. is not. That is, the head rotation angle may be detected using the rotation angle of the head around the vertical axis with respect to the upper body of the user. Similarly, the head tilt angle may be detected using the tilt angle of the head in the vertical direction with respect to the upper body of the user.

(10)本実施形態の画像表示装置1では、俯瞰画像取得部4の構成を、使用者が装着しないカメラである、広角カメラ28を有する構成としたが、これに限定するものではない。すなわち、俯瞰画像取得部4の構成を、使用者が装着する広角カメラ28を有する構成としてもよい。この場合、広角カメラ28を、例えば、頭部装着部材16のフレーム部18に取り付ける。 (10) In the image display device 1 of the present embodiment, the overhead image acquisition unit 4 has the wide-angle camera 28 that is a camera that is not worn by the user, but is not limited thereto. That is, the configuration of the overhead image acquisition unit 4 may include a wide-angle camera 28 worn by the user. In this case, the wide-angle camera 28 is attached to, for example, the frame portion 18 of the head mounting member 16.

(11)本実施形態の画像表示装置1では、画像表示部14の構成を、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、画像生成部12が生成した画像を表示しない構成としたが、これに限定するものではない。すなわち、例えば、画像表示部14の構成を、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、正面の画像を表示する構成としてもよい。この場合、画像表示部14に表示する正面の画像としては、例えば、フレーム辺22bの外周面に取り付けた五つのCCDカメラ24のうち、中心に配置したCCDカメラ24が撮像した画像を用いる。 (11) In the image display device 1 of the present embodiment, if the configuration of the image display unit 14 is such that the head rotation angle and the head tilt angle are equal to or less than the preset non-display angles, the image generated by the image generation unit 12 However, the present invention is not limited to this. That is, for example, the configuration of the image display unit 14 may be configured to display a front image as long as the head rotation angle and the head tilt angle are equal to or less than a preset non-display angle. In this case, as the front image displayed on the image display unit 14, for example, an image captured by the CCD camera 24 arranged at the center among the five CCD cameras 24 attached to the outer peripheral surface of the frame side 22b is used.

(12)本実施形態の画像表示装置1では、基準方向を、使用者の上半身の正中面と同じ方向としたが、これに限定するものではない。すなわち、基準方向を、例えば、使用者の頭部の正中面と使用者の上半身の正中面が鉛直方向から見て、直交する角度としてもよい。要は、基準方向を、例えば、使用者の頭部の正中面と使用者の上半身の正中面が鉛直方向から見て、平行とならない角度に設定してもよい。 (12) In the image display device 1 of the present embodiment, the reference direction is the same direction as the median surface of the upper body of the user, but is not limited thereto. That is, the reference direction may be an angle at which the median plane of the user's head and the median plane of the user's upper body are perpendicular to each other when viewed from the vertical direction. In short, the reference direction may be set to an angle at which the median plane of the user's head and the median plane of the user's upper body are not parallel when viewed from the vertical direction.

(13)本実施形態の画像表示装置1では、頭部装着部材16のフレーム部18に取り付けた複数のCCDカメラ24により、水平方向画像取得部2を形成している。すなわち、使用者が装着するCCDカメラ24により、水平方向画像取得部2を形成している。しかしながら、これに限定するものではなく、例えば、自車両Vの外周面に取り付けたCCDカメラ24により、水平方向画像取得部2を形成してもよい。すなわち、使用者が装着しないカメラにより、水平方向画像取得部2を形成してもよい。 (13) In the image display device 1 of the present embodiment, the horizontal image acquisition unit 2 is formed by a plurality of CCD cameras 24 attached to the frame unit 18 of the head mounting member 16. That is, the horizontal image acquisition unit 2 is formed by the CCD camera 24 worn by the user. However, the present invention is not limited to this. For example, the horizontal image acquisition unit 2 may be formed by the CCD camera 24 attached to the outer peripheral surface of the host vehicle V. That is, the horizontal image acquisition unit 2 may be formed by a camera that is not worn by the user.

(14)本実施形態の画像表示装置1では、複数の網膜プロジェクタ26を、使用者の両目に対して、それぞれ、網膜へ光を直接照射することが可能な位置に配置したが、これに限定するものではない。すなわち、網膜プロジェクタ26を、例えば、使用者の片目のみ(右目または左目)に対して、網膜へ光を直接照射することが可能な位置に配置してもよい。 (14) In the image display device 1 of the present embodiment, the plurality of retinal projectors 26 are arranged at positions where the retina can be directly irradiated with light with respect to both eyes of the user. Not what you want. In other words, for example, the retina projector 26 may be arranged at a position where only one eye (right eye or left eye) of the user can directly irradiate light to the retina.

(15)本実施形態の画像表示装置1では、透明な樹脂材料を用いて形成したレンズ部20に取り付けた網膜プロジェクタ26により、画像表示部14を構成しているが、これに限定するものではない。すなわち、例えば、レンズ部20の使用者と対向する面全体をディスプレイとして形成してもよい。この場合、レンズ部20の構成を、開閉等が可能な可動式の構成とし、頭部回転角及び頭部傾斜角が予め設定した非表示角度以下であれば、レンズ部20が開いて使用者の視界を確保する構成としてもよい。
また、レンズ部20を、光束を二つ以上に分割可能なビームスプリッター、特に、反射光と透過光の強さの比がほぼ1:1であるハーフミラーを用いて形成してもよい。
(15) In the image display device 1 of the present embodiment, the image display unit 14 is configured by the retina projector 26 attached to the lens unit 20 formed using a transparent resin material. However, the present invention is not limited to this. Absent. That is, for example, the entire surface facing the user of the lens unit 20 may be formed as a display. In this case, the configuration of the lens unit 20 is a movable configuration that can be opened and closed. If the head rotation angle and the head tilt angle are equal to or less than a preset non-display angle, the lens unit 20 is opened and the user is opened. It is good also as a structure which ensures the visual field of this.
Further, the lens unit 20 may be formed using a beam splitter that can split a light beam into two or more, particularly a half mirror having a ratio of the intensity of reflected light to transmitted light of approximately 1: 1.

(16)本実施形態の画像表示装置1では、水平方向画像取得部2の構成を、CCDカメラを有する構成とし、俯瞰画像取得部4の構成を、広角カメラを有する構成としたが、水平方向画像取得部2及び俯瞰画像取得部4の構成は、これに限定するものではない。すなわち、水平方向画像取得部2の構成を、例えば、画像を撮像する機能に加え、暗視鏡(snooperscope)としての機能や、望遠鏡(telescope)としての機能を有する構成としてもよい。また、水平方向画像取得部2の構成を、例えば、画像を撮像する機能に加え、拡張現実(AR:Augmented Reality)としての機能を有する構成としてもよい。これらは、俯瞰画像取得部4に関しても同様である。 (16) In the image display device 1 according to the present embodiment, the horizontal image acquisition unit 2 has a CCD camera, and the overhead image acquisition unit 4 has a wide-angle camera. The configurations of the image acquisition unit 2 and the overhead image acquisition unit 4 are not limited to this. That is, the configuration of the horizontal image acquisition unit 2 may be configured to have a function as a night scope or a telescope in addition to the function of capturing an image, for example. Further, the configuration of the horizontal image acquisition unit 2 may be configured to have a function as augmented reality (AR) in addition to a function of capturing an image, for example. The same applies to the overhead image acquisition unit 4.

(17)本実施形態の画像表示装置1では、画像生成部12が、頭部回転角に回転角変化係数Kを乗算した角度を用いて、使用者の視界から頭部回転角が増加した方向を設定したが、これに限定するものではない。すなわち、例えば、使用者の実際の視線がルームミラーを視認した視線である状態で、自車両Vの後方の画像を、画像表示部14に表示する構成としてもよい。この場合、使用者の実際の視線がルームミラーを視認した視線である状態の検出は、例えば、フレーム辺22bの外周面に取り付けた五つのCCDカメラ24のうち、中心に配置したCCDカメラ24が撮像した画像を用いて行う。 (17) In the image display device 1 of the present embodiment, the image generation unit 12 uses the angle obtained by multiplying the head rotation angle by the rotation angle change coefficient K, and the direction in which the head rotation angle increases from the user's field of view. However, the present invention is not limited to this. That is, for example, a configuration in which an image behind the host vehicle V is displayed on the image display unit 14 in a state where the user's actual line of sight is the line of sight of the room mirror is viewed. In this case, the detection of the state where the user's actual line of sight is the line of sight of the room mirror is detected by, for example, the CCD camera 24 disposed at the center of the five CCD cameras 24 attached to the outer peripheral surface of the frame side 22b. This is done using the captured image.

(18)本実施形態の画像表示装置1では、使用者の視界よりも水平方向へ広い範囲の画像を撮像するために、水平方向画像取得部2の構成を、フレーム辺22の延在方向へ配列した複数のCCDカメラ24を有する構成としたが、これに限定するものではない。すなわち、例えば、CCDカメラ24の撮像方向を水平方向に変化可能なアクチュエータを、CCDカメラ24に設けることにより、水平方向画像取得部2を構成してもよい。ここで、アクチュエータの駆動は、例えば、頭部回転角検出部6が検出した頭部回転角を用いて行う。この場合、例えば、フレーム辺22に一つのCCDカメラ24、すなわち、三つのCCDカメラ24で、水平方向画像取得部2を構成することが可能となる。 (18) In the image display device 1 of the present embodiment, the configuration of the horizontal image acquisition unit 2 is configured in the extending direction of the frame side 22 in order to capture an image in a wider range in the horizontal direction than the user's field of view. Although the configuration includes a plurality of CCD cameras 24 arranged, the present invention is not limited to this. That is, for example, the horizontal image acquisition unit 2 may be configured by providing the CCD camera 24 with an actuator that can change the imaging direction of the CCD camera 24 in the horizontal direction. Here, the actuator is driven using, for example, the head rotation angle detected by the head rotation angle detection unit 6. In this case, for example, the horizontal image acquisition unit 2 can be configured by one CCD camera 24 on the frame side 22, that is, three CCD cameras 24.

(19)本実施形態の画像表示装置1では、画像表示部14の構成を、レンズ部20に取り付けた網膜プロジェクタ26を備える構成としたが、これに限定するものではない。すなわち、画像表示部14の構成を、例えば、フロントウインドウの内側面等、車室内において使用者が視認可能な位置に、画像生成部12が生成した画像を投影して表示する構成としてもよい。 (19) In the image display device 1 of the present embodiment, the configuration of the image display unit 14 includes the retinal projector 26 attached to the lens unit 20, but is not limited thereto. In other words, the configuration of the image display unit 14 may be configured to project and display the image generated by the image generation unit 12 at a position where the user can visually recognize the interior surface of the front window, for example.

(20)本実施形態の画像表示装置1では、頭部装着部材16を、眼鏡形状の部材で形成したが、これに限定するものではなく、頭部装着部材16を、例えば、片眼鏡や単眼鏡で形成してもよい。
(21)本実施形態では、例えば、フレーム部18に設けたスイッチを手動で操作することにより、画像表示装置1を作動させたが、これに限定するものではなく、例えば、自車両Vのエンジン始動と連動させて、画像表示装置1を作動させてもよい。
(20) In the image display device 1 of the present embodiment, the head mounting member 16 is formed of a spectacle-shaped member, but the present invention is not limited to this. You may form with glasses.
(21) In the present embodiment, for example, the image display device 1 is operated by manually operating a switch provided in the frame portion 18. However, the present invention is not limited to this. For example, the engine of the host vehicle V The image display device 1 may be operated in conjunction with the start.

(22)本実施形態の画像表示装置1では、画像生成部12が、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成する際に、隣り合うCCDカメラ24が撮像した画像同士を連続させる処理を行う。しかしながら、これに限定するものではなく、例えば、隣り合うCCDカメラ24が撮像した画像間に空白の部分が存在する場合、この空白部分を消すように、隣り合うCCDカメラ24が撮像した画像を、互いに端の部分で連続させてもよい。また、隣り合うCCDカメラ24が撮像した画像間に空白の部分が存在しても、この空白を残した状態で、頭部回転角検出部6が検出した頭部回転角と異なる回転角度を向く撮像軸で撮像した画像を生成してもよい。 (22) In the image display device 1 of the present embodiment, when the image generation unit 12 generates an image captured by an imaging axis that faces a rotation angle different from the head rotation angle detected by the head rotation angle detection unit 6. Then, a process is performed in which the images captured by the adjacent CCD cameras 24 are continued. However, the present invention is not limited to this. For example, when a blank portion exists between images captured by the adjacent CCD cameras 24, an image captured by the adjacent CCD cameras 24 is deleted so that the blank portion is erased. You may make it continue in an end portion mutually. Further, even if there is a blank portion between the images captured by the adjacent CCD cameras 24, the rotation angle is different from the head rotation angle detected by the head rotation angle detection unit 6 in a state in which this blank is left. An image captured with the imaging axis may be generated.

1 画像表示装置
2 水平方向画像取得部
4 俯瞰画像取得部
6 頭部回転角検出部
8 頭部傾斜角検出部
10 ナビゲーションシステム部
12 画像生成部
14 画像表示部
16 頭部装着部材
18 フレーム部
20 レンズ部
22 フレーム辺
24 CCDカメラ
26 網膜プロジェクタ
28 広角カメラ
30 広角カメラの撮像範囲を示す領域
V 自車両
P 仮想視点
DESCRIPTION OF SYMBOLS 1 Image display apparatus 2 Horizontal direction image acquisition part 4 Overhead image acquisition part 6 Head rotation angle detection part 8 Head inclination angle detection part 10 Navigation system part 12 Image generation part 14 Image display part 16 Head mounting member 18 Frame part 20 Lens unit 22 Frame side 24 CCD camera 26 Retina projector 28 Wide-angle camera 30 Region indicating imaging range of wide-angle camera V Own vehicle P Virtual viewpoint

Claims (12)

上面視で使用者から周囲へ放射状に延びる複数の軸の少なくとも一つの軸を撮像軸として撮像した画像を取得する水平方向画像取得部と、
前記使用者の上方に視点を設定した俯瞰画像のうち少なくとも前記使用者の周囲を映した俯瞰画像を取得する俯瞰画像取得部と、
予め設定した基準方向に対する前記使用者の頭部の上下軸周りの回転角度である頭部回転角を検出する頭部回転角検出部と、
水平面に対する前記頭部の上下方向への傾斜角度である頭部傾斜角を検出する頭部傾斜角検出部と、
前記頭部傾斜角検出部が検出した頭部傾斜角が俯角であると判定すると、前記俯瞰画像取得部が取得した俯瞰画像を用いて、前記水平面よりも下方向への前記傾斜角度に応じて前記視点を変化させ、且つ当該変化させた視点を前記頭部回転角検出部が検出した頭部回転角と異なる前記回転角度を向く前記撮像軸の方向へ変化させた俯瞰画像を生成し、
前記頭部傾斜角検出部が検出した頭部傾斜角が俯角ではないと判定すると、前記水平方向画像取得部が取得した画像を用いて、前記頭部回転角検出部が検出した頭部回転角と異なる前記回転角度を向く前記撮像軸で撮像した画像を生成する画像生成部と、
前記頭部の向きに対して予め設定した表示範囲内へ、前記画像生成部が生成した画像を表示する画像表示部と、を備えることを特徴とする画像表示装置。
A horizontal image acquisition unit that acquires an image captured using at least one of a plurality of axes extending radially from the user to the periphery in a top view;
An overhead image acquisition unit that acquires an overhead image that reflects at least the user's surroundings from among the overhead images that set the viewpoint above the user;
A head rotation angle detector that detects a head rotation angle that is a rotation angle around the vertical axis of the user's head relative to a preset reference direction;
A head tilt angle detection unit that detects a head tilt angle that is a tilt angle of the head in the vertical direction with respect to a horizontal plane;
When it is determined that the head tilt angle detected by the head tilt angle detection unit is a depression angle, the overhead image acquired by the overhead image acquisition unit is used according to the inclination angle below the horizontal plane. Changing the viewpoint and generating the overhead view image in which the changed viewpoint is changed in the direction of the imaging axis facing the rotation angle different from the head rotation angle detected by the head rotation angle detection unit;
When it is determined that the head tilt angle detected by the head tilt angle detection unit is not a depression angle, the head rotation angle detected by the head rotation angle detection unit using the image acquired by the horizontal image acquisition unit An image generation unit that generates an image captured by the imaging axis facing the rotation angle different from
An image display device comprising: an image display unit that displays an image generated by the image generation unit within a display range set in advance with respect to the orientation of the head.
前記頭部回転角検出部は、前記水平方向画像取得部が取得した画像及び前記俯瞰画像取得部が取得した俯瞰画像のうち少なくとも一方に基づいて前記頭部回転角を検出し、
前記頭部傾斜角検出部は、前記水平方向画像取得部が取得した画像及び前記俯瞰画像取得部が取得した俯瞰画像のうち少なくとも一方に基づいて前記頭部傾斜角を検出することを特徴とする請求項1に記載した画像表示装置。
The head rotation angle detection unit detects the head rotation angle based on at least one of the image acquired by the horizontal image acquisition unit and the overhead image acquired by the overhead image acquisition unit,
The head inclination angle detection unit detects the head inclination angle based on at least one of an image acquired by the horizontal image acquisition unit and an overhead image acquired by the overhead image acquisition unit. The image display device according to claim 1.
前記頭部回転角検出部は、前記使用者の上半身に対する前記頭部の上下軸周りの回転角度、または、前記頭部と対向する物体に対する頭部の上下軸周りの回転角度を用いて前記頭部回転角を検出し、
前記頭部傾斜角検出部は、前記上半身に対する前記頭部の上下方向への傾斜角度、または、前記頭部と対向する物体に対する頭部の上下方向への傾斜角度を用いて前記頭部傾斜角を検出することを特徴とする請求項1または請求項2に記載した画像表示装置。
The head rotation angle detection unit uses the rotation angle around the vertical axis of the head relative to the upper body of the user or the rotation angle around the vertical axis of the head relative to an object facing the head. Part rotation angle is detected,
The head inclination angle detection unit uses the inclination angle of the head in the vertical direction with respect to the upper body or the inclination angle of the head in the vertical direction with respect to an object facing the head. The image display device according to claim 1, wherein the image display device detects an image.
前記基準方向を、前記使用者の上半身の正中面と同じ方向とすることを特徴とする請求項1から請求項3のうちいずれか1項に記載した画像表示装置。   The image display device according to any one of claims 1 to 3, wherein the reference direction is the same direction as a median surface of the upper half of the user. 前記画像表示部は、前記頭部回転角及び前記頭部傾斜角が予め設定した非表示角度以下であれば、前記画像生成部が生成した画像を表示しないことを特徴とする請求項1から請求項4のうちいずれか1項に記載した画像表示装置。   The said image display part does not display the image which the said image generation part produced | generated, if the said head rotation angle and the said head inclination angle are below the preset non-display angle. Item 5. The image display device according to any one of items 4 to 4. 前記水平方向画像取得部及び前記俯瞰画像取得部のうち少なくとも一方は、前記使用者が装着しないカメラを有することを特徴とする請求項1から請求項5のうちいずれか1項に記載した画像表示装置。   6. The image display according to claim 1, wherein at least one of the horizontal image acquisition unit and the overhead image acquisition unit includes a camera that is not worn by the user. apparatus. 前記画像生成部は、前記頭部傾斜角検出部が検出した頭部傾斜角が俯角であると判定すると、前記頭部傾斜角検出部が検出した頭部傾斜角のうち前記水平面よりも下方向への前記傾斜角度が大きいほど、前記使用者の周囲の領域が広く映るように視点を変化させた俯瞰画像を生成することを特徴とする請求項1から請求項6のうちいずれか1項に記載した画像表示装置。   When the image generation unit determines that the head tilt angle detected by the head tilt angle detection unit is a depression angle, the image generation unit is below the horizontal plane among the head tilt angles detected by the head tilt angle detection unit. 7. The bird's-eye view image is generated by changing a viewpoint so that a region around the user is reflected more widely as the inclination angle to the screen is larger. 8. The described image display device. 前記画像生成部は、前記頭部傾斜角検出部が検出した頭部傾斜角が俯角であると判定すると、前記頭部傾斜角検出部が検出した頭部傾斜角のうち前記水平面よりも下方向への前記傾斜角度が大きいほど、前記使用者の周囲の領域のうち使用者前方の領域よりも使用者後方の領域が広く映るように視点を変化させた俯瞰画像を生成することを特徴とする請求項1から請求項6のうちいずれか1項に記載した画像表示装置。   When the image generation unit determines that the head tilt angle detected by the head tilt angle detection unit is a depression angle, the image generation unit is below the horizontal plane among the head tilt angles detected by the head tilt angle detection unit. Generating a bird's-eye view image in which a viewpoint is changed so that a region behind the user is reflected wider than a region in front of the user in the region around the user as the inclination angle toward the screen increases. The image display device according to any one of claims 1 to 6. 前記画像生成部は、予め設定した回転角変化係数を前記頭部回転角検出部が検出した頭部回転角に乗算した角度に基づいて、前記頭部回転角検出部が検出した頭部回転角と異なる前記回転角度を設定することを特徴とする請求項1から請求項8のうちいずれか1項に記載した画像表示装置。   The image generation unit is configured to detect a head rotation angle detected by the head rotation angle detection unit based on an angle obtained by multiplying a preset rotation angle change coefficient by the head rotation angle detected by the head rotation angle detection unit. The image display device according to any one of claims 1 to 8, wherein the rotation angle is set different from the rotation angle. 前記回転角変化係数を、1よりも大きい値とすることを特徴とする請求項9に記載した画像表示装置。   The image display apparatus according to claim 9, wherein the rotation angle change coefficient is set to a value larger than one. 前記回転角変化係数を、前記使用者の移動速度に応じて変化させることを特徴とする請求項9または請求項10に記載した画像表示装置。   The image display device according to claim 9 or 10, wherein the rotation angle change coefficient is changed according to a moving speed of the user. 前記画像生成部は、予め設定した指数関数を前記頭部回転角検出部が検出した頭部回転角に乗算した角度に基づいて、前記頭部回転角検出部が検出した頭部回転角と異なる前記回転角度を設定することを特徴とする請求項1から請求項8のうちいずれか1項に記載した画像表示装置。   The image generation unit is different from the head rotation angle detected by the head rotation angle detection unit based on an angle obtained by multiplying a preset exponential function by the head rotation angle detected by the head rotation angle detection unit. The image display device according to any one of claims 1 to 8, wherein the rotation angle is set.
JP2011159308A 2011-07-20 2011-07-20 Image display unit Withdrawn JP2013026797A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011159308A JP2013026797A (en) 2011-07-20 2011-07-20 Image display unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011159308A JP2013026797A (en) 2011-07-20 2011-07-20 Image display unit

Publications (1)

Publication Number Publication Date
JP2013026797A true JP2013026797A (en) 2013-02-04

Family

ID=47784680

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011159308A Withdrawn JP2013026797A (en) 2011-07-20 2011-07-20 Image display unit

Country Status (1)

Country Link
JP (1) JP2013026797A (en)

Similar Documents

Publication Publication Date Title
US10061992B2 (en) Image display system
KR101702888B1 (en) Vehicle view angle controlling apparatus, vehicle having the same and vehicle view angle controlling method
US8094190B2 (en) Driving support method and apparatus
JP6123761B2 (en) Vehicle display device
EP1961613B1 (en) Driving support method and driving support device
EP2891953B1 (en) Eye vergence detection on a display
CN104827967B (en) Head-up display device
US8035575B2 (en) Driving support method and driving support apparatus
KR101949358B1 (en) Apparatus for providing around view and Vehicle including the same
US11315528B2 (en) Image display system, image display method, movable object including the image display system, and non-transitory computer-readable medium
WO2010029707A4 (en) Image projection system and image projection method
US20070003162A1 (en) Image generation device, image generation method, and image generation program
US20190155031A1 (en) Display apparatus for superimposing a virtual image into the field of vision of a user
CN104163133A (en) Rear view camera system using rear view mirror location
JP6945933B2 (en) Display system
JP2005509129A (en) Enhanced display that informs the driver of the car about the surrounding visual information for navigation
JP6453929B2 (en) Vehicle display system and method for controlling vehicle display system
JP6232691B2 (en) VEHICLE DISPLAY CONTROL DEVICE, VEHICLE DISPLAY DEVICE, AND VEHICLE DISPLAY CONTROL METHOD
JP2005538656A (en) Stereoscopic night vision device for automobiles
JP2008018760A (en) Driving support device
JP7111582B2 (en) head up display system
CN112424570A (en) Head-up display
US11068731B2 (en) Vehicle-mounted display system and method for preventing vehicular accidents
KR20170065738A (en) Apparatus for controlling head up display and method thereof
JP2020024561A (en) Display device, display control method, and program

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20141007