JP2008022064A - Monitor for vehicle - Google Patents

Monitor for vehicle Download PDF

Info

Publication number
JP2008022064A
JP2008022064A JP2006189586A JP2006189586A JP2008022064A JP 2008022064 A JP2008022064 A JP 2008022064A JP 2006189586 A JP2006189586 A JP 2006189586A JP 2006189586 A JP2006189586 A JP 2006189586A JP 2008022064 A JP2008022064 A JP 2008022064A
Authority
JP
Japan
Prior art keywords
video
vehicle
monitoring target
monitoring
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006189586A
Other languages
Japanese (ja)
Other versions
JP4961868B2 (en
Inventor
Hiroyoshi Yanagi
柳  拓良
Tatsumi Yanai
達美 柳井
Masami Funekawa
政美 舟川
Soichiro Mori
壮一郎 森
Tsutomu Kawano
勉 川野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2006189586A priority Critical patent/JP4961868B2/en
Publication of JP2008022064A publication Critical patent/JP2008022064A/en
Application granted granted Critical
Publication of JP4961868B2 publication Critical patent/JP4961868B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To enhance recognition performance of a monitor object existing in a monitor object video image by an operator. <P>SOLUTION: A video image composition device 103 generates a monitor object video image presented to an operator based on video images picked up by means of a right camera 101 and a left camera 102, and a video image production device 105 produces a prime video image for enhancing recognition performance of a monitor object included in the monitor object video image produced from the video image composition device 103 by the operator. A display controller 106 controls the display content of a display 107 such that the monitor object video image is displayed after displaying the prime image. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、運転者が車両の車両周辺の状況を監視するための車両用監視装置に関する。   The present invention relates to a vehicle monitoring device for a driver to monitor a situation around a vehicle.

次のような車両用周囲モニタ装置が、例えば特許文献1によって知られている。この装置は、運転者が車両の死角に存在する物体を把握できるように、車両の左右それぞれの方向を撮影した映像を提示する。   A vehicle surrounding monitoring device as described below is known from Patent Document 1, for example. This device presents an image of the left and right directions of the vehicle so that the driver can grasp an object present in the blind spot of the vehicle.

特開平11−338074号公報JP 11-338074 A

しかしながら、従来の装置では、運転者は、運転中などモニタに表示された映像を長時間注視できない状況下では、映像内に存在する物体を見落としてしまう可能性があった。   However, in the conventional apparatus, there is a possibility that the driver may miss an object present in the video under a situation where the video displayed on the monitor cannot be watched for a long time such as during driving.

本発明による車両用監視装置は、車両の進行方向に対して左右方向を撮像する撮像手段と、撮像手段により撮像されて取得した映像に基づいて、運転者に提示するための監視対象映像を生成する監視対象映像生成手段と、監視対象映像生成手段で生成した監視対象映像に含まれる監視対象の運転者による認識性を向上させる事前表示映像を生成する事前表示映像生成手段と、事前表示映像生成手段で生成した事前表示映像を表示した後に、監視対象映像生成手段で生成した監視対象映像を表示する表示制御手段とを備えることを特徴とする。   A vehicle monitoring apparatus according to the present invention generates an image to be monitored to be presented to a driver based on an image capturing unit that captures a left-right direction with respect to a traveling direction of a vehicle, and an image captured by the image capturing unit. Monitoring target video generating means, pre-display video generating means for generating pre-display video for improving recognition by the monitoring target driver included in the monitoring target video generated by the monitoring target video generating means, and pre-display video generation And display control means for displaying the monitoring target video generated by the monitoring target video generation means after displaying the pre-display video generated by the means.

本発明によれば、事前表示映像を表示した後に監視対象映像を表示するようにしたので、運転者が監視対象映像を長時間注視できない場合でも、監視対象映像内に含まれる監視対象の認識性を向上させて、監視対象の見落としを防止することができる。   According to the present invention, since the monitoring target video is displayed after the pre-display video is displayed, even when the driver cannot gaze at the monitoring target video for a long time, the recognizability of the monitoring target included in the monitoring target video is displayed. And oversight of the monitoring target can be prevented.

図1は、本実施の形態における車両用監視装置の一実施の形態の構成を示すブロック図である。車両用監視装置100は、車両に搭載され、右カメラ101と、左カメラ102と、映像合成装置103と、道路地図記憶装置104と、映像生成装置105と、表示制御装置106と、表示装置107とを備えている。   FIG. 1 is a block diagram showing a configuration of an embodiment of a vehicle monitoring apparatus in the present embodiment. The vehicle monitoring device 100 is mounted on a vehicle and has a right camera 101, a left camera 102, a video composition device 103, a road map storage device 104, a video generation device 105, a display control device 106, and a display device 107. And.

右カメラ101および左カメラ102は、それぞれ車両のフロントバンパーの左右に、進行方向に対しおおむね80度程度のヨー角の方向を撮影するようにそれぞれ取り付けられている。すなわち、右カメラ101は、車両前方の右側(右側方)を撮影するように設置されており、左カメラ102は、車両前方の左側(左側方)を撮影するように設置されている。右カメラ101および左カメラ102で撮影された映像は、映像合成装置103へ出力される。   The right camera 101 and the left camera 102 are respectively attached to the left and right sides of the front bumper of the vehicle so as to photograph the direction of the yaw angle of about 80 degrees with respect to the traveling direction. That is, the right camera 101 is installed so as to photograph the right side (right side) in front of the vehicle, and the left camera 102 is installed so as to photograph the left side (left side) in front of the vehicle. Videos taken by the right camera 101 and the left camera 102 are output to the video composition device 103.

映像合成装置103は、右カメラ101および左カメラ102から入力された映像を一つの監視映像に合成する。例えば、映像合成装置103は、図2に示すように、右カメラ101で撮影された映像を運転者が車両の右側方を撮影した映像であると識別できるように車両の右側の窓の形状にトリミングして右映像2aを生成する。また、左カメラ102で撮影された映像を運転者が車両の左側を撮影した映像であると識別できるように、車両の左側の窓の形状にトリミングして左映像2bを生成する。そして、自車両を示す図形2cの両側に生成した右映像2aと左映像2bとを配置して合成映像2dを生成する。   The video composition device 103 synthesizes the video input from the right camera 101 and the left camera 102 into one monitoring video. For example, as shown in FIG. 2, the video synthesizing device 103 has a window shape on the right side of the vehicle so that the driver can identify the video shot by the right camera 101 as a video of the right side of the vehicle. The right image 2a is generated by trimming. In addition, the left image 2b is generated by trimming the image captured by the left camera 102 into the shape of the window on the left side of the vehicle so that the driver can identify the image captured on the left side of the vehicle. And the synthetic | combination image | video 2d is produced | generated by arrange | positioning the right image | video 2a and the left image | video 2b which were produced | generated on both sides of the figure 2c which shows the own vehicle.

道路地図記憶装置104には、例えばハードディスクドライブ(HDD)が用いられ、カーナビゲーションなどに用いられるものと同様の道路地図のデータが記録されている。この道路地図には、道路に関する情報として、道路の位置、道路種別(国道、市道、など)、幅、一方通行などの規制の有無、制限速度、標準的な走行速度、および優先道路であるか否かなどの情報が記録されている。また、建物の存在、位置(座標)、および建物の外観情報などの建物に関する情報、湖・海・川などの地形情報、学校や駅などのランドマークの存在や位置などのランドマーク情報が記録されている。この他、特定の地点に対して、その地点で撮影された風景の写真または風景を描画した線画などを記憶していてもよい。   The road map storage device 104 uses, for example, a hard disk drive (HDD), and records road map data similar to that used for car navigation and the like. This road map includes road information, such as road position, road type (national road, city road, etc.), width, presence / absence of restrictions such as one-way traffic, speed limit, standard driving speed, and priority road. Information such as whether or not is recorded. It also records building information such as the existence, location (coordinates), and building exterior information, terrain information such as lakes, seas and rivers, and landmark information such as the presence and location of landmarks such as schools and stations. Has been. In addition, for a specific point, a landscape photograph taken at the point or a line drawing depicting the landscape may be stored.

なお、道路地図のデータがCD−ROMやDVD―ROMなどの記録媒体に記録されている場合には、道路地図記憶装置104としてこれらの記録媒体からデータを読み込むための読取装置、例えばCDドライブやDVDドライブなどを用いてもよい。   When road map data is recorded on a recording medium such as a CD-ROM or DVD-ROM, the road map storage device 104 is a reading device for reading data from these recording media, such as a CD drive or the like. A DVD drive or the like may be used.

映像生成装置105は、道路地図記憶装置104から読み込んだ地図データ、車両に搭載された車速センサから入力される車速信号、車両に搭載された時計から入力される時刻信号、およびGPSセンサから入力される自車位置信号などの種々の信号に基づいて、後述するプライム映像(事前表示映像)を生成する。   The video generation device 105 receives map data read from the road map storage device 104, a vehicle speed signal input from a vehicle speed sensor mounted on the vehicle, a time signal input from a clock mounted on the vehicle, and a GPS sensor. A prime video (pre-display video) to be described later is generated based on various signals such as the vehicle position signal.

ここで、プライム映像とは、映像合成装置103によって合成された合成映像2dを監視対象映像とした場合に、運転者にこの監視対象映像を見せる前にプライム映像を見せておくことによって、後に表示される監視対象映像に含まれる対象物の認識性をアップさせる効果がある映像をいう。このプライム映像を運転者に提示した後に監視対象映像を表示した場合には、何の情報も提示しないで監視対象映像を表示した場合と比較して、運転者による監視対象映像内に含まれる対象物の認識率が2〜3倍に向上することが知られている。換言すれば、予め使用者にプライム映像を提示しておくことによって、何の情報も提示しないで監視対象映像を表示した場合よりも、運転者が映像内に含まれる対象物を認識するために要する時間(認知時間)を短縮することができる。   Here, when the synthesized video 2d synthesized by the video synthesizing device 103 is set as the monitoring target video, the prime video is displayed later by showing the prime video before showing the monitoring target video to the driver. An image having an effect of improving the recognition of an object included in the monitored image. If the video to be monitored is displayed after the prime video is presented to the driver, the target included in the video to be monitored by the driver is compared to the case where the video to be monitored is displayed without presenting any information. It is known that the recognition rate of an object is improved 2 to 3 times. In other words, by presenting the prime video to the user in advance, the driver recognizes the target object included in the video, rather than displaying the monitoring target video without presenting any information. The time required (recognition time) can be shortened.

本実施の形態における車両用監視装置100では、このことを加味して、監視対象映像を表示する前にこのプライム映像を数秒程度表示することによって、運転者が運転中に長時間映像を注視することができない場合であっても、監視対象映像に含まれる対象物を十分に認識することができるようにする。なお、この効果は、運転者に対して事前にどのような監視対象に注意すべきかを提示しておくことによって得ることができる。このとき、100%同じものを事前に表示しなくても、例えばジャンルが一致するもの、同じ対象物を回転したもの、スケールが異なるものを表示した場合にも同様の効果を得ることができる。また、対象物の予想される動きを予め提示した場合にも同様の効果を得ることができる。   In the vehicle monitoring apparatus 100 according to the present embodiment, by taking this into consideration, the prime image is displayed for about several seconds before the monitoring target image is displayed, so that the driver watches the image for a long time while driving. Even if it is impossible, the object included in the monitoring target video can be sufficiently recognized. This effect can be obtained by presenting to the driver what kind of monitoring object should be noted in advance. At this time, even if 100% of the same objects are not displayed in advance, the same effect can be obtained even when, for example, the genres match, the same object is rotated, or the scale is different. The same effect can be obtained also when the expected movement of the object is presented in advance.

さらに、人間の視覚認知処理は、目で映像をとらえた場合に、大まかな情報から細かい情報へと時間的順番で処理されることも知られている。このため、例えば、監視対象映像に含まれる背景、例えば建物の配置など事前に提示したり、対象物が出現する可能性が高い範囲を事前に提示することによって、運転者は監視対象映像の概要を事前に理解することができる。この場合にも実際に監視対象映像を提示したときの大まかな情報の理解に必要な時間を短縮することができ、結果として監視対象映像の認知に要する時間を短縮することができる。   Furthermore, it is also known that human visual recognition processing is performed in order of time from rough information to detailed information when an image is captured with the eyes. For this reason, for example, the driver provides an overview of the monitoring target video by presenting in advance the background included in the monitoring target video, for example, the layout of the building, or by previously presenting a range where the object is likely to appear. Can be understood in advance. Also in this case, the time required for understanding rough information when the monitoring target video is actually presented can be reduced, and as a result, the time required for recognition of the monitoring target video can be reduced.

本実施の形態では、映像生成装置105は、運転者による監視対象映像に含まれる監視対象の認識性を向上させて、監視対象映像の認知時間を短縮するために、以下の(a)〜(e)の5パターンのプライム映像を生成する場合について説明する。なお、(a)〜(e)で説明するプライム映像のうち、いずれのプライム映像を生成するかは、運転者によってあらかじめ選択されていてもよく、あるいは映像生成装置105が任意に選択するようにしてもよい。   In the present embodiment, the video generation device 105 improves the recognizability of the monitoring target included in the monitoring target video by the driver, and shortens the recognition time of the monitoring target video, so that the following (a) to ( A case of generating five patterns of prime images e) will be described. Of the prime images described in (a) to (e), which prime image is to be generated may be selected in advance by the driver, or may be arbitrarily selected by the image generation device 105. May be.

(a)合成映像2dに含まれる可能性がある監視対象を図(写真または絵)で表したプライム映像、(b)合成映像2dに含まれる可能性がある監視対象を抽象化して表したプライム映像、(c)合成映像2dに含まれる背景を表示したプライム映像、(d)合成映像2dに含まれる可能性がある監視対象の動きを表したプライム映像、(e)合成映像2d内で監視対象が出現する可能性が高い領域を示したプライム映像。   (A) Prime video representing a monitoring target that may be included in the composite video 2d as a figure (photo or picture), (b) Prime representing an abstract of the monitoring target that may be included in the composite video 2d Video, (c) prime video displaying the background included in the composite video 2d, (d) prime video representing the movement of the monitoring target that may be included in the composite video 2d, and (e) monitoring in the composite video 2d Prime video showing the area where the target is likely to appear.

なお、(a)、(b)、(c)および(e)における監視対象とは、例えば歩行者や他車両などの運転者が運転中に注意を向ける必要がある対象物をいい、(d)における背景とは、例えば壁や建物などの構造物をいう。   Note that the monitoring target in (a), (b), (c), and (e) refers to an object that a driver such as a pedestrian or another vehicle needs to pay attention to while driving, (d The background in) refers to a structure such as a wall or a building.

本実施の形態では、映像生成装置105は、(a)〜(e)のいずれのパターンでプライム映像を生成する場合でも、合成映像2dと同じ表示形態でプライム映像を生成する。例えば図3に示すように、右映像2aに対応し、車両の右側の窓の形状で示した右プライム映像3a、左映像2bに対応し、車両の左側の窓の形状で示した左プライム映像3b、および自車両を示す図形3cとを配置したプライム映像3dを生成する。   In the present embodiment, the video generation device 105 generates a prime video in the same display form as the composite video 2d even when generating a prime video in any of the patterns (a) to (e). For example, as shown in FIG. 3, the left prime image corresponding to the right image 2a and corresponding to the right prime image 3a and the left image 2b indicated by the shape of the right window of the vehicle and the left prime image corresponding to the left window shape of the vehicle. 3d and a prime video 3d in which a figure 3c indicating the host vehicle is arranged are generated.

以下、(a)〜(e)の各パターンごとに、映像合成装置103によるプライム映像の生成処理について説明する。なお、以下の説明においては、いずれも監視対象映像は合成映像2dであるものとし、運転者による合成映像2dの認識性を向上させるためのプライム映像を生成する場合について説明する。   Hereinafter, the prime video generation processing by the video composition device 103 will be described for each of the patterns (a) to (e). In the following description, it is assumed that the monitoring target video is the composite video 2d, and a case where a prime video for improving the recognizability of the composite video 2d by the driver is generated will be described.

(a)合成映像2dに含まれる可能性がある監視対象を図(写真または絵)で表したプライム映像
このプライム映像は、運転者に対して事前にどのような監視対象に注意すべきかを提示するための映像である。このようなプライム映像を生成する場合には、映像生成装置105は、まず、GPSセンサから取得した自車位置周辺の地図データを道路地図記憶装置104から読み込む。そして、地図データに含まれる道路に関する情報に基づいて、合成映像2dにおける右映像2aと左映像2bのそれぞれに含まれる可能性がある監視対象を判定する。ここでは、映像生成装置105が、道路に関する情報に基づいて、車両の前方で右側方に延在している道路、および車両の前方で左側方に延在している道路が存在し、これらの道路がともに一方通行であり、他車両が走行して来るのは左側方の道路からだけであると判定した場合の処理について説明する。
(A) Prime video showing the monitoring target that may be included in the composite video 2d as a diagram (photo or picture) This prime video shows the driver what kind of monitoring target should be noted in advance It is a picture for doing. When generating such a prime video, the video generation device 105 first reads map data around the vehicle position acquired from the GPS sensor from the road map storage device 104. And based on the information regarding the road contained in map data, the monitoring object which may be contained in each of the right image 2a and the left image 2b in the synthesized image 2d is determined. Here, the video generation device 105 has a road extending to the right in front of the vehicle and a road extending to the left in front of the vehicle based on the information on the road. A process when it is determined that both roads are one-way and the other vehicles are traveling only from the left side road will be described.

この場合には、左側方の道路からは自動車と歩行者とが進入してくる可能性があるが、右側方の道路からは歩行者しか進入してくる可能性がないことから、映像生成装置105は、右映像2aには、監視対象として歩行者のみが含まれる可能性があり、左映像2bには、監視対象として自動車と歩行者とが含まれる可能性があると判定する。そして、映像生成装置105は、この判定結果に基づいてプライム映像を生成する。   In this case, there is a possibility that cars and pedestrians may enter from the road on the left side, but only a pedestrian may enter from the road on the right side. 105, it is determined that there is a possibility that only the pedestrian is included as the monitoring target in the right video 2a, and that there is a possibility that the car and pedestrian are included as the monitoring target in the left video 2b. The video generation device 105 generates a prime video based on the determination result.

すなわち、図3に示すように、右映像2aに含まれる可能性がある歩行者を示す図(絵や写真)を表示した右プライム映像3aを生成する。また、左映像2bに含まれる可能性がある自動車を示す図と歩行者を示す図とを表示した左プライム映像3bを生成する。そして、右プライム映像3a、左プライム映像3b、および自車両を示す図形3cを配置したプライム映像3dを生成する。   That is, as shown in FIG. 3, a right prime video 3a displaying a diagram (a picture or a photograph) showing a pedestrian that may be included in the right video 2a is generated. In addition, a left prime video 3b is generated that displays a diagram showing a car that may be included in the left video 2b and a diagram showing a pedestrian. And the prime image | video 3d which has arrange | positioned the figure 3c which shows the right prime image | video 3a, the left prime image | video 3b, and the own vehicle is produced | generated.

このとき、映像生成装置105は、道路に関する情報に基づいて右側方の道路の先には学校が存在することも検出した場合には、右側方の道路から子供が進入してくる可能性が高いことを示すために、右プライム映像3a内に表示する歩行者の図を子供の図に変更するようにしてもよい。さらに、右側方の道路や左側方の道路から、自転車やバイクも進入してくる可能性がある場合には、自転車やバイクの図も一緒に表示するようにしてもよい。   At this time, when the video generation apparatus 105 detects that a school is present ahead of the right side road based on the information about the road, there is a high possibility that the child enters from the right side road. In order to show that, the figure of the pedestrian displayed in the right prime video 3a may be changed to the figure of the child. Further, when there is a possibility that a bicycle or a motorcycle enters from the right side road or the left side road, a diagram of the bicycle or motorcycle may be displayed together.

また、映像生成装置105は、現在の時刻を取得し、現在の時刻を反映したプライム映像3dを生成するようにしてもよい。すなわち、監視対象の色や明るさを現在の時刻のイメージにマッチしたものに変化させてもよい。例えば、現在が夜間であれば符号3eに示すように自動車を示す図を濃い色で表示し、現在が日中であれば符号3fに示すように自動車を示す図を薄い色で表示し、現在が朝であれば符号3gに示すように自動車を示す図を白で表示するようにしてもよい。   Further, the video generation device 105 may acquire the current time and generate the prime video 3d reflecting the current time. That is, the color or brightness of the monitoring target may be changed to match the image at the current time. For example, if the current time is night, the figure indicating the car is displayed in a dark color as indicated by reference numeral 3e, and if the current day is the day, the figure indicating the car is indicated in a light color as indicated by reference numeral 3f. If it is morning, a figure showing a car may be displayed in white as indicated by reference numeral 3g.

(b)合成映像2dに含まれる可能性がある監視対象を抽象化して表したプライム映像
このプライム映像は、運転者に対して事前にどのような監視対象に注意すべきかを提示するための映像であり、上述したように、必ずしも監視対象と100%同じものを事前に提示しなくてもプライム映像としての効果があることを加味して、監視対象を抽象化して提示するための映像である。
(B) Prime video that abstractly represents a monitoring target that may be included in the composite video 2d. This prime video is a video for presenting to the driver what kind of monitoring target should be noted in advance. As described above, it is an image for abstracting and presenting the monitoring target in consideration of the effect as a prime image even if it is not necessarily 100% identical to the monitoring target in advance. .

このプライム映像は、(a)で上述したプライム映像において、右プライム映像3aおよび左プライム映像3b内に表示する監視対象を示す図を抽象化して表したものである。すなわち、映像生成装置105は、図4に示すように右プライム映像3aに表示する歩行者を示す図と、左プライム映像3bに表示する自動車および歩行者を示す図とを抽象化してプライム映像3dを生成する。   This prime video is an abstract representation of a diagram showing a monitoring target displayed in the right prime video 3a and the left prime video 3b in the prime video described above in (a). That is, the video generation device 105 abstracts the figure showing the pedestrian displayed in the right prime video 3a and the figure showing the car and the pedestrian displayed in the left prime video 3b as shown in FIG. Is generated.

(c)合成映像2dに含まれる背景を表示したプライム映像
このプライム映像は、上述したように、人間の視覚認知処理は、目で映像をとらえた場合に、大まかな情報から細かい情報へと時間的順番で処理されることを加味して、運転者に監視対象映像の概要を事前に理解させるための映像である。なお、ここでは、合成映像2dに含まれる背景として、建物と壁を表示したプライム映像を生成する場合について説明するが、その他の構造物を表示するようにしてもよい。
(C) Prime video displaying the background included in the composite video 2d As described above, this prime video is a process in which human visual recognition processing takes time from rough information to detailed information when the video is captured by the eyes. This is a video for allowing the driver to understand the outline of the monitoring target video in advance in consideration of the processing in the target order. Here, a case where a prime video displaying a building and a wall is generated as the background included in the composite video 2d will be described, but other structures may be displayed.

映像生成装置105は、まず、GPSセンサから取得した自車位置周辺の地図データを道路地図記憶装置104から読み込む。そして、地図データに含まれる建物に関する情報に基づいて、合成映像2dにおける右映像2aと左映像2bのそれぞれに含まれる背景の映像を生成する。すなわち、建物や壁の座標や外観情報に基づいて、右映像2a、および左映像2bに含まれている建物や壁の図形を背景の図形として描画する。そして、映像生成装置105は、例えば図5に示すように、右映像2aに含まれる背景の図形を表示した右プライム映像3a、および左映像2bに含まれる背景の図形を表示した左プライム映像3b、および自車両を示す図形3cを配置したプライム映像3dを生成する。   First, the image generation device 105 reads map data around the vehicle position acquired from the GPS sensor from the road map storage device 104. Then, based on the information about the building included in the map data, a background image included in each of the right image 2a and the left image 2b in the composite image 2d is generated. That is, based on the coordinates of the buildings and walls and the appearance information, the figures of the buildings and walls included in the right video 2a and the left video 2b are drawn as background graphics. Then, for example, as shown in FIG. 5, the video generation device 105 displays a right prime video 3a displaying a background graphic included in the right video 2a and a left prime video 3b displaying a background graphic included in the left video 2b. , And a prime video 3d in which a figure 3c indicating the host vehicle is arranged.

なお、ここでは、地図データに含まれる建物に関する情報に基づいて、合成映像2dにおける右映像2aと左映像2bのそれぞれに含まれる建物や壁の図形を描画する例について説明したが、あらかじめ背景の写真を撮影しておき、その写真をそのまま用いてもよい。   In addition, although the example which draws the figure of the building and wall contained in each of the right image 2a and the left image 2b in the synthetic | combination image | video 2d based on the information regarding the building contained in map data was demonstrated here, background A photograph may be taken and the photograph may be used as it is.

また、映像生成装置105は、現在の時刻を取得し、現在の時刻を反映したプライム映像3dを生成するようにしてもよい。すなわち、背景の表示色が現在の時刻において実際に見える色や明るさになるように変化させてもよい。例えば、現在が夜間である場合には、図6に示すように、右プライム映像3aに表示する建物の色、および左プライム映像3bに表示する建物の色を夜間に実際に見える色および明るさとなるように変化させる。なお、夜間に実際に見える色および明るさに変化させるためには、時刻に応じた表示色を演算によって決定して着色してもよく、あらかじめ各時刻で撮影した写真をそのまま用いて表示するようにしてもよい。   Further, the video generation device 105 may acquire the current time and generate the prime video 3d reflecting the current time. That is, the background display color may be changed so as to be a color and brightness that can be actually seen at the current time. For example, when the current time is night, as shown in FIG. 6, the color of the building displayed in the right prime image 3a and the color of the building displayed in the left prime image 3b are the colors and brightness that can actually be seen at night. Change to be. In addition, in order to change the color and brightness that can be actually seen at night, the display color according to the time may be determined by calculation and colored, or the photograph taken at each time in advance may be used as it is. It may be.

(d)合成映像2dに含まれる可能性がある監視対象の動きを表したプライム映像
このプライム映像は、上述したように、監視対象の予想される動きを予め提示した場合でもプライム映像としての効果を得ることができることを加味して、監視対象の動きを予想して、その予想した動きを運転者が認識できる表示形式に変換して提示するための映像である。
(D) Prime video representing the motion of the monitoring target that may be included in the composite video 2d As described above, this prime video is effective as a prime video even when the predicted motion of the monitoring target is previously presented. This is a video for predicting the movement of the monitoring target, taking into account that the movement can be obtained, and converting the predicted movement into a display format that can be recognized by the driver.

映像生成装置105は、まず、GPSセンサから取得した自車位置周辺の地図データを道路地図記憶装置104から読み込む。そして、地図データに含まれる道路に関する情報に基づいて、合成映像2dにおける右映像2aに含まれる右側方の道路、および左映像2bに含まれる右側方の道路のどちらが優先道路であるか、またそれぞれの道路の道路種別、制限速度、道幅を判定する。この判定結果に基づいて、各道路から自動車が進入してくる場合の速度を予測する。なお、車両が道路の渋滞情報を取得するための渋滞情報取得装置を備えている場合には、取得した渋滞情報も加味して各道路から進入してくる自動車の速度を予測するようにしてもよい。   First, the image generation device 105 reads map data around the vehicle position acquired from the GPS sensor from the road map storage device 104. Then, based on the information about the road included in the map data, which of the right side road included in the right video 2a and the right side road included in the left video 2b in the composite video 2d is the priority road, The road type, speed limit, and road width are determined. Based on this determination result, the speed when a car enters from each road is predicted. If the vehicle has a traffic information acquisition device for acquiring road traffic information, the speed of a car entering from each road may be predicted in consideration of the acquired traffic information. Good.

さらに映像生成装置105は、各道路の車両の進行方向を判定し、車両の進行方向と予測した速度とに基づいて、各道路から進入してくる自動車の動きをベクトルで表したプライム映像を生成する。このとき、映像生成装置105は、歩行者の一般的な歩行速度に基づいて、各道路から進入してくる歩行者の動きをベクトルで表してプライム映像上に表示する。すなわち、進入してくる自動車または歩行者の動きを、それぞれが動く方向を矢印で表し、進入速度の大きさを矢印の長さで示したベクトルに変換して表示する。   Furthermore, the image generation device 105 determines the traveling direction of the vehicle on each road, and generates a prime image that represents the motion of the car entering from each road as a vector based on the traveling direction of the vehicle and the predicted speed. To do. At this time, the video generation device 105 displays the motion of the pedestrian entering from each road as a vector on the prime video based on the general walking speed of the pedestrian. That is, the movement of an approaching car or pedestrian is displayed after being converted into a vector whose direction of movement is indicated by an arrow and the magnitude of the approach speed is indicated by the length of the arrow.

図7は、合成映像2dに含まれる可能性がある監視対象の動きを表したプライム映像の具体例を示す図である。この図7は、(a)で上述した場合と同様に、車両の右側方に延在している道路、および車両の左側方に延在している道路がともに一方通行であり、他車両が走行して来るのは左側方の道路からだけであるが、歩行者はいずれの道路からも進入してくる場合の具体例を示している。また、この図7に示す例では、自動車の動きを実線矢印で示し、歩行者の動きを破線矢印で示している。   FIG. 7 is a diagram illustrating a specific example of the prime video representing the movement of the monitoring target that may be included in the composite video 2d. FIG. 7 shows that the road extending to the right side of the vehicle and the road extending to the left side of the vehicle are both one-way as in the case described above in FIG. A specific example of a case where a pedestrian enters from any road is shown, although the vehicle only travels from the road on the left side. In the example shown in FIG. 7, the movement of the automobile is indicated by a solid arrow, and the movement of a pedestrian is indicated by a broken line arrow.

すなわち、図7においては、映像生成装置105は、右映像2aに含まれる可能性がある歩行者の動きをベクトルで表した右プライム映像3aを生成し、左映像2bに含まれる可能性がある自動車と歩行者のそれぞれの動きをベクトルで表した左プライム映像3bを生成している。そして、右プライム映像3a、左プライム映像3b。および自車両を示す図形3cを配置してプライム映像3dを生成している。   That is, in FIG. 7, the video generation device 105 generates the right prime video 3a that represents a pedestrian's movement that may be included in the right video 2a as a vector, and may be included in the left video 2b. A left prime video 3b is generated that represents the movements of the car and the pedestrian as vectors. The right prime video 3a and the left prime video 3b. And the figure 3c which shows the own vehicle is arrange | positioned, and the prime image | video 3d is produced | generated.

(e)合成映像2d内で監視対象が出現する可能性が高い領域を示したプライム映像
このプライム映像は、上述したように、監視対象が出現する可能性が高い範囲を予め提示した場合でもプライム映像としての効果を得ることができることを加味して、合成映像2dにおける右映像2aおよび左映像2b内で監視対象が出現する可能性が高い範囲を判定して、その領域を提示するための映像である。
(E) Prime video showing an area where the monitoring target is likely to appear in the composite video 2d As described above, this prime video is prime even when the range where the monitoring target is likely to appear is previously presented. In consideration of the fact that an effect as a video can be obtained, a video for determining a range where a monitoring target is likely to appear in the right video 2a and the left video 2b in the composite video 2d and presenting the region It is.

映像生成装置105は、(a)、(b)、または(d)で上述した方法により、合成映像2dにおける右映像2aに含まれる右側方の道路、および左映像2bに含まれる右側方の道路のうち自動車や歩行者が進入してくる可能性がある道路を特定する。そして、右映像2aおよび左映像2bのそれぞれの中で、監視対象が進入してくる可能性がある道路(路面)を含む領域を特定する。例えば、映像内から(c)で上述した方法によって検出した背景が含まれる領域を排除することによって、道路を含む領域を特定する。   The video generation device 105 uses the method described above in (a), (b), or (d) to perform the right road included in the right video 2a and the right road included in the left video 2b in the composite video 2d. Among them, a road where a car or a pedestrian may enter is identified. Then, in each of the right video 2a and the left video 2b, an area including a road (road surface) where the monitoring target may enter is specified. For example, the area including the road is specified by excluding the area including the background detected by the method described above in (c) from the video.

そして、映像生成装置105は、特定した道路を含む領域を四角形の枠で囲んで表示したプライム映像を生成する。例えば、図8に示すように、右映像2aにおける道路を含む領域8aを表示した右プライム映像3a、左映像2bにおける道路を含む領域8bを表示した左プライム映像3b、および自車両を示す図形3cを配置したプライム映像3dを生成する。   Then, the video generation device 105 generates a prime video that displays a region including the identified road surrounded by a rectangular frame. For example, as shown in FIG. 8, a right prime image 3a displaying a region 8a including a road in the right image 2a, a left prime image 3b displaying a region 8b including a road in the left image 2b, and a figure 3c indicating the host vehicle. Is generated.

表示制御装置106は、運転者からの操作に応じて表示装置107のオン・オフを切り替えたり、表示装置107への表示内容を制御する。なお、表示装置107は、例えば液晶モニタなどが用いられ、車両がナビゲーション装置やテレビを搭載している場合には、ナビ画面やテレビ画面を表示することができる。また、映像合成装置103により生成された合成映像2d(監視対象映像)や、映像生成装置105によって生成された(a)〜(e)のいずれかのプライム映像も切り替えて表示することができる。   The display control device 106 switches on / off of the display device 107 in accordance with an operation from the driver, and controls display contents on the display device 107. As the display device 107, for example, a liquid crystal monitor is used, and when the vehicle is equipped with a navigation device or a television, a navigation screen or a television screen can be displayed. Further, the synthesized video 2d (monitoring target video) generated by the video synthesizing device 103 and the prime video of any one of (a) to (e) generated by the video generating device 105 can be switched and displayed.

表示制御装置106は、自車両が、運転者が監視対象に対する注意が必要な交差点に接近したことを検出した場合には、交差点における左右方向の映像を運転者に提供するために、映像合成装置103で合成された合成映像2dを監視対象映像として表示装置107へ表示する。なお、表示制御装置106は、運転者によって監視対象映像への自動切換えモードが設定されているときのみ監視対象映像の表示を行うようにしてもよい。また、交差点への接近状況に関係なく、運転者からの指示に基づいて監視対象映像を表示するようにしてもよい。   When the host vehicle detects that the driver has approached an intersection that requires attention to the monitoring target, the display control device 106 provides an image synthesizing device to provide the driver with a left-right image at the intersection. The synthesized video 2d synthesized in 103 is displayed on the display device 107 as a monitoring target video. Note that the display control device 106 may display the monitoring target video only when the driver has set the automatic switching mode to the monitoring target video. Moreover, you may make it display a monitoring subject image | video based on the instruction | indication from a driver | operator irrespective of the approach condition to an intersection.

監視対象映像を表示するに当たっては、上述したように、予めプライム映像を数秒程度表示することによって、運転者による監視対象映像内に含まれる対象物(監視対象)の認識率が2〜3倍に向上する。したがって、表示制御装置106は、合成映像2dを監視対象映像として表示する前に、数秒程度プライム映像を表示するように、表示装置107への表示を制御する。具体的には次のように処理する。   In displaying the monitoring target video, as described above, the prime video is displayed for about several seconds in advance, so that the recognition rate of the target object (monitoring target) included in the monitoring target video by the driver is two to three times. improves. Accordingly, the display control device 106 controls the display on the display device 107 so that the prime video is displayed for about several seconds before the composite video 2d is displayed as the monitoring target video. Specifically, the processing is as follows.

表示制御装置106は、GPSセンサから取得した自車位置周辺の地図データを道路地図記憶装置104から読み込む。そして、地図データに含まれる道路に関する情報に基づいて、走行先に存在する最も近い交差点までの距離を算出する。また、車速センサからの出力に基づいて、自車両の車速を検出する。そして、表示制御装置106は、自車位置から交差点までの距離が所定距離以下、例えば30m以下になり、かつ自車両の車速が所定速度以下、例えば40km/h以下になったときに、自車両は運転者が監視対象に対する注意が必要な交差点に接近したことを検出し、プライム映像の表示条件が満たされたと判定する。表示制御装置106は、プライム映像の表示条件が満たされたと判定した場合に、映像生成装置105によって生成されたプライム映像を表示装置107に表示する。   The display control device 106 reads map data around the vehicle position acquired from the GPS sensor from the road map storage device 104. And based on the information regarding the road contained in map data, the distance to the nearest intersection which exists in a run destination is calculated. Further, the vehicle speed of the host vehicle is detected based on the output from the vehicle speed sensor. When the distance from the vehicle position to the intersection is less than a predetermined distance, for example, 30 m or less, and the vehicle speed of the vehicle is less than the predetermined speed, for example, 40 km / h or less, the display control device 106 Detects that the driver has approached an intersection that requires attention to the monitoring target, and determines that the display condition of the prime video has been satisfied. When the display control device 106 determines that the prime video display condition is satisfied, the display control device 106 displays the prime video generated by the video generation device 105 on the display device 107.

表示制御装置106は、その後、自車位置から交差点までの距離の算出と自車両の車速の検出を継続する。そして、表示制御装置106は、自車両がさらに交差点に接近したタイミングで監視対象映像を表示装置107に表示する。例えば、表示制御装置106は、自車位置から交差点までの距離が3m以下になり、かつ自車両の車速が10km/h以下になったときに、監視対象映像の表示条件が満たされたと判定する。そして、表示制御装置106は、監視対象映像の表示条件が満たされたと判定した場合に、映像合成装置103で合成された合成映像2dを監視対象映像として表示装置107へ表示する。   Thereafter, the display control device 106 continues to calculate the distance from the vehicle position to the intersection and to detect the vehicle speed of the vehicle. Then, the display control device 106 displays the monitoring target image on the display device 107 at a timing when the host vehicle further approaches the intersection. For example, the display control device 106 determines that the display condition of the monitoring target image is satisfied when the distance from the own vehicle position to the intersection is 3 m or less and the vehicle speed of the own vehicle is 10 km / h or less. . When the display control device 106 determines that the display condition of the monitoring target video is satisfied, the display control device 106 displays the synthesized video 2d synthesized by the video synthesizing device 103 on the display device 107 as the monitoring target video.

これによって、運転者が監視対象に対する注意が必要な交差点に接近したときに、あらかじめプライム映像を表示した後に監視対象映像を表示することができ、監視対象映像に含まれる監視対象への運転者の認識性を向上することができる。換言すれば、運転者は運転中に表示装置107の表示内容を長時間注視することができない場合であっても、プライム映像を見てから監視対象映像を見ることによって、短時間の間に監視対象映像に含まれる注意が必要な監視対象を認識することができ、安全性が向上する。   As a result, when the driver approaches an intersection that requires attention to the monitoring target, the monitoring target video can be displayed after the prime video is displayed in advance, and the driver's approach to the monitoring target included in the monitoring target video can be displayed. Recognizability can be improved. In other words, even if the driver cannot watch the display contents of the display device 107 for a long time during driving, the driver can monitor the video in a short time by watching the prime video and then the monitoring target video. It is possible to recognize a monitoring target that requires attention included in the target video, thereby improving safety.

図9は、本実施の形態における車両用監視装置100の処理を示すフローチャートである。図9に示す処理は、車両のイグニションスイッチがオンされることにより、車両用監視装置100の電源がオンされると起動する処理として実行される。   FIG. 9 is a flowchart showing processing of the vehicle monitoring apparatus 100 according to the present embodiment. The process shown in FIG. 9 is executed as a process that starts when the power of the vehicle monitoring apparatus 100 is turned on by turning on the ignition switch of the vehicle.

ステップS10において、映像合成装置103は、上述したように、右カメラ101および左カメラ102から入力された映像の合成を開始する。その後、ステップS20において、映像生成装置105は、上述した(a)〜(e)の内、運転者によって選択されているいずれかのプライム映像の生成を開始する。その後、ステップS30へ進む。   In step S10, the video composition device 103 starts synthesizing the video input from the right camera 101 and the left camera 102 as described above. Thereafter, in step S <b> 20, the video generation device 105 starts generating any one of the prime videos selected by the driver among the above-described (a) to (e). Then, it progresses to step S30.

ステップS30では、表示制御装置106は、運転者によって不図示の映像ソース選択スイッチが操作され、信号が入力されたか否かを判断する。スイッチ信号が入力されたと判断した場合には、ステップS40へ進む。ステップS40では、運転者によるスイッチ操作に応じた映像ソース、例えばナビ画面やテレビ画面へ表示装置107の表示内容を切り替え、ステップS30へ戻る。これに対して、スイッチ信号が入力されていないと判断した場合には、ステップS50へ進む。   In step S30, the display control device 106 determines whether a video source selection switch (not shown) is operated by the driver and a signal is input. If it is determined that a switch signal has been input, the process proceeds to step S40. In step S40, the display content of the display device 107 is switched to a video source corresponding to the switch operation by the driver, for example, a navigation screen or a television screen, and the process returns to step S30. On the other hand, if it is determined that the switch signal is not input, the process proceeds to step S50.

ステップS50では、表示制御装置106は、上述したプライム映像の表示条件が満たされているか否かを判断する。プライム映像の表示条件が満たされていると判断した場合には、ステップS60へ進む。ステップS60では、表示制御装置106は、表示装置107にプライム映像を表示してステップS50へ戻る。これに対して、プライム映像の表示条件が満たされていないと判断した場合には、ステップS70へ進む。   In step S50, the display control apparatus 106 determines whether or not the above-described prime video display conditions are satisfied. If it is determined that the prime video display condition is satisfied, the process proceeds to step S60. In step S60, the display control apparatus 106 displays a prime image on the display apparatus 107, and returns to step S50. On the other hand, if it is determined that the prime video display condition is not satisfied, the process proceeds to step S70.

ステップS70では、表示制御装置106は、上述した監視対象映像の表示条件が満たされているか否かを判断する。監視対象映像の表示条件が満たされていると判断した場合には、ステップS80へ進む。ステップS80では、表示制御装置106は、表示装置107に監視対象映像を表示してステップS70へ戻る。これに対して、監視対象映像の表示条件が満たされていないと判断した場合には、ステップS90へ進む。   In step S <b> 70, the display control apparatus 106 determines whether the display condition of the monitoring target video described above is satisfied. If it is determined that the display condition of the monitoring target video is satisfied, the process proceeds to step S80. In step S80, the display control device 106 displays the monitoring target video on the display device 107 and returns to step S70. On the other hand, if it is determined that the display condition of the monitoring target video is not satisfied, the process proceeds to step S90.

ステップS90では、車両のイグニションスイッチがオフされたか否かを判断する。オフされていないと判断した場合には、ステップS30へ戻って処理を繰り返す。これに対してオフされたと判断した場合には、ステップS100へ進む。ステップS100では、映像生成装置105は、プライム映像の生成を終了してステップS110へ進む。ステップS110では、映像合成装置103は、右カメラ101および左カメラ102から入力される映像の合成を終了して、処理を終了する。   In step S90, it is determined whether or not the ignition switch of the vehicle is turned off. If it is determined that it is not turned off, the process returns to step S30 and the process is repeated. On the other hand, if it is determined that it is turned off, the process proceeds to step S100. In step S100, the video generation device 105 ends the generation of the prime video and proceeds to step S110. In step S110, the video composition device 103 finishes synthesizing the video input from the right camera 101 and the left camera 102, and ends the process.

以上説明した本実施の形態によれば、以下のような作用効果を得ることができる。
(1)監視対象映像を表示する前に、運転者にプライム映像を提示するようにした。これによって、監視対象映像に含まれる監視対象への運転者の認識性を向上することができ、運転者が監視対象を見落とすことを防止することができる。
According to the present embodiment described above, the following operational effects can be obtained.
(1) The prime video is presented to the driver before the monitoring target video is displayed. Thereby, the driver's recognition of the monitoring target included in the monitoring target video can be improved, and the driver can be prevented from overlooking the monitoring target.

(2)運転者が監視対象に対する注意が必要な交差点に接近したときに、プライム映像を表示した後に監視対象映像を表示するようにした。これによって、交差点においては、交差する道路から進入してくる自動車や歩行者など、注意の必要な監視対象が存在する可能性が高くなるが、このような監視対象を短時間の間に認識して安全に運転を行うことができるようになる。また、運転者は運転中は表示装置107の表示内容を長時間注視することができないが、このような場合であっても短時間の間に監視対象映像に含まれる注意が必要な監視対象を認識することができる。 (2) When the driver approaches an intersection that requires attention to the monitored object, the monitored image is displayed after the prime image is displayed. As a result, there is a high possibility that there are monitoring targets that require attention, such as cars and pedestrians entering from the intersecting roads at the intersection, but such monitoring targets are recognized in a short time. And will be able to drive safely. In addition, the driver cannot watch the display contents of the display device 107 for a long time while driving, but even in such a case, a monitoring target that needs attention included in the monitoring target video within a short time is selected. Can be recognized.

(3)合成映像2dに含まれる可能性がある監視対象を図で表したプライム映像、合成映像2dに含まれる可能性がある監視対象を抽象化して表したプライム映像、または合成映像2dに含まれる可能性がある監視対象の動きを表したプライム映像を生成して運転者に提示するようにした。これによって、運転者に対して事前にどのような監視対象に注意すべきかを提示することができる。 (3) Included in a prime video that graphically represents a monitoring target that may be included in the composite video 2d, a prime video that abstractly represents a monitoring target that may be included in the composite video 2d, or a composite video 2d A prime video showing the movement of the monitoring target that can be detected is generated and presented to the driver. As a result, it is possible to present to the driver what kind of monitoring target should be noted in advance.

(4)合成映像2dに含まれる背景を表示したプライム映像、または合成映像2d内で監視対象が出現する可能性が高い領域を示したプライム映像を生成して運転者に提示するようにした。これによって、人間の視覚認知処理は、目で映像をとらえた場合に、大まかな情報から細かい情報へと時間的順番で処理されることを加味して、運転者に監視対象映像の概要を事前に理解させることができる。 (4) A prime video displaying a background included in the composite video 2d or a prime video showing an area where the monitoring target is likely to appear in the composite video 2d is generated and presented to the driver. In this way, human visual cognitive processing gives the driver an overview of the video to be monitored in advance, taking into account that when the video is captured with the eyes, it is processed from rough information to detailed information in time order. Can be understood.

(5)車両の現在位置に応じて読み込まれる地図データの道路に関する情報に基づいて、右側方の道路または左側方の道路から進入してくる可能性がある監視対象を判定するようにし、判定した監視対象に応じた図を表示したプライム映像を生成するようにした。すなわち、監視対象は自車両の現在位置に応じて決定するようにした。これによって、車両の現在位置に応じて、実際の周辺環境に則したプライム映像を生成することができ、このようなプライム映像を事前に提示することによって運転者による監視対象の視認性をさらに向上させることができる。 (5) Based on the information about the road of the map data read according to the current position of the vehicle, the monitoring target that may enter from the road on the right side or the road on the left side is determined. A prime image displaying a figure corresponding to the monitoring target is generated. That is, the monitoring target is determined according to the current position of the host vehicle. As a result, it is possible to generate a prime image according to the actual surrounding environment according to the current position of the vehicle, and further improving the visibility of the monitoring target by the driver by presenting such a prime image in advance. Can be made.

(6)プライム映像を生成するに当たっては、監視対象の表示色や明るさを、現在の時刻のイメージにマッチしたものとなるように、また現在の時刻において実際に見えるものと一致するように変化させるようにした。これによって、プライム映像に含める監視対象や背景の表示色や明るさを、現在の時刻を反映したものとすることができ、このようなプライム映像を事前に提示することによって運転者による監視対象の視認性をさらに向上させることができる。 (6) When generating a prime video, the display color and brightness of the monitoring target are changed so as to match the image of the current time and to match what is actually visible at the current time. I tried to make it. As a result, the monitoring target to be included in the prime image and the display color and brightness of the background can be reflected in the current time. Visibility can be further improved.

―変形例―
なお、上述した実施の形態の車両用監視装置は、以下のように変形することもできる。
(1)上述した実施の形態では、表示制御装置106は、自車両が、運転者が監視対象に対する注意が必要な交差点に接近したことを検出した場合に、プライム映像および監視対象映像を表示装置107へ表示する例について説明した。しかしながら、表示制御装置106は、運転者の運転負荷が高いときには、運転者は表示装置107を見る余裕がないことを加味して、このような場合には表示装置107への表示を行わず、運転者の運転負荷が低いときのみプライム映像および監視対象映像を表示装置107へ表示するようにしてもよい。すなわち、表示制御装置106は、プライム映像の表示条件が満たされたと判定したとき、および監視対象映像の表示条件が満たされたと判定したときには運転者の運転負荷を推定するようにし、運転者の運転負荷が低いと推定した場合のみ、プライム映像および監視対象映像を表示装置107へ表示する。これによって、運転者が表示装置107を見る余裕がないときには、表示装置107への表示を行わないようにし、安全性を向上することができる。また、表示装置107への表示を運転者が表示装置107を見る余裕がある場合のみに限定することによって、処理の負荷を低減することもできる。
-Modification-
The vehicle monitoring apparatus according to the above-described embodiment can be modified as follows.
(1) In the above-described embodiment, the display control device 106 displays the prime video and the monitoring target video when the own vehicle detects that the driver has approached an intersection that requires attention to the monitoring target. The example displayed on 107 has been described. However, the display control device 106 does not perform display on the display device 107 in such a case, considering that the driver cannot afford to see the display device 107 when the driving load of the driver is high. The prime video and the monitoring target video may be displayed on the display device 107 only when the driving load on the driver is low. That is, the display control device 106 estimates the driver's driving load when determining that the display condition of the prime video is satisfied and when determining that the display condition of the monitoring target video is satisfied. Only when it is estimated that the load is low, the prime video and the monitoring target video are displayed on the display device 107. Accordingly, when the driver cannot afford to see the display device 107, the display on the display device 107 is not performed, and safety can be improved. Further, by limiting the display on the display device 107 only when the driver can afford to view the display device 107, the processing load can be reduced.

なお、運転者の運転負荷を推定する方法としては、次のようなものが考えられる。
(推定方法1)車両に、前方を走行している他車両との間の車間距離、および自車両と他車両との相対速度を検出するセンサを搭載しておき、自車両の前方に他車両が存在しており、かつ当該他車両との間の車間距離、および相対速度に基づいて、自車両が他車両に衝突、または急接近する可能性がある場合には、運転者の運転負荷は高いと判定する。一方、この条件に該当しないときには、運転者の運転負荷は低いと判定する。
In addition, the following can be considered as a method for estimating the driving load of the driver.
(Estimation method 1) The vehicle is mounted with a sensor that detects the inter-vehicle distance between the vehicle and another vehicle traveling ahead and the relative speed between the vehicle and the other vehicle. If there is a possibility that the host vehicle may collide with or suddenly approach another vehicle based on the distance between the other vehicle and the relative speed, the driver's driving load is Judge as high. On the other hand, when this condition is not met, it is determined that the driving load on the driver is low.

(推定方法2)運転者の顔を撮影するカメラと、この車内カメラで撮影した映像に基づいて運転者の視線移動を認識する装置とを車両に搭載し、交差点の手前で運転者の視線が前方を見たまま移動しない場合には、運転者の運転負荷は高いと判定する。一方、交差点の手前で運転者が表示装置107を見ようとして視線を移動させた場合には、運転者の運転負荷は低いと判定する。 (Estimation method 2) A camera for photographing the driver's face and a device for recognizing the movement of the driver's line of sight based on an image captured by the in-vehicle camera are mounted on the vehicle, If the vehicle does not move while looking forward, it is determined that the driving load on the driver is high. On the other hand, when the driver moves his / her line of sight to see the display device 107 before the intersection, it is determined that the driving load on the driver is low.

(2)上述した実施の形態では、映像生成装置105は、図3〜図8に示したように、合成映像2dと同じ表示形態でプライム映像を生成する例について説明した。しかしながら、運転者がプライム映像と監視対象映像の区別がつくように、プライム映像の表示形態を監視対象映像の表示形態と異なるものにしてもよい。例えば、図6に示したプライム映像3dにおいては、図10に示すように、右プライム映像3aおよび左プライム映像3bの形状を車窓の形状ではなく正方形または長方形とし、さらにそれぞれの周囲を枠10aで囲むようにする。また、プライム映像3d内に自車両を示す図形3cを表示しないようにする。これによって、運転者は右プライム映像3aおよび左プライム映像3bとして表示した映像が右カメラ101や左カメラ102によって実際に撮影された映像ではなく、背景を描画した図形、またはあらかじめ撮影した背景の写真であることを判別することができ、プライム映像とその後に表示される監視対象映像とを明確に区別することができる。 (2) In the above-described embodiment, the video generation apparatus 105 has been described with reference to the example in which the prime video is generated in the same display form as the composite video 2d as illustrated in FIGS. However, the display mode of the prime video may be different from the display mode of the monitoring target video so that the driver can distinguish between the prime video and the monitoring target video. For example, in the prime video 3d shown in FIG. 6, as shown in FIG. 10, the shape of the right prime video 3a and the left prime video 3b is not a vehicle window shape but a square or a rectangle, and each frame is surrounded by a frame 10a. Enclose. Further, the figure 3c indicating the host vehicle is not displayed in the prime video 3d. As a result, the image displayed as the right prime image 3a and the left prime image 3b is not an image actually captured by the right camera 101 or the left camera 102, but a graphic of a background drawn or a photograph of a background captured in advance. Therefore, it is possible to clearly distinguish the prime video from the monitoring target video displayed thereafter.

(3)上述した実施の形態では、車両用監視装置100は車両に搭載される例について説明した。しかしこれに限定されず、車両用監視装置100をその他の移動体に搭載するようにしてもよい。 (3) In embodiment mentioned above, the monitoring apparatus 100 for vehicles demonstrated the example mounted in a vehicle. However, the present invention is not limited to this, and the vehicle monitoring apparatus 100 may be mounted on another moving body.

なお、本発明の特徴的な機能を損なわない限り、本発明は、上述した実施の形態における構成に何ら限定されない。   Note that the present invention is not limited to the configurations in the above-described embodiments as long as the characteristic functions of the present invention are not impaired.

特許請求の範囲の構成要素と実施の形態との対応関係について説明する。右カメラ101および左カメラ102は撮影手段に、映像合成装置103は監視対象映像生成手段に相当する。映像生成装置105は事前表示映像生成手段に、表示制御装置106は表示制御手段および推定手段に相当する。なお、以上の説明はあくまでも一例であり、発明を解釈する際、上記の実施形態の記載事項と特許請求の範囲の記載事項の対応関係に何ら限定も拘束もされない。   The correspondence between the constituent elements of the claims and the embodiment will be described. The right camera 101 and the left camera 102 correspond to a photographing unit, and the video composition device 103 corresponds to a monitoring target video generation unit. The video generation device 105 corresponds to a preliminary display video generation unit, and the display control unit 106 corresponds to a display control unit and an estimation unit. The above description is merely an example, and when interpreting the invention, there is no limitation or restriction on the correspondence between the items described in the above embodiment and the items described in the claims.

車両用監視装置の一実施の形態の構成を示すブロック図である。It is a block diagram which shows the structure of one Embodiment of the monitoring apparatus for vehicles. 監視対象映像の具体例を示す図である。It is a figure which shows the specific example of the monitoring object image | video. プライム映像の具体例を示す第1の図である。It is a 1st figure which shows the specific example of a prime image | video. プライム映像の具体例を示す第2の図である。It is a 2nd figure which shows the specific example of a prime image | video. プライム映像の具体例を示す第3の図である。It is a 3rd figure which shows the specific example of a prime image | video. プライム映像の具体例を示す第4の図である。It is a 4th figure which shows the specific example of a prime image | video. プライム映像の具体例を示す第5の図である。It is a 5th figure which shows the specific example of a prime image | video. プライム映像の具体例を示す第6の図である。It is a 6th figure which shows the specific example of a prime image | video. 車両用監視装置100の処理を示すフローチャート図である。It is a flowchart figure which shows the process of the monitoring apparatus 100 for vehicles. プライム映像の具体例を示す第7の図である。It is a 7th figure which shows the specific example of a prime image | video.

符号の説明Explanation of symbols

100 車両用監視装置
101 右カメラ
102 左カメラ
103 映像合成装置
104 道路地図記憶装置
105 映像生成装置
106 表示制御装置
107 表示装置
DESCRIPTION OF SYMBOLS 100 Vehicle monitoring apparatus 101 Right camera 102 Left camera 103 Image composition apparatus 104 Road map storage apparatus 105 Image generation apparatus 106 Display control apparatus 107 Display apparatus

Claims (12)

車両の進行方向に対して左右方向を撮影する撮影手段と、
前記撮像手段により撮影された映像に基づいて、運転者に提示するための監視対象映像を生成する監視対象映像生成手段と、
前記監視対象映像生成手段で生成した前記監視対象映像に含まれる監視対象の運転者による認識性を向上させる事前表示映像を生成する事前表示映像生成手段と、
前記事前表示映像生成手段で生成した前記事前表示映像を表示した後に、前記監視対象映像生成手段で生成した前記監視対象映像を表示する表示制御手段とを備えることを特徴とする車両用監視装置。
Photographing means for photographing the left-right direction with respect to the traveling direction of the vehicle;
Monitoring target video generation means for generating a monitoring target video for presentation to the driver based on the video shot by the imaging means;
Pre-display video generation means for generating a pre-display video for improving the recognizability by the monitoring target driver included in the monitoring target video generated by the monitoring target video generation means;
A vehicle monitoring system comprising: display control means for displaying the monitoring target video generated by the monitoring target video generation means after displaying the preliminary display video generated by the preliminary display video generation means. apparatus.
請求項1に記載の車両用監視装置において、
前記事前表示映像は、前記監視対象映像に含まれる可能性がある監視対象の映像を含むことを特徴とする車両用監視装置。
The vehicle monitoring device according to claim 1,
The vehicular monitoring apparatus, wherein the prior display video includes a video to be monitored that may be included in the video to be monitored.
請求項1または2に記載の車両用監視装置において、
前記事前表示映像は、前記監視対象映像に含まれる可能性がある監視対象を抽象化した映像を含むことを特徴とする車両用監視装置。
The vehicle monitoring device according to claim 1 or 2,
The vehicle monitoring apparatus, wherein the pre-display video includes a video obtained by abstracting a monitoring target that may be included in the monitoring target video.
請求項1〜3のいずれか一項に記載の車両用監視装置において、
前記監視対象映像に含まれる可能性がある監視対象は、車両の現在位置に応じて決定されることを特徴とする車両用監視装置。
In the monitoring device for vehicles according to any one of claims 1 to 3,
The vehicle monitoring apparatus, wherein a monitoring target that may be included in the monitoring target video is determined according to a current position of the vehicle.
請求項1〜4のいずれか一項に記載の車両用監視装置において、
前記事前表示映像は、前記監視対象映像に含まれる背景の映像を含むことを特徴とする車両用監視装置。
In the vehicle monitoring device according to any one of claims 1 to 4,
The vehicle monitoring apparatus, wherein the prior display image includes a background image included in the monitoring target image.
請求項1〜5のいずれか一項に記載の車両用監視装置において、
前記事前表示映像生成手段は、現在時刻に応じて、前記事前表示映像内に含む前記監視対象または前記背景の色および/または明るさを変化させることを特徴とする車両用監視装置。
In the monitoring apparatus for vehicles as described in any one of Claims 1-5,
The vehicular monitoring device, wherein the prior display video generation means changes the color and / or brightness of the monitoring target or the background included in the prior display video according to a current time.
請求項1〜6のいずれか一項に記載の車両用監視装置において、
前記事前表示映像は、前記監視対象映像内で前記監視対象が出現する可能性が高い領域を表示した映像を含むことを特徴とする車両用監視装置。
In the vehicle monitoring device according to any one of claims 1 to 6,
The vehicular monitoring device, wherein the pre-display video includes a video displaying an area where the monitoring target is likely to appear in the monitoring target video.
請求項1〜7のいずれか一項に記載の車両用監視装置において、
前記事前表示映像は、前記監視対象映像内に含まれる監視対象の予測される動きを表示した映像を含むことを特徴とする車両用監視装置。
In the monitoring apparatus for vehicles as described in any one of Claims 1-7,
The vehicular monitoring apparatus, wherein the prior display video includes a video displaying a predicted motion of a monitoring target included in the monitoring target video.
請求項1〜8のいずれか一項に記載の車両用監視装置において、
前記表示制御手段は、車両が交差点へ接近したことを検出したときに、前記事前表示映像および前記監視対象映像を表示することを特徴とする車両用監視装置。
In the vehicle monitoring device according to any one of claims 1 to 8,
The vehicle monitoring apparatus, wherein the display control means displays the preliminary display video and the monitoring target video when detecting that the vehicle approaches the intersection.
請求項9に記載の車両用監視装置において、
前記表示制御手段は、自車位置から交差点までの距離が所定の距離以下となり、かつ車両の車速が所定速度以下になったときに、車両が交差点へ接近したことを検出することを特徴とする車両用監視装置。
The vehicle monitoring device according to claim 9, wherein
The display control means detects that the vehicle has approached the intersection when the distance from the vehicle position to the intersection is equal to or less than a predetermined distance and the vehicle speed is equal to or less than the predetermined speed. Vehicle monitoring device.
請求項1〜10のいずれか一項に記載の車両用監視装置において、
運転者の運転負荷を推定する推定手段をさらに備え、
前記表示制御手段は、前記推定手段によって運転者の運転負荷が低いと推定された場合のみ、前記事前表示映像および前記監視対象映像を表示することを特徴とする車両用監視装置。
In the vehicle monitoring device according to any one of claims 1 to 10,
An estimation means for estimating the driving load of the driver;
The vehicle monitoring apparatus, wherein the display control means displays the preliminary display video and the monitoring target video only when the estimation means estimates that the driver's driving load is low.
請求項1〜11のいずれか一項に記載の車両用監視装置において、
前記表示制御手段は、前記事前表示映像の表示形態と前記監視対象映像の表示形態とを変化させることを特徴とする車両用監視装置。
In the vehicle monitoring device according to any one of claims 1 to 11,
The vehicle monitoring apparatus, wherein the display control means changes a display form of the preliminary display video and a display form of the monitoring target video.
JP2006189586A 2006-07-10 2006-07-10 Vehicle monitoring device Expired - Fee Related JP4961868B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006189586A JP4961868B2 (en) 2006-07-10 2006-07-10 Vehicle monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006189586A JP4961868B2 (en) 2006-07-10 2006-07-10 Vehicle monitoring device

Publications (2)

Publication Number Publication Date
JP2008022064A true JP2008022064A (en) 2008-01-31
JP4961868B2 JP4961868B2 (en) 2012-06-27

Family

ID=39077734

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006189586A Expired - Fee Related JP4961868B2 (en) 2006-07-10 2006-07-10 Vehicle monitoring device

Country Status (1)

Country Link
JP (1) JP4961868B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2085892A1 (en) 2008-01-31 2009-08-05 SANYO Electric Co., Ltd. Processing circuit
JP2009264860A (en) * 2008-04-24 2009-11-12 Denso It Laboratory Inc Navigation device, navigation method, and program
JP2011079428A (en) * 2009-10-07 2011-04-21 Isuzu Motors Ltd Display device for vehicle
JP2011201365A (en) * 2010-03-24 2011-10-13 Denso Corp Vehicular display device
JP2016502479A (en) * 2012-12-07 2016-01-28 ボルボトラックコーポレーション Vehicle equipment, method for controlling vehicle equipment, and computer program
JP2021086229A (en) * 2019-11-25 2021-06-03 パイオニア株式会社 Display control device, display control method, and display control program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06278531A (en) * 1993-03-25 1994-10-04 Honda Motor Co Ltd Visual recognition assisting device for vehicle
JP2002225628A (en) * 2001-02-02 2002-08-14 Nissan Motor Co Ltd Display device for vehicle
JP2003337040A (en) * 2002-05-17 2003-11-28 Alpine Electronics Inc Method for displaying three-dimensional map
JP2005125828A (en) * 2003-10-21 2005-05-19 Fujitsu Ten Ltd Vehicle surrounding visually confirming system provided with vehicle surrounding visually confirming device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06278531A (en) * 1993-03-25 1994-10-04 Honda Motor Co Ltd Visual recognition assisting device for vehicle
JP2002225628A (en) * 2001-02-02 2002-08-14 Nissan Motor Co Ltd Display device for vehicle
JP2003337040A (en) * 2002-05-17 2003-11-28 Alpine Electronics Inc Method for displaying three-dimensional map
JP2005125828A (en) * 2003-10-21 2005-05-19 Fujitsu Ten Ltd Vehicle surrounding visually confirming system provided with vehicle surrounding visually confirming device

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2085892A1 (en) 2008-01-31 2009-08-05 SANYO Electric Co., Ltd. Processing circuit
JP2009264860A (en) * 2008-04-24 2009-11-12 Denso It Laboratory Inc Navigation device, navigation method, and program
JP2011079428A (en) * 2009-10-07 2011-04-21 Isuzu Motors Ltd Display device for vehicle
JP2011201365A (en) * 2010-03-24 2011-10-13 Denso Corp Vehicular display device
JP2016502479A (en) * 2012-12-07 2016-01-28 ボルボトラックコーポレーション Vehicle equipment, method for controlling vehicle equipment, and computer program
US10179510B2 (en) 2012-12-07 2019-01-15 Volvo Truck Corporation Vehicle arrangement, method and computer program for controlling the vehicle arrangement
JP2021086229A (en) * 2019-11-25 2021-06-03 パイオニア株式会社 Display control device, display control method, and display control program

Also Published As

Publication number Publication date
JP4961868B2 (en) 2012-06-27

Similar Documents

Publication Publication Date Title
US8878934B2 (en) Image display device
US9589194B2 (en) Driving assistance device and image processing program
JP4807263B2 (en) Vehicle display device
JP3886376B2 (en) Vehicle perimeter monitoring system
US11721213B1 (en) Displaying sensor data and supplemental data as a mask for autonomous vehicles
JP2016055674A (en) Vehicle display
JP4961868B2 (en) Vehicle monitoring device
CN106515583A (en) Driver information method
JP2005242606A (en) Image generation system, image generation program and image generation method
JP5426900B2 (en) In-vehicle system
US20200249044A1 (en) Superimposed-image display device and computer program
JP2009227245A (en) Operation device for on-vehicle equipment
JP2007102798A (en) Vehicle circumference monitoring system
JP2008030729A (en) Vehicular display device
JP2021044751A (en) Periphery monitoring device
JP2012153256A (en) Image processing apparatus
JP2004147083A (en) Driving support apparatus
US20210327113A1 (en) Method and arrangement for producing a surroundings map of a vehicle, textured with image information, and vehicle comprising such an arrangement
JP2005038225A (en) Lane follow-up device
JPWO2018042976A1 (en) IMAGE GENERATION DEVICE, IMAGE GENERATION METHOD, RECORDING MEDIUM, AND IMAGE DISPLAY SYSTEM
JP3968720B2 (en) Image display device for vehicle
US20230373309A1 (en) Display control device
JP2009230225A (en) Periphery monitoring device for vehicle
JP2006330360A (en) Information display for vehicle
JP2009246808A (en) Surrounding monitoring device for vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120228

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120312

R150 Certificate of patent or registration of utility model

Ref document number: 4961868

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150406

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees