JP5093611B2 - Vehicle periphery confirmation device - Google Patents

Vehicle periphery confirmation device Download PDF

Info

Publication number
JP5093611B2
JP5093611B2 JP2008306613A JP2008306613A JP5093611B2 JP 5093611 B2 JP5093611 B2 JP 5093611B2 JP 2008306613 A JP2008306613 A JP 2008306613A JP 2008306613 A JP2008306613 A JP 2008306613A JP 5093611 B2 JP5093611 B2 JP 5093611B2
Authority
JP
Japan
Prior art keywords
image
obstacle
mirror
blind spot
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008306613A
Other languages
Japanese (ja)
Other versions
JP2010130647A (en
Inventor
昇 長嶺
一矢 渡邊
淳 門脇
剛 内藤
義 浅野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2008306613A priority Critical patent/JP5093611B2/en
Publication of JP2010130647A publication Critical patent/JP2010130647A/en
Application granted granted Critical
Publication of JP5093611B2 publication Critical patent/JP5093611B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、撮影部によって取得された車両周辺の撮影画像を利用して車両周辺における障害物を確認する装置に関する。   The present invention relates to an apparatus for confirming an obstacle around a vehicle using a photographed image around the vehicle acquired by a photographing unit.

車両に設置され、車両の周辺を広視野に撮影するための広視野レンズを有するカメラと、カメラにより広視野レンズを介して撮影された撮影画像から所定範囲の画像を抽出する画像抽出手段と、画像抽出手段により抽出された抽出画像を表示する表示手段と、車両の周辺の障害物を検出する障害物検出手段とを備え、障害物検出手段が検出した障害物の存在する方向に対応する画像を撮影画像から抽出して表示部に拡大して表示する車両用モニタ装置が知られている(例えば、特許文献1参照)。より詳しく説明すると、通常時には、カメラの撮影画像全体、撮影画像の中央下部抽出画像、撮影画像の右下部抽出画像、撮影画像の左下部抽出画が所定時間ずつ順次繰り返し表示される。そこで、右側のバックソナーで障害物が検出されると、画像メモリに記憶されている撮影画像の内、左側の予め設定されている範囲の画像が抽出され(カメラが車両の後方に向けて設置されているので、車両の後方右側に位置する障害物は撮影画像の左側に撮影されている)、表示画面一杯に拡大して表示される。左側のバックソナーで障害物が検出されると、撮影画像の内、右側の予め設定されている範囲の画像が抽出され、表示画面一杯に拡大して表示される。なお、その際、表示画面の所定位置(例えば、画面右上)に小さな補助画面を設けて、車両位置と抽出画像に対応する撮影範囲を表示することも提案されている。しかしながら、この車両用モニタ装置では、モニタ表示用撮影画像から検出された障害物が映っている部分の画像を抽出してその部分を拡大表示する方法を採用しているので、障害物がモニタ表示されている撮影画像内に入っていないと死角障害物画像を表示することができない。この問題を避けるため、撮影視野を広くすると、通常時においては重要となる撮影中央付近の画像領域がモニタ表示面積に比べて相対的に小さくなってしまってモニタ表示画像を通じての周囲状態の確認が難しくなるという不都合が生じる   A camera that is installed in a vehicle and has a wide-field lens for photographing the periphery of the vehicle with a wide field of view; and an image extracting unit that extracts an image of a predetermined range from a photographed image photographed by the camera through the wide-field lens; An image corresponding to the direction of the obstacle detected by the obstacle detection means, comprising display means for displaying the extracted image extracted by the image extraction means and obstacle detection means for detecting obstacles around the vehicle. There is known a vehicle monitor device that extracts a photographed image and displays it on a display unit in an enlarged manner (see, for example, Patent Document 1). More specifically, in the normal state, the entire captured image of the camera, the lower center extracted image of the captured image, the lower right extracted image of the captured image, and the lower left extracted image of the captured image are repeatedly displayed in sequence for a predetermined time. Therefore, when an obstacle is detected by the right back sonar, an image in a preset range on the left side is extracted from the captured images stored in the image memory (the camera is installed facing the rear of the vehicle). Therefore, the obstacle located on the right rear side of the vehicle is photographed on the left side of the photographed image), and is enlarged and displayed on the full display screen. When an obstacle is detected by the left back sonar, an image of a preset range on the right side of the photographed image is extracted and enlarged and displayed on the full display screen. At this time, it has also been proposed to provide a small auxiliary screen at a predetermined position on the display screen (for example, the upper right of the screen) to display the shooting range corresponding to the vehicle position and the extracted image. However, since this vehicle monitor apparatus employs a method of extracting an image of a portion where an obstacle detected from the monitor display photographed image is displayed and displaying the enlarged portion, the obstacle is displayed on the monitor. The blind spot obstacle image cannot be displayed unless it is within the captured image. In order to avoid this problem, if the field of view is widened, the image area near the center of photographing, which is important in normal times, becomes relatively smaller than the monitor display area, and the surrounding state can be confirmed through the monitor display image. The inconvenience that it becomes difficult occurs

また、車室内の所定位置に配され反射面がハーフミラーによって構成されるとともにこのハーフミラーの背後にハーフミラーの前面側から見ることができるように画像を表示する画像表示用ディスプレイが設けられたルームミラー(バックミラー)と、このルームミラー上に定義された座標系における視点座標を検出する視点相対位置検出手段と、この視点相対位置検出手段によって検出された視点座標に基づいて画像表示用ディスプレイでの画像表示形態を制御する表示形態制御手段とを備えた画像表示装置も知られている(例えば、特許文献2参照)。さらにこの画像表示装置の前記画像表示用ディスプレイには車外を撮像するカメラの出力である画像が表示され、その際、表示形態制御手段はルームミラーの位置姿勢及び運転者の視点位置に基づいて運転者の死角となる観察領域を認識し、この認識された観察領域に対応する車外の画像が画像表示用ディスプレイに表示される。このような画像表示装置によれば、カメラで取得したリアウィンドウ方向の景観画像をルームミラーに映される鏡像と重ね合わせることで、運転席、助手席、リアシート、リアウィンドウ枠などのために生じる死角のため鏡像からは見ることができなかった死角景観をカメラ画像によって確認することができる。しかしながら、この画像表示装置においても、運転者がこのルームミラーを通じて確認することができる視野はルームミラーの鏡像特性によって規定されている。つまり、ルームミラーの鏡像範囲の外側の景色を見ることはできない。   In addition, an image display for displaying an image so as to be seen from the front side of the half mirror is provided behind the half mirror. Room mirror (back mirror), viewpoint relative position detecting means for detecting viewpoint coordinates in a coordinate system defined on the room mirror, and an image display based on the viewpoint coordinates detected by the viewpoint relative position detecting means There is also known an image display device provided with a display form control means for controlling the image display form in (see, for example, Patent Document 2). Further, the image display display of the image display device displays an image that is an output of a camera that captures the outside of the vehicle, and the display mode control means drives based on the position and orientation of the rearview mirror and the viewpoint position of the driver. An observation area that becomes a blind spot of the person is recognized, and an image outside the vehicle corresponding to the recognized observation area is displayed on the image display. According to such an image display device, a landscape image in the rear window direction obtained by the camera is superimposed on a mirror image projected on the rearview mirror, thereby generating a driver seat, a passenger seat, a rear seat, a rear window frame, and the like. The blind spot landscape that could not be seen from the mirror image due to the blind spot can be confirmed by the camera image. However, also in this image display device, the field of view that can be confirmed by the driver through the room mirror is defined by the mirror image characteristics of the room mirror. In other words, it is not possible to see the scenery outside the mirror image range of the room mirror.

さらに、車両の後方の異なる領域を撮影する複数のビデオカメラと、車両の後方を運転者が監視するインサイドミラーと、このインサイドミラーの近傍に取付けられてビデオカメラが撮影した映像が鏡像として表示される表示装置とを備え、インサイドミラーのミラー面を透過性ハーフミラーで構成し、ハーフミラーで隠れるインサイドミラーの内部に配置し、表示装置に複数の後方撮影用ビデオカメラが撮影した映像を個別又は合成して同時に表示させる車両用監視装置が知られている(例えば、特許文献3参照)。この車両用監視装置では、撮影方向が異なる複数のカメラからの画像を選択的に表示装置に表示することができるが、設定された領域毎にカメラが必要となる。また、カメラによって撮影される各領域は固定されているので、表示装置に表示される画像の視野が常に一定となり、歩行者など任意の位置に生じる障害物に照準を合わせた画像を表示することは不可能で、そのような障害物の確認には適していない。
また、ミラーによる鏡像は、撮影画像のモニタ表示などに比べて解像度等の問題がなく、視認性に優れたものであることから、車両後方確認などにおいては、できるだけミラーを優先的に利用することも重要である。
In addition, multiple video cameras that capture different areas behind the vehicle, an inside mirror that the driver monitors the back of the vehicle, and images captured by the video camera attached near the inside mirror are displayed as mirror images. The mirror surface of the inside mirror is composed of a transmissive half mirror, and is arranged inside the inside mirror that is hidden by the half mirror, and the images taken by a plurality of rear-view video cameras are individually or There is known a vehicle monitoring device that combines and simultaneously displays (see, for example, Patent Document 3). In this vehicle monitoring apparatus, images from a plurality of cameras having different shooting directions can be selectively displayed on the display device, but a camera is required for each set region. In addition, since each area photographed by the camera is fixed, the field of view of the image displayed on the display device is always constant, and an image aiming at an obstacle generated at an arbitrary position such as a pedestrian is displayed. Is not possible and is not suitable for identifying such obstacles.
In addition, mirror images with mirrors have no problems in terms of resolution, etc. compared to monitor display of captured images, etc. and are excellent in visibility. It is also important.

特開2003−143596号公報(段落番号0005−0026、図4、図5)Japanese Patent Laying-Open No. 2003-143596 (paragraph numbers 0005-0026, FIGS. 4 and 5) 特開2005−335410号公報(段落番号0049−0057、図1、図8)JP 2005-335410 A (paragraph numbers 0049-0057, FIGS. 1 and 8) 特開2002−225629号公報(段落番号0010−0034、図3、図6)JP 2002-225629 A (paragraph numbers 0010-0034, FIGS. 3 and 6)

上記実状に鑑み、本発明の目的は、後方景色などの車両周囲の鏡像を映しているミラーを通じて車両周辺に存在する障害物を運転者に効果的に気づかせることができる車両周辺装置を提供することである。その際、車両周囲の確認におけるミラーが有する本来の優れた特性をできるだけ生かすことも重要である。     In view of the above situation, an object of the present invention is to provide a vehicle peripheral device capable of effectively notifying a driver of obstacles existing around the vehicle through a mirror that reflects a mirror image of the vehicle periphery such as a rear view. That is. At that time, it is also important to make the best use of the excellent characteristics of the mirror in checking the surroundings of the vehicle.

上記目的を達成するため、本発明に係る車両周辺確認装置の特徴構成は、車両周辺の撮影画像を取得する撮影部と、車両に設置され、鏡像表示領域の一部に前記撮影画像を表示できる画像表示領域が形成されている車両後方を確認するためのミラーと、車両周辺の障害物を検出して当該障害物の位置を算出する障害物認識部と、前記障害物の位置が前記ミラーの死角領域に入っているかを判定する死角判定部と、前記死角領域に入っている障害物の画像領域を死角障害物画像として前記撮影画像から切り出す画像切り出し部と、前記死角判定部が前記障害物の位置が前記ミラーの死角領域に入っていると判定したときに前記死角障害物画像を前記ミラーの前記画像表示領域に表示する表示画像制御部とを備えていることである。 In order to achieve the above object, the vehicle periphery confirmation apparatus according to the present invention has a characteristic configuration that includes a photographing unit that obtains a photographed image around the vehicle and a vehicle that can display the photographed image in a part of the mirror image display area. A mirror for confirming the rear of the vehicle where the image display area is formed, an obstacle recognition unit for detecting an obstacle around the vehicle and calculating the position of the obstacle, and the position of the obstacle is the position of the mirror A blind spot determination unit that determines whether the blind spot area is entered, an image cutout unit that cuts out an image area of the obstacle in the blind spot area from the captured image as a blind spot obstacle image, and the blind spot determination unit includes the obstacle And a display image control unit that displays the blind spot obstacle image in the image display area of the mirror when it is determined that the position is within the blind spot area of the mirror.

この特徴構成によれば、運転者が、車両周辺の状況を確認しながらの安全走行のために車載のミラーに映っている鏡像を注視しているときに、障害物認識部による障害物の認識プロセスが実行されている。そして、障害物認識部によって認識された障害物が予め設定されているミラーの死角となる周辺領域、つまり死角領域に入っているとみなされると、撮影画像におけるその障害物を映し出している画像領域が死角障害物画像として撮影画像から切り出される。この切り出された死角障害物画像はミラーに形成されている画像表示領域に表示されるので、運転者はミラーを通じて、ミラーに映っている鏡像の外側領域(死角領域)に障害物が存在していることに気づくことができ、予備的な危険回避行為を行うことができる。このように、本発明による車両周辺装置では、限定された車両周囲の景色を鏡像として映しているミラーを通じて車両周辺に存在しているがミラーの死角領域に突然現れた障害物を運転者に効果的に気づかせることができる。また、鏡像表示領域の一部に画像表示領域が形成されていることは、死角障害物画像が表示されたときでも少なくともミラー鏡像の一部は視認可能に残されていることになるので、車両周囲の確認におけるミラーが有する視認性も少なくとも部分的には維持される。   According to this feature configuration, when the driver is gazing at the mirror image displayed on the in-vehicle mirror for safe driving while checking the situation around the vehicle, the obstacle recognition unit recognizes the obstacle. The process is running. Then, if the obstacle recognized by the obstacle recognition unit is considered to be in a peripheral area that is a blind spot of a preset mirror, that is, a blind spot area, an image area that shows the obstacle in the captured image Is cut out from the captured image as a blind spot obstacle image. Since the cut-out blind spot obstacle image is displayed in the image display area formed on the mirror, the driver passes through the mirror and there is an obstacle in the outer area (dead spot area) of the mirror image reflected in the mirror. And can perform preliminary risk avoidance actions. As described above, in the vehicle peripheral device according to the present invention, the obstacle that is present in the vehicle periphery through the mirror that reflects the limited scenery around the vehicle but appears suddenly in the blind spot area of the mirror is effective for the driver. Can be noticed. In addition, the fact that the image display area is formed in a part of the mirror image display area means that at least a part of the mirror mirror image remains visible even when the blind spot obstacle image is displayed. The visibility of the mirror in the surrounding confirmation is also maintained at least partially.

また、本発明に係る車両周辺確認装置における特徴構成として、前記障害物認識部を、前記撮影画像に対する画像処理によって障害物を認識するように構成することも好適である。時間経過とともに送られてくる撮影部からの撮影画像から、例えば、オプティカルフロー法や背景差分法や動きベクトル法などの物体検知アルゴリズムを用いて、物体つまり障害物を認識することが可能である。モニタ表示のために取得される撮影画像を用いて障害物の認識ができるので、障害物認識のために撮影画像を用意する必要がない。また、撮影画像から障害物の認識を行い、その障害物の画像座標位置を特定するので、その位置は撮影画像における障害物の画像領域を規定する画像座標位置置として直接利用することができる。さらに、車両の移動ベクトルを取得できる場合、障害物の移動方位も算定可能となる。   As a characteristic configuration in the vehicle periphery confirmation device according to the present invention, it is also preferable that the obstacle recognition unit is configured to recognize an obstacle by image processing on the captured image. It is possible to recognize an object, that is, an obstacle, from an image taken from the imaging unit sent with the passage of time using an object detection algorithm such as an optical flow method, a background difference method, or a motion vector method. Obstacles can be recognized using captured images acquired for monitor display, so it is not necessary to prepare captured images for obstacle recognition. Further, since the obstacle is recognized from the photographed image and the image coordinate position of the obstacle is specified, the position can be directly used as an image coordinate position defining the image area of the obstacle in the photographed image. Furthermore, when the movement vector of the vehicle can be acquired, the moving direction of the obstacle can be calculated.

本発明の好適な実施形態の1つでは、前記ミラーに写されているミラー鏡像の視野中心を基準とした前記障害物の左右位置が求められ、当該左右位置に対応する前記画像表示領域の位置に前記死角障害物画像が表示されるように構成されている。このような特徴構成では、障害物がミラーの死角領域で認識されたときに、ミラーに突然表示される死角障害物画像がミラーの左右どちら側に表示されているかにより、その障害物がミラーに映されている鏡像の左外側領域かあるいは右外領域に存在しているかを即座に理解することができる。   In one preferred embodiment of the present invention, the left-right position of the obstacle is obtained with reference to the center of the field of view of the mirror image reflected on the mirror, and the position of the image display area corresponding to the left-right position is determined. The blind spot obstacle image is displayed on the screen. In such a characteristic configuration, when an obstacle is recognized in the blind spot area of the mirror, the obstacle is displayed on the mirror depending on which side of the mirror the blind spot obstacle image suddenly displayed on the mirror is displayed. It is possible to immediately understand whether the mirror image is present in the left outer region or the right outer region.

ミラーの死角領域の外側に存在する障害物は、車両から離れていく方向に動いている場合は危険性が低く、車両に近づいている場合は危険性が高い。従って、このことを運転者に直感的に理解させることは重要である。これを実現するため、本発明の好適な実施形態の1つでは、前記死角障害物画像とともに前記障害物の車両への接近方向を示す指標が前記画像表示領域に表示される構成を採用している。このような障害物の動き方向は、障害物認識のための物体検知アルゴリズムとして前述したオプティカルフロー法や背景差分法や動きベクトル法などを採用している場合には簡単に得られるので、好都合である。   Obstacles present outside the blind spot area of the mirror are less dangerous when moving away from the vehicle and are more dangerous when approaching the vehicle. Therefore, it is important for the driver to understand this intuitively. In order to achieve this, one of the preferred embodiments of the present invention employs a configuration in which an index indicating the approaching direction of the obstacle to the vehicle is displayed in the image display area together with the blind spot obstacle image. Yes. Such an obstacle movement direction can be easily obtained when the above-described optical flow method, background difference method, motion vector method, or the like is adopted as an object detection algorithm for obstacle recognition. is there.

以下、本発明の実施形態を図面に基づいて説明する。
本発明の車両周辺確認装置は、図1に示すように、ここでは乗用車である車両1に設置され、車両1の周辺を撮像する撮像部としてのカメラ2によって取得された撮影画像を利用して、運転者が車両周辺の状況を確認するのを支援するものである。また、図2に示すように、運転者が前方以外の車両周辺を確認するため車両周辺景色の鏡像を映し出す鏡像表示領域を有するミラーとして、車両後方を確認するバックミラー5及び後方中央領域を確認するためのバックミラー5及び左側後方領域を確認する左ドアミラー6aと右側後方領域を確認する左ドアミラー6bからなるドアミラー6が備えられている。この実施の形態では、カメラ2は、車両1の後部に設置されており、車両後方を撮影視野としている。カメラ2によって取得された撮影画像は、車両周辺確認コントローラ3によって画像処理を施され、好ましくは液晶ディスプレイ4や有機ELディスプレイ等のフラットパネルディスプレイによって構成される表示装置に表示される。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
As shown in FIG. 1, the vehicle periphery confirmation apparatus according to the present invention is installed in a vehicle 1 that is a passenger car here, and uses a captured image acquired by a camera 2 as an imaging unit that captures the periphery of the vehicle 1. This assists the driver in confirming the situation around the vehicle. In addition, as shown in FIG. 2, the rear mirror 5 and the rear center area for confirming the rear of the vehicle are confirmed as a mirror having a mirror image display area for displaying a mirror image of the scenery around the vehicle so that the driver can confirm the surroundings of the vehicle other than the front There are provided a rearview mirror 5 and a left door mirror 6a for confirming the left rear region and a door mirror 6 comprising a left door mirror 6b for confirming the right rear region. In this embodiment, the camera 2 is installed in the rear part of the vehicle 1 and uses the rear side of the vehicle as an imaging field of view. The captured image acquired by the camera 2 is subjected to image processing by the vehicle periphery confirmation controller 3 and is preferably displayed on a display device constituted by a flat panel display such as a liquid crystal display 4 or an organic EL display.

図3で模式的に示すように、この液晶ディスプレイ4とバックミラー5はハウジング5aによって一体化されている。つまり、この実施形態では、このバックミラー5にはハーフミラーが使用されており、バックミラー5の裏面側に液晶ディスプレイ4を構成する液晶パネル4a及びバックライト部4bが配置され、ハウジング5aによってカバーされている。ハウジング5aの内部が暗いときバックミラー5は外部の入力光を反射して鏡像を映し出すミラーとして機能し、バックライト部4bによってハウジング5aの内部が明るくされている領域はミラーとして機能しなくなる。この構成により、バックミラー5において液晶ディスプレイ4によって画像が表示される領域では、ミラーとしての機能が失われて画像表示領域として機能する。この実施形態では、バックミラー5の鏡面と液晶ディスプレイ4の液晶面とが実質的に一致するように形成されているので、ミラー鏡像の表示領域と画像表示領域はほぼ同一である。但し、液晶の駆動制御により、実際に画像が表示される画像表示領域の大きさと位置は任意に設定することができる。例えば、右端の部分領域や左端の部分領域に画像を表示させ、それ以外の領域にミラー鏡像を映すことが可能である。このようなミラーの構成は、前述した特許文献1(特開2005−335410号公報)や特許文献2(特開2002−225629号公報)に詳しく説明されているので、ここではこれ以上の説明は省略する。   As schematically shown in FIG. 3, the liquid crystal display 4 and the rearview mirror 5 are integrated by a housing 5a. In other words, in this embodiment, a half mirror is used for the rearview mirror 5, and the liquid crystal panel 4a and the backlight portion 4b constituting the liquid crystal display 4 are disposed on the rear surface side of the rearview mirror 5, and are covered by the housing 5a. Has been. When the interior of the housing 5a is dark, the rearview mirror 5 functions as a mirror that reflects external input light and displays a mirror image, and the region where the interior of the housing 5a is brightened by the backlight portion 4b does not function as a mirror. With this configuration, in the area where the image is displayed by the liquid crystal display 4 in the rearview mirror 5, the function as a mirror is lost and the area functions as an image display area. In this embodiment, since the mirror surface of the rearview mirror 5 and the liquid crystal surface of the liquid crystal display 4 are formed to substantially coincide with each other, the mirror mirror image display area and the image display area are substantially the same. However, the size and position of the image display area where an image is actually displayed can be arbitrarily set by driving the liquid crystal. For example, it is possible to display an image in the rightmost partial area or the leftmost partial area and project a mirror mirror image in other areas. The configuration of such a mirror is described in detail in the above-mentioned Patent Document 1 (Japanese Patent Laid-Open No. 2005-335410) and Patent Document 2 (Japanese Patent Laid-Open No. 2002-225629). Omitted.

バックミラー5は角度変更機構9を介して車両1の天井部に取り付けられており、運転席に座った運転者の好みによってバックミラー5の角度(姿勢)が変更可能となっている。運転者がバックミラー5を通じて主に確認したい領域はほぼ共通しており、基本的には後方中央の景色領域である。運転者の目の位置は体形によって異なるので、運転者は、バックミラー5に車両1の後方中央の景色が鏡像として映し出されるようにバックミラー5の角度を調整する。これにより、運転者の体形にかかわらず、運転者が見るバックミラー5に鏡像として映し出されるに含まれる車両周辺領域(逆に言えば、バックミラー5の鏡像から運転者が見ることができない死角領域)はほぼ同じとみなすことができる。   The rearview mirror 5 is attached to the ceiling of the vehicle 1 via an angle changing mechanism 9 so that the angle (posture) of the rearview mirror 5 can be changed according to the preference of the driver sitting in the driver's seat. The area that the driver wants to confirm mainly through the rearview mirror 5 is almost the same, and is basically the scenery area at the rear center. Since the position of the driver's eyes differs depending on the body shape, the driver adjusts the angle of the rearview mirror 5 so that the rear center scenery of the vehicle 1 is reflected on the rearview mirror 5 as a mirror image. Thus, regardless of the body shape of the driver, the vehicle surrounding area included in the mirror image displayed on the rearview mirror 5 viewed by the driver (in other words, a blind spot area where the driver cannot see from the mirror image of the rearview mirror 5). ) Can be regarded as almost the same.

カメラ2は、CCD(charge coupled device)やCIS(CMOS image sensor)などの撮像素子を内蔵し、この撮像素子に撮像された情報を動画情報または静止画情報としてリアルタイムに出力するデジタルカメラである。カメラ2の撮影中心線は、やや下向きに延びている。さらに、カメラ2には90度以上、例えば140度程度の広視野角レンズが装着されているので、図4から模式的に理解できるように、このカメラ2は140度程度の広視野の撮影画像を取得する。もちろん、水平180度以上を視野とする魚眼レンズを採用すれば、車両後方全域をカバーすることができる。さらには、ズームレンズを用いて視野角を変更できるようにしてもよいし、複数のレンズを備えて切換式で利用できるようにしてもよい。   The camera 2 is a digital camera that incorporates an image sensor such as a charge coupled device (CCD) or a CMOS image sensor (CIS) and outputs information captured by the image sensor as moving image information or still image information in real time. The shooting center line of the camera 2 extends slightly downward. Further, since a wide viewing angle lens of 90 degrees or more, for example, about 140 degrees is attached to the camera 2, as can be understood from FIG. 4, this camera 2 has a wide field of view image of about 140 degrees. To get. Of course, if a fisheye lens with a horizontal field of view of 180 degrees or more is employed, the entire rear of the vehicle can be covered. Furthermore, the viewing angle may be changed using a zoom lens, or a plurality of lenses may be provided so that they can be used in a switchable manner.

車両周辺確認コントローラ3は、一般にECU(electronic control unit)と呼ばれるCPUを中核要素とするコンピュータユニットであり、プログラムの起動によって種々の機能を実現することができる。この車両周辺確認コントローラ3では、カメラ2から送られてきてメモリ31に展開、格納された撮影画像を処理し、ミラーの死角領域で障害物が認識された場合には撮影画像におけるその障害物に対応する画像部分である死角障害物画像をバックミラー5の表示画像領域に液晶ディスプレイ4を通じて映し出す。そのために車両周辺確認コントローラ3では、必要な種々の機能部がプログラムやハードウエアによって作り出される。本発明に特に関係する機能部として、図5に示されているように、障害物認識部32と、死角判定部33と、障害物画像切り出し部34と、表示画像制御部35と、死角領域設定部36とが挙げられる。   The vehicle periphery confirmation controller 3 is a computer unit having a CPU, which is generally called an ECU (electronic control unit), as a core element, and can realize various functions by starting a program. The vehicle periphery confirmation controller 3 processes the captured image sent from the camera 2 and developed and stored in the memory 31, and if an obstacle is recognized in the blind spot area of the mirror, the obstacle in the captured image is displayed. A blind spot obstacle image, which is a corresponding image portion, is displayed on the display image area of the rearview mirror 5 through the liquid crystal display 4. Therefore, in the vehicle periphery confirmation controller 3, various necessary functional units are created by a program or hardware. As functional units particularly related to the present invention, as shown in FIG. 5, an obstacle recognition unit 32, a blind spot determination unit 33, an obstacle image cutout unit 34, a display image control unit 35, and a blind spot area. And a setting unit 36.

障害物認識部32は車両周辺の歩行者や別な車両など車両走行の障害となる物体としての障害物を認識する機能を有する。障害物の認識に関しては種々の方法が知られており、この発明においては障害物認識部32で採用される障害物認識方法は特定のものに限定されない。しかしながら、ここでは、特に好適な方法の1つとして、カメラ2によって取得される撮影画像を画像処理して障害物を認識する方法が採用されている。撮影画像は所定の時間レートで順次取得されメモリ31に格納されているので、この微小時間間隔で取得された複数の撮影画像を比較することにより、例えば、オプティカルフロー法や背景差分法や動きベクトル法などの物体検知アルゴリズムを用いて、静止している、あるいは動いている物体を認識することができる。これにより、障害物認識部32は、撮影画像上での障害物の外形輪郭と位置(結果的には車両1に対する方位)、障害物の動きの方向(結果的には車両1に対する接近方向)を含む障害物情報を生成して出力することができる。   The obstacle recognition unit 32 has a function of recognizing an obstacle as an object that obstructs vehicle travel, such as a pedestrian around the vehicle or another vehicle. Various methods are known for obstacle recognition. In the present invention, the obstacle recognition method employed by the obstacle recognition unit 32 is not limited to a specific one. However, here, as one particularly suitable method, a method of recognizing an obstacle by performing image processing on a captured image acquired by the camera 2 is employed. Since captured images are sequentially acquired at a predetermined time rate and stored in the memory 31, by comparing a plurality of captured images acquired at this minute time interval, for example, an optical flow method, a background difference method, a motion vector, or the like. An object detection algorithm such as a method can be used to recognize an object that is stationary or moving. As a result, the obstacle recognition unit 32 has the outline and position of the obstacle on the captured image (resulting in an orientation relative to the vehicle 1) and the direction of the obstacle movement (resulting in an approaching direction relative to the vehicle 1). Obstacle information including can be generated and output.

車両1と障害物との間には相対的な移動が生じるので、車両1に対する絶対的な障害物の移動情報(移動ベクトル)を算定するためには、車両走行状態検知コントローラ7から車両の移動情報を受け取ることになる。この車両走行状態検知コントローラ7は、ステアリング角センサ、シフト位置センサ、アクセル位置センサ、ブレーキ位置センサ、ホイール回転センサ、方位センサ等のセンサ群からの検出信号を受け、車両1の移動量や位置などの移動情報を演算する。   Since relative movement occurs between the vehicle 1 and the obstacle, in order to calculate absolute obstacle movement information (movement vector) with respect to the vehicle 1, the vehicle movement is detected from the vehicle running state detection controller 7. You will receive information. The vehicle running state detection controller 7 receives detection signals from a sensor group such as a steering angle sensor, a shift position sensor, an accelerator position sensor, a brake position sensor, a wheel rotation sensor, and an azimuth sensor. The movement information is calculated.

また、夜間や悪天候などで撮影条件が悪く、撮影画像から障害物の認識が困難となることが考えられる。このため、レーザレーダなどを用いた障害物検知コントローラ8が装備されている場合、障害物検知コントローラ7からの障害物検知情報に基づいて障害物を認識する機能を障害物認識部32に持たせるとよい。   In addition, it is conceivable that shooting conditions are bad at night or in bad weather, and it is difficult to recognize an obstacle from a shot image. For this reason, when the obstacle detection controller 8 using a laser radar or the like is provided, the obstacle recognition unit 32 has a function of recognizing an obstacle based on the obstacle detection information from the obstacle detection controller 7. Good.

死角領域設定部36は、予め設定されているカメラ2の撮影中心線の方位やバックミラー5の光学特性から、運転者が見ることができるバックミラー5の鏡像から外れる周辺領域、いわゆるミラーの死角領域がメモリ31に展開された撮影画像においてどの領域となるかを算定して得られた死角領域の形状と位置(画像座標値で表すことができる)を設定する。図6は、図4で示された状況下で、カメラ2によって取得され、メモリ31に展開された広視野の撮影画像を模式的に示している。図6で示された撮影画像において点線で示されたミラー鏡像境界枠91の内側領域がバックミラー5の鏡像として運転者が見ることができる領域であり、鏡像境界枠91の外側領域が死角領域となる。死角領域設定部36で設定されている死角領域は、死角判定部33によって利用される。図6では、図面の制約上の問題で、鏡像境界枠91に比べて撮影画像全体のサイズが小さく描かれている。   The blind spot area setting unit 36 is a peripheral area outside the mirror image of the rearview mirror 5 that can be seen by the driver, based on the orientation of the photographing center line of the camera 2 and the optical characteristics of the rearview mirror 5, which are set in advance. The shape and position (which can be represented by image coordinate values) of the blind spot area obtained by calculating which area in the captured image developed in the memory 31 will be set. FIG. 6 schematically shows a wide-field captured image acquired by the camera 2 and developed in the memory 31 under the situation shown in FIG. The area inside the mirror mirror image boundary frame 91 indicated by the dotted line in the captured image shown in FIG. 6 is an area that can be viewed by the driver as a mirror image of the rearview mirror 5, and the area outside the mirror image boundary frame 91 is the blind spot area. It becomes. The blind spot area set by the blind spot area setting unit 36 is used by the blind spot determination unit 33. In FIG. 6, the size of the entire captured image is drawn smaller than that of the mirror image boundary frame 91 due to a problem in the restriction of the drawing.

死角判定部33は、死角領域設定部36によって設定されている撮影画像における死角領域に、障害物認識部32によって認識された障害物の画像が含まれているかを判定する。図6で模式的に示されているように、障害物の外形輪郭の少なくとも一部が死角領域に位置している場合、障害物の少なくとも一部が、運転者がバックミラー5の鏡像を通じて確認できないということになる。このため、死角判定部33の判定結果に基づき、メモリ31に展開されている撮影画像におけるミラー鏡像境界枠91の外側領域である死角領域に障害物が含まれていないときには、障害物画像切り出し部32が当該障害物の画像領域を死角障害物画像として撮影画像から切り出す。図6において、障害物切り出し枠92によって囲まれた領域の画像が死角障害物画像である。障害物画像切り出し部32によって切り出された死角障害物画像は、表示画像制御部35によって制御される形態で液晶ディスプレイ4に表示される。運転者は、液晶ディスプレイ4に表示された死角障害物画像をバックミラー5の鏡面越しに見ることができる。そのような死角障害物画像のバックミラー5での表示状態の一例が図7に示されている。これにより、いままでバックミラー5に映し出されていた鏡像の範囲外に障害物が、存在していることを確認することができる。
なお、上記したように死角判定部33は障害物が死角領域に含まれているかどうかを判定する役割を受け持っているが、例えば、障害物認識部32を死角領域における障害物だけを認識するように構成することで、この判定部33の機能を障害物認識部32に含ませることも可能である。本発明において、死角判定部33や障害物認識部32といった名称は車両周辺確認コントローラ3において作り出される機能を表現するために用いられているものであり、物理的な構成要素を限定しているのではない。
The blind spot determination unit 33 determines whether the blind spot area in the captured image set by the blind spot area setting unit 36 includes an image of the obstacle recognized by the obstacle recognition unit 32. As schematically shown in FIG. 6, when at least a part of the outline of the obstacle is located in the blind spot area, at least a part of the obstacle is confirmed by the driver through a mirror image of the rearview mirror 5. It will be impossible. For this reason, based on the determination result of the blind spot determination unit 33, when no obstacle is included in the blind spot region that is the outer region of the mirror mirror image boundary frame 91 in the captured image developed in the memory 31, the obstacle image cutout unit 32 cuts out the image area of the obstacle from the photographed image as a blind spot obstacle image. In FIG. 6, the image of the area surrounded by the obstacle cutout frame 92 is a blind spot obstacle image. The blind spot obstacle image cut out by the obstacle image cutout unit 32 is displayed on the liquid crystal display 4 in a form controlled by the display image control unit 35. The driver can view the blind spot obstacle image displayed on the liquid crystal display 4 through the mirror surface of the rearview mirror 5. An example of the display state of such a blind spot obstacle image on the rearview mirror 5 is shown in FIG. As a result, it can be confirmed that an obstacle exists outside the range of the mirror image projected on the rearview mirror 5 until now.
As described above, the blind spot determination unit 33 is responsible for determining whether an obstacle is included in the blind spot area. For example, the obstacle recognition unit 32 recognizes only the obstacle in the blind spot area. By configuring as above, it is possible to include the function of the determination unit 33 in the obstacle recognition unit 32. In the present invention, the names such as the blind spot determining unit 33 and the obstacle recognizing unit 32 are used to express functions created in the vehicle periphery confirmation controller 3 and limit physical components. is not.

なお、表示画像制御部35は、液晶ディスプレイ4に表示される撮影画像とバックミラー5に映される像との左右位置関係を一致させるため、表示画像の生成時に、画像の左右反転を行っている。さらに、液晶ディスプレイ5に死角障害物画像を表示させる際、運転者の左側に障害物が存在する場合には液晶ディスプレイ5の左側領域つまりバックミラー5の鏡像表示領域のうちの左側領域に、運転者の左側の右側に障害物が存在する場合にはバックミラー5の鏡像表示領域のうちの右側領域に表示される。これにより、運転者は障害物が左右どちら側に存在しているかを即座に把握することができる。   The display image control unit 35 performs left-right reversal of the image when generating the display image in order to match the left-right positional relationship between the captured image displayed on the liquid crystal display 4 and the image projected on the rearview mirror 5. Yes. Further, when the blind spot obstacle image is displayed on the liquid crystal display 5, if there is an obstacle on the left side of the driver, the left side area of the liquid crystal display 5, that is, the left side area of the mirror image display area of the rearview mirror 5 is displayed. When there is an obstacle on the right side of the left side of the person, it is displayed in the right area of the mirror image display area of the rearview mirror 5. As a result, the driver can immediately grasp whether the obstacle exists on the left or right side.

図7に示すように、バックミラー5を通じて運転者が見ることができるように死角障害物画像が液晶ディスプレイ4に表示されることで、運転者は通常のバックミラー視界の外側に走行障害となりうる物体が存在していることに気づかされる。それにより、運転者は、車両1の周囲、この場合では車両後方を振り返り、直接障害物を視認しようとする。その際、障害物認識部32から受け取った障害物情報に当該障害物の車両への接近方向を示す指標も液晶ディスプレイ4に表示すると好都合である。指標としては、図8に示すように、大きな矢印を採用すると、視認しやすく好都合である。また、バックミラー5における死角障害物画像が表示されている領域以外の鏡像表示領域には依然として車両後方の鏡像が映し出されているので、バックミラー5による車両周辺確認の恩恵も少なくとも部分的には維持されている。   As shown in FIG. 7, the blind spot obstacle image is displayed on the liquid crystal display 4 so that the driver can see through the rearview mirror 5, so that the driver can have a driving obstacle outside the normal rearview field of view. You notice that an object exists. Thereby, the driver looks back around the vehicle 1, in this case, the rear of the vehicle, and tries to visually recognize the obstacle directly. At this time, it is convenient to display an index indicating the approaching direction of the obstacle to the vehicle on the liquid crystal display 4 in the obstacle information received from the obstacle recognition unit 32. As an index, as shown in FIG. 8, when a large arrow is adopted, it is easy to visually recognize and is convenient. Further, since the mirror image of the rear of the vehicle is still displayed in the mirror image display area other than the area where the blind spot obstacle image is displayed in the rearview mirror 5, the benefit of the vehicle periphery confirmation by the rearview mirror 5 is also at least partially. Maintained.

上述のように構成された車両周辺確認装置における後方確認のための制御であるバックモニタルーチンの一例を図9のフローチャートを用いて説明する。
まず、バックモニタルーチンが開始されるとカメラ2による撮影画像の取得が行われる(#01)。取得された撮影画像が順次メモリ31に展開され、所定時間分だけ一時的に格納される(#02)。なお、メモリ31に展開された撮影画像は、必要に応じて、歪補正、解像度変換、レベル調整など必要な画像処理が行われる。また、格納された撮影画像は、同時に実行される障害物認識ルーチンによっても利用される。時間的に連続して取得された撮影画像から相対的な動きをもつ物体(車両進路近傍に位置すると障害物となる)の認識アルゴリズムは広く知られているので、ここでの説明は省略される。
An example of a back monitor routine, which is control for backward confirmation in the vehicle periphery confirmation device configured as described above, will be described with reference to the flowchart of FIG.
First, when the back monitor routine is started, a captured image is acquired by the camera 2 (# 01). The acquired captured images are sequentially developed in the memory 31 and temporarily stored for a predetermined time (# 02). The captured image developed in the memory 31 is subjected to necessary image processing such as distortion correction, resolution conversion, and level adjustment as necessary. The stored captured image is also used by an obstacle recognition routine that is executed simultaneously. Since recognition algorithms for objects with relative movement (obtained when located near the vehicle path) from captured images acquired sequentially in time are widely known, explanation here is omitted. .

メモリ31に展開された撮影画像における、バックミラー5の死角領域を設定する。(#03)。次いで、障害物認識部32によって障害物情報が出力されているかどうかがチェックされる(#04)。障害物情報が出力されている場合、障害物情報から障害物の撮影画像上での座標位置を読み取る(#05)。なお、障害物情報に、異なる座標系、例えばワールド座標系での座標位置しか記述されていない場合には、座標変換を通じて障害物認識部32によって障害物が占める領域の撮影画像上での座標位置を算出する。続いて、撮影画像上で特定された障害物領域が死角領域内に含まれているかどうか、逆に言えば、認識された障害物の全体がバックミラー5の鏡像に含まれているかどうかがチェックされる(#06)。より確実な視認可能性を実現するためには、撮影画像上で特定された障害物領域の一部または全てが死角領域に位置している場合には、障害物領域が死角領域内に含まれていないとみなすと好都合である。このチェックで、障害物領域が死角領域内に含まれていると判定されると(#06Yes分岐)、障害物画像切り出し部34が撮影画像から障害物領域を死角障害物画像として切り出す(#07)。切り出された死角障害物画像の液晶ディスプレイ4での表示位置が認識された当該障害物の車両1に対する位置に基づいて決定される(#08)。次いでこの決定された液晶ディスプレイ4の位置に障害画像が適切に表示されるように、表示画像制御部35によって、例えば死角障害物画像の画像寸法なども調整されて表示画像データが生成され、液晶ディスプレイ4に出力される(#09)。例えば、障害物が車両1の右側後方に位置する場合にはバックミラー5の鏡面(鏡像表示領域)の右側にくるように、死角障害物画像を液晶ディスプレイ4に表示させる。   A blind spot area of the rearview mirror 5 in the captured image developed in the memory 31 is set. (# 03). Next, it is checked whether or not the obstacle information is output by the obstacle recognition unit 32 (# 04). When the obstacle information is output, the coordinate position on the captured image of the obstacle is read from the obstacle information (# 05). When the obstacle information describes only the coordinate position in a different coordinate system, for example, the world coordinate system, the coordinate position on the captured image of the area occupied by the obstacle by the obstacle recognition unit 32 through the coordinate conversion. Is calculated. Subsequently, it is checked whether or not the obstacle area specified on the photographed image is included in the blind spot area, or conversely, whether or not the entire recognized obstacle is included in the mirror image of the rearview mirror 5. (# 06). In order to realize more reliable visibility, the obstacle area is included in the blind spot area when a part or all of the obstacle area specified on the captured image is located in the blind spot area. It is convenient to consider it not. If it is determined in this check that the obstacle area is included in the blind spot area (Yes branch at # 06), the obstacle image cutout unit 34 cuts out the obstacle area from the photographed image as a blind spot obstacle image (# 07). ). The display position of the cut-out blind spot obstacle image on the liquid crystal display 4 is determined based on the recognized position of the obstacle relative to the vehicle 1 (# 08). Next, the display image control unit 35 adjusts, for example, the image size of the blind spot obstacle image so that the obstacle image is appropriately displayed at the determined position of the liquid crystal display 4 to generate display image data. The data is output to the display 4 (# 09). For example, when the obstacle is located on the right rear side of the vehicle 1, the blind spot obstacle image is displayed on the liquid crystal display 4 so as to be on the right side of the mirror surface (mirror image display area) of the rearview mirror 5.

上記ステップ#04のチェックで障害物情報が出力されていない場合(#04No分岐)、及び、#06のチェックで障害物領域が死角領域内に入っていないと判定された場合(#06No分岐)、ステップ#04に戻り、以降のステップを繰り返す。   When the obstacle information is not output in the check of step # 04 (# 04 No branch), and when it is determined by the check of # 06 that the obstacle area is not within the blind spot area (# 06 No branch) Returning to step # 04, the subsequent steps are repeated.

次に、このバックモニタルーチンに対する中止指令が入っているかどうかがチェックされ(#10)、中止指令が入っているとこのルーチンを終了し、この中止指令が入っていなければ(#10No分岐)、ステップ#04に戻って、このバックモニタが続行される。   Next, it is checked whether or not a cancel command for this back monitor routine is entered (# 10). If a cancel command is entered, this routine is terminated. If this cancel command is not entered (# 10 No branch), Returning to step # 04, the back monitor is continued.

〔別実施形態〕
(1)上記実施の形態では、撮影画像における死角領域の位置は、予め求められたカメラ特性とミラー特性に基づいて算定されたものが用いられていた。このような方法に代えて、バックミラーの鏡像が半透明状態となる状態で、撮影画像から部分的に抽出した抽出画像を液晶ディスプレイに映し出し、運転者の応答に基づいて鏡像と抽出画像が一致する抽出位置と抽出サイズを見つけ出し、この抽出位置からミラー鏡像境界枠91、結果的には死角領域を決定するようにしてもよい。これにより、運転者毎に、死角領域を規定するミラー鏡像境界枠91を正確に設定することができる。また、画像処理等で決定された運転者の視点及び姿勢検出センサで検出されたバックミラー5の姿勢とから射影幾何学的な演算を通じて視界領域を決定する方法を採用してもよい。
(2)
上記実施の形態では、運転者の左側に障害物が存在する場合にはバックミラー5の鏡像表示領域のうちの左側領域に、運転者の左側の右側に障害物が存在する場合にはバックミラー5の鏡像表示領域のうちの右側領域に、死角障害物画像が表示された。これに代えて、例えば、バックミラー5の一方端側に画像表示領域が設定されている場合には、その画像表示領域における左側または右側に死角障害物画像が表示されるような構成を採用してもよい。つまり、ミラー鏡像の視野中心を基準とした障害物の左右位置の対応関係さえとることができるレイアウトであれば任意の位置に死角障害物画像を表示することができる。さらには、さらには、バックミラー5の鏡像に対して障害物画像が半透明で重畳表示されるように、つまり画像表示技術におけるアルファブレンディング(半透明合成)のような形態でバックミラー5の鏡像全体と障害物画像との両方が観察できるように障害物画像を表示制御する構成を取り入れてもよい。これにより、バックミラー5が有する本来の視認性は実質的に維持される。
(3)障害物領域がミラー鏡像境界枠91内に含まれていると判定されても、撮影画像から死角障害物画像を切り出し、障害物の拡大画像としての死角障害物画像を表示する表示モードを備えるようにしてもよい。
(4)上記実施の形態の説明では、本発明のミラーをバックミラー5に適用したが、その他の車載ミラーに本発明を適用することができる。例えば、ドアミラーに本発明を適用し、このドアミラーによる確認方向における死角となる領域に障害物の存在が認識された場合に、その障害物を捉えた撮影画像から切り出された死角障害物画像をドアミラーに表示させてもよい。
(5)
上記実施の形態の説明では、前記ミラーの死角領域に存在している障害物の画像を全て障害物画像としてモニタに表示していたが、障害物認識部32が障害物の動きの方向、結果的には車両1に対する接近方向を認識できる場合には、自車両に接近してくる障害物のみ、その障害物画像を表示するようにしてもよい。
[Another embodiment]
(1) In the above embodiment, the position of the blind spot area in the captured image is calculated based on the camera characteristics and the mirror characteristics obtained in advance. Instead of this method, with the mirror image of the rearview mirror in a translucent state, the extracted image partially extracted from the captured image is displayed on the liquid crystal display, and the mirror image matches the extracted image based on the driver's response. The extraction position and the extraction size to be detected may be found, and the mirror mirror image boundary frame 91 and, consequently, the blind spot area may be determined from the extraction position. Thereby, the mirror mirror image boundary frame 91 that defines the blind spot area can be accurately set for each driver. Further, a method of determining the view area through projection geometric calculation from the viewpoint of the driver determined by image processing or the like and the attitude of the rearview mirror 5 detected by the attitude detection sensor may be adopted.
(2)
In the above embodiment, when there is an obstacle on the left side of the driver, the left side of the mirror image display area of the rearview mirror 5, and when there is an obstacle on the right side of the left side of the driver, the rear view mirror is displayed. A blind spot obstacle image was displayed in the right area of the five mirror image display areas. Instead, for example, when an image display area is set on one end side of the rearview mirror 5, a configuration in which a blind spot obstacle image is displayed on the left or right side of the image display area is adopted. May be. In other words, a blind spot obstacle image can be displayed at an arbitrary position as long as the layout allows even the correspondence between the left and right positions of the obstacle with reference to the center of the field of view of the mirror mirror image. Furthermore, further, the mirror image of the rearview mirror 5 is displayed in a form such as alpha blending (semitransparent composition) in the image display technique so that the obstacle image is displayed in a semitransparent manner superimposed on the mirror image of the rearview mirror 5. You may introduce the structure which controls display of an obstruction image so that both the whole and an obstruction image can be observed. As a result, the original visibility of the rearview mirror 5 is substantially maintained.
(3) A display mode in which even if it is determined that the obstacle region is included in the mirror mirror image boundary frame 91, the blind spot obstacle image is cut out from the captured image and the blind spot obstacle image is displayed as an enlarged image of the obstacle. You may make it provide.
(4) In the description of the above embodiment, the mirror of the present invention is applied to the rearview mirror 5, but the present invention can be applied to other in-vehicle mirrors. For example, when the present invention is applied to a door mirror and the presence of an obstacle is recognized in an area that becomes a blind spot in the confirmation direction by the door mirror, a blind spot obstacle image cut out from a captured image capturing the obstacle is displayed as the door mirror. May be displayed.
(5)
In the description of the above embodiment, all the images of the obstacles existing in the blind spot area of the mirror are displayed on the monitor as the obstacle images. Specifically, when the approaching direction with respect to the vehicle 1 can be recognized, only the obstacle approaching the host vehicle may be displayed with the obstacle image.

本発明による車両周辺確認装置の一例を組み込んだ乗用車の外観模式図FIG. 1 is a schematic external view of a passenger car incorporating an example of a vehicle periphery confirmation device according to the present invention. 車両周辺確認装置を組み込んだ乗用車の運転席領域を示す模式図Schematic showing the driver's seat area of a passenger car incorporating a vehicle periphery confirmation device 一体化された液晶ディスプレイとバックミラーの一例を示す断面図Sectional view showing an example of an integrated liquid crystal display and rearview mirror 車両周辺確認装置による車両周辺確認を説明するための説明用鳥瞰図Bird's eye view for explanation for explaining vehicle periphery confirmation by vehicle periphery confirmation device 車両周辺確認装置の一例を示す機能ブロック図Functional block diagram showing an example of a vehicle periphery confirmation device 死角領域を規定するミラー鏡像境界枠を含む撮影画像を示す模式図Schematic diagram showing a captured image including a mirror mirror image boundary frame that defines a blind spot area 鏡像と死角障害物画像とが表示されたミラー面を示す模式図Schematic diagram showing the mirror surface on which the mirror image and blind spot obstacle image are displayed 鏡像と死角障害物画像とが方位標識としての矢印とともに表示されたミラー面を示す模式図Schematic diagram showing mirror surface with mirror image and blind spot obstruction image displayed with arrow as direction sign 車両周辺確認装置によるバックモニタルーチンの一例を示すフローチャートA flowchart showing an example of a back monitor routine by a vehicle periphery confirmation device

符号の説明Explanation of symbols

1:車両
2:撮像部(カメラ)
3:車両周辺確認コントローラ
4:液晶ディスプレイ(フラットパネル;表示装置)
5:バックミラー(ミラー)
31:メモリ
32:障害物認識部
33:死角判定部
34:障害物画像切り出し部
35:表示画像生成部
36:死角領域設定部
1: Vehicle 2: Imaging unit (camera)
3: Vehicle periphery confirmation controller 4: Liquid crystal display (flat panel; display device)
5: Rearview mirror (mirror)
31: Memory 32: Obstacle recognition unit 33: Blind spot determination unit 34: Obstacle image cutout unit 35: Display image generation unit 36: Blind spot region setting unit

Claims (4)

車両周辺の撮影画像を取得する撮影部と、
車両に設置され、鏡像表示領域の一部に前記撮影画像を表示できる画像表示領域が形成されている車両後方を確認するためのミラーと、
車両周辺の障害物を検出して当該障害物の位置を算出する障害物認識部と、
前記障害物の位置が前記ミラーの死角領域に入っているかを判定する死角判定部と、
前記死角領域に入っている障害物の画像領域を死角障害物画像として前記撮影画像から切り出す画像切り出し部と、
前記死角判定部が前記障害物の位置が前記ミラーの死角領域に入っていると判定したときに前記死角障害物画像を前記ミラーの前記画像表示領域に表示する表示画像制御部と、
を有する車両周辺確認装置。
A shooting unit for acquiring shot images around the vehicle;
A mirror for confirming the rear of the vehicle in which an image display area that can be displayed on a part of the mirror image display area is provided,
An obstacle recognition unit that detects obstacles around the vehicle and calculates the position of the obstacle;
A blind spot determination unit that determines whether the position of the obstacle is in the blind spot area of the mirror;
An image cutout unit that cuts out an image area of an obstacle in the blind spot area from the captured image as a blind spot obstacle image;
A display image control unit that displays the blind spot obstacle image in the image display region of the mirror when the blind spot determination unit determines that the position of the obstacle is in the blind spot region of the mirror;
A vehicle periphery confirmation device.
前記障害物認識部は、前記撮影画像に基づいて障害物検出を行う請求項1に記載の車両周辺確認装置。   The vehicle periphery confirmation apparatus according to claim 1, wherein the obstacle recognition unit performs obstacle detection based on the captured image. 前記ミラーに写されているミラー鏡像の視野中心を基準とした前記障害物の左右位置が求められ、当該左右位置に対応する前記画像表示領域の位置に前記死角障害物画像が表示される請求項1から2のいずれか一項に記載の車両周辺確認装置。   The left-right position of the obstacle with respect to the center of the field of view of the mirror mirror image projected on the mirror is obtained, and the blind spot obstacle image is displayed at the position of the image display area corresponding to the left-right position. The vehicle periphery confirmation apparatus as described in any one of 1-2. 前記死角障害物画像とともに前記障害物の車両への接近方向を示す指標が前記画像表示領域に表示される請求項1から3のいずれか一項に記載の車両周辺確認装置。   The vehicle periphery confirmation apparatus according to any one of claims 1 to 3, wherein an index indicating a direction in which the obstacle approaches the vehicle is displayed in the image display area together with the blind spot obstacle image.
JP2008306613A 2008-12-01 2008-12-01 Vehicle periphery confirmation device Expired - Fee Related JP5093611B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008306613A JP5093611B2 (en) 2008-12-01 2008-12-01 Vehicle periphery confirmation device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008306613A JP5093611B2 (en) 2008-12-01 2008-12-01 Vehicle periphery confirmation device

Publications (2)

Publication Number Publication Date
JP2010130647A JP2010130647A (en) 2010-06-10
JP5093611B2 true JP5093611B2 (en) 2012-12-12

Family

ID=42330639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008306613A Expired - Fee Related JP5093611B2 (en) 2008-12-01 2008-12-01 Vehicle periphery confirmation device

Country Status (1)

Country Link
JP (1) JP5093611B2 (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5718080B2 (en) * 2011-02-09 2015-05-13 本田技研工業株式会社 Vehicle periphery monitoring device
JP2012195634A (en) * 2011-03-15 2012-10-11 Panasonic Corp Vehicle rearview visual-recognition apparatus
EP2723069B1 (en) * 2011-06-16 2017-10-18 Aisin Seiki Kabushiki Kaisha Vehicle periphery monitoring device
CN105980210A (en) * 2014-04-01 2016-09-28 松下知识产权经营株式会社 Rear-field-of-view confirmation device and automobile equipped with same
GB2528098B (en) 2014-07-09 2018-11-21 Jaguar Land Rover Ltd Vehicle camera system
JP5983693B2 (en) * 2014-09-10 2016-09-06 株式会社Jvcケンウッド Mirror device with display function and display switching method
WO2016047367A1 (en) * 2014-09-25 2016-03-31 株式会社Jvcケンウッド Mirror device having display function, and method for changing direction of mirror device having display function
JP6315102B2 (en) * 2014-10-28 2018-04-25 株式会社Jvcケンウッド Mirror device with display function and function changing method of mirror device with display function
JP2017034453A (en) * 2015-07-31 2017-02-09 富士通テン株式会社 Image processing apparatus, image display system, and image processing method
WO2018105007A1 (en) * 2016-12-05 2018-06-14 富士通周辺機株式会社 Driving assistance program, driving assistance method and driving assistance device
WO2018151151A1 (en) * 2017-02-20 2018-08-23 京セラ株式会社 Image processing device, image-capture device, and mobile body
JP6857695B2 (en) * 2018-09-14 2021-04-14 シャープ株式会社 Rear display device, rear display method, and program
CN111191604A (en) * 2019-12-31 2020-05-22 上海眼控科技股份有限公司 Method, device and storage medium for detecting integrity of license plate

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002225629A (en) * 2001-02-05 2002-08-14 Sony Corp Monitoring device for vehicle
JP2004212658A (en) * 2002-12-27 2004-07-29 Sumitomo Electric Ind Ltd System and method for image display and image processor
JP4744995B2 (en) * 2005-09-08 2011-08-10 クラリオン株式会社 Obstacle detection device for vehicle
JP4412365B2 (en) * 2007-03-26 2010-02-10 アイシン・エィ・ダブリュ株式会社 Driving support method and driving support device

Also Published As

Publication number Publication date
JP2010130647A (en) 2010-06-10

Similar Documents

Publication Publication Date Title
JP5093611B2 (en) Vehicle periphery confirmation device
JP5099451B2 (en) Vehicle periphery confirmation device
US10843628B2 (en) Onboard display device, control method for onboard display device, and control program for onboard display device
JP5347257B2 (en) Vehicle periphery monitoring device and video display method
JP4935571B2 (en) Driving assistance device
JP4699054B2 (en) Vehicle perimeter monitoring device
JP5092776B2 (en) Gaze direction detection device and gaze direction detection method
JP6857695B2 (en) Rear display device, rear display method, and program
JP4849333B2 (en) Visual aids for vehicles
JP2011188028A (en) Vehicle surrounding monitoring system
JP2008018760A (en) Driving support device
JP2010179850A (en) Vehicular display device
CN113165667A (en) Panoramic monitoring system for vehicle and method for adjusting visual angle of camera
JP2010118935A (en) Vehicle body transmission display device
KR102130059B1 (en) Digital rearview mirror control unit and method
JP2006044596A (en) Display device for vehicle
JP2003339044A (en) Surrounding monitoring apparatus for vehicle
JP2017196911A (en) Image display device
JP2010208359A (en) Display device for vehicle
CN112351242A (en) Image processing apparatus and image processing method
JP2017056909A (en) Vehicular image display device
JP2009073250A (en) Vehicle backsight display device
JP5861449B2 (en) Obstacle alarm device
JP2005269010A (en) Image creating device, program and method
JP4840638B2 (en) Vehicle occupant monitoring device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120905

R151 Written notification of patent or utility model registration

Ref document number: 5093611

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150928

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees