WO2013144998A1 - 車両用視認支援装置 - Google Patents

車両用視認支援装置 Download PDF

Info

Publication number
WO2013144998A1
WO2013144998A1 PCT/JP2012/002111 JP2012002111W WO2013144998A1 WO 2013144998 A1 WO2013144998 A1 WO 2013144998A1 JP 2012002111 W JP2012002111 W JP 2012002111W WO 2013144998 A1 WO2013144998 A1 WO 2013144998A1
Authority
WO
WIPO (PCT)
Prior art keywords
vehicle
image
display
mirror
image processing
Prior art date
Application number
PCT/JP2012/002111
Other languages
English (en)
French (fr)
Inventor
西田 稔
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Priority to PCT/JP2012/002111 priority Critical patent/WO2013144998A1/ja
Publication of WO2013144998A1 publication Critical patent/WO2013144998A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/25Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the sides of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/006Side-view mirrors, e.g. V-shaped mirrors located at the front or rear part of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic

Definitions

  • the present invention relates to a vehicle visual assistance device for assisting a driver to visually recognize the vicinity of a vehicle.
  • blind spots may occur not only in the environment outside the vehicle but also in the vehicle environment. For example, depending on the position and posture of an occupant other than the driver's seat, the field of view of the door mirror and room mirror on the passenger seat side may be completely blocked, resulting in a large blind spot.
  • Patent Document 1 Patent Document 2, Patent Document 3 are conventional techniques for visually recognizing a lateral region of a vehicle end.
  • an apparatus that supports visual recognition of a lateral region of a front end portion of a vehicle or a region ahead thereof by using an in-vehicle camera is disclosed.
  • This apparatus includes an optical coupling system in which an in-vehicle camera having an image sensor (camera unit) such as a CCD or a CMOS imaging device is optically coupled so that light from various fields of view enters.
  • an image sensor such as a CCD or a CMOS imaging device
  • a pair of mirrors in which two plane mirrors are combined in a mountain shape as the optical coupling system Has a double-sided mirror (front mirror on the front and cylindrical convex on the back) that can be switched between the front or rear view and the left-right view, and the camera unit and the optical coupling system in the case
  • the stored structure is mounted on the end of the vehicle body.
  • the field of view is switched by a separately provided on-board controller according to conditions such as the vehicle speed and the shift position of the transmission gear.
  • a filter composed of a mirror, a prism, and the like, which combines the three fields of view on the left and right sides of the vehicle, immediately below the front, and the nearest field into one image information and inputs it to the camera unit; It has an optical coupling system consisting of a pair of mirrors in which a pair of plane mirrors are combined in a mountain shape, and the optical coupling system and the camera unit are housed in a case, and the optical coupling system entrance window has a desired field of view. It is mounted on the front end or rear end of the vehicle. In this device, image information of a plurality of fields of view is displayed on a display device provided on a dashboard in the vehicle.
  • the camera device described in Patent Document 3 has a CCD camera body (camera unit), a first V-shaped mirror with two reflecting surfaces facing the left and right outer sides of the vehicle, and two reflecting surfaces facing the lower left and right sides of the vehicle, respectively.
  • the second V-shaped mirror and the plane mirror are housed in one case, and a mask and a transparent portion are formed on the reflection surface of the first V-shaped mirror.
  • the left and right side images of the vehicle are reflected on the reflecting surface of the first V-shaped mirror and photographed by the camera body, and the images on the lower left and right sides of the vehicle are reflected on the second V-shaped mirror.
  • the reflected image is further photographed by the camera body through the transparent portion of the first V-shaped mirror by the plane mirror and displayed on the monitor.
  • a mask region is formed in the display image so that the mask surrounds each image. As a result, the left and right side images and the lower image of the vehicle are simultaneously displayed on the same screen.
  • Patent Documents 1 to 3 use an optical coupling system composed of a pair of mirrors combined with a camera and a mountain shape, whereas Patent Documents 4 and 5 do not use a camera, and a plurality of mirrors (outside the vehicle). Indirect visual inspection around the vehicle using a mirror or in-car mirror).
  • An outside mirror described in Patent Document 4 is provided at a mirror housing disposed at a substantially middle portion in the vertical direction of a front pillar of a vehicle, and at a rear portion in the vehicle front-rear direction of the mirror housing, and a side portion centering on the rear of the vehicle.
  • a rear-view mirror that captures the vicinity and a side mirror that is provided on the side of the mirror housing in the vehicle width direction on the vehicle side and that captures the oblique front of the vehicle on the side of the vehicle facing the position of the mirror housing.
  • the device disclosed in Patent Document 5 is provided on a mirror housing provided on a side portion of a vehicle body, a first reflector provided on the mirror housing and projecting a rear view, and provided on a side portion of the mirror housing on the vehicle body side, And a second reflector that projects a vehicle body inward view in front of the vehicle body and inside the mirror housing.
  • the device further includes a third reflector on the vehicle body side that projects a vehicle body outward view forward of the vehicle body and outside the mirror housing through the second reflector. Both the vehicle body inward view and the vehicle body outward view are visible.
  • the door mirror when changing lanes while driving at a relatively high speed (approximately 50 km / h) on a road with multiple lanes, the door mirror is located on the side of the driver's seat (front seat). It exists on the rear side. This is called a blind spot, and it is an area that does not become a blind spot by moving the line of sight largely if there is enough time for vision and visual recognition to drive, but it also requires forward gaze, so it is temporarily necessary from the driver. Completely blind spot.
  • Patent Document 6 discloses an external monitoring device that supports visual recognition including blind spots.
  • in-vehicle cameras are mounted on both sides of the front bumper of the vehicle body, and the image of the rear side of the vehicle, similar to a normal side mirror, and the image of the blind corner, which is a blind spot for the driver, are wide-angle. Take an image.
  • the image monitor normally displays a rear side image of the vehicle, and displays a blind corner monitoring image as necessary.
  • Patent Document 7 discloses an in-vehicle camera including a camera module attached to a vehicle, and the in-vehicle camera further includes a mirror that occupies at least a part of an imaging range of the camera module. Further, Patent Document 7 makes it possible to visually recognize an area that cannot be viewed with an existing door mirror or room mirror, such as an area immediately below and immediately behind the vehicle, and an area immediately adjacent to the side of the vehicle.
  • Patent Documents 1 to 3 have the following problems because an in-vehicle camera, which is a structure in which a camera unit and an optical coupling system are housed in a case, is attached to the outside of the vehicle body.
  • this in-vehicle camera is attached to the outside of the vehicle body, it is necessary to take measures for waterproofing, dirt, vibration and the like for the camera unit and the electronic circuit that handles the image signal.
  • the camera unit and the electronic circuit that handles the image signal and a plurality of mirrors constituting the optical coupling system are housed in one case, the size of the in-vehicle camera is inevitably increased.
  • Patent Documents 4 and 5 are different from Patent Documents 1 to 3, and do not use a structure in which the camera unit and the optical coupling system are housed in a case, but use a plurality of mirrors to surround the vehicle Perform indirect visual inspection.
  • indirect viewing is performed by combining only a reflective optical system, a mechanism that adjusts the mirror angle of multiple mirrors according to the driver's posture and physical characteristics (height, sitting height, etc.) is required.
  • there is a problem that the degree of freedom in the width and direction of the field of view is low.
  • Patent Document 6 as in Patent Documents 1 to 3, an optical system including a reflecting mirror and a camera unit are provided. For example, only the reflecting mirror portion protrudes outside at a side of the vehicle body, a so-called fender portion. The remaining part (camera part) is stored inside the vehicle body.
  • the camera unit is installed outside the vehicle, and indirect visual observation is performed using an image of a side of the vehicle body imaged by the camera unit and an image of a reflecting mirror that reflects the rear of the vehicle body.
  • the device described in Patent Document 6 does not consider the traveling state of the vehicle, the field of view to be visually recognized by the driver according to the traveling state of the vehicle cannot be displayed without a sense of incongruity for the driver. Further, when the camera unit is installed outside the vehicle, the same problems as in Patent Documents 1 to 3 described above arise.
  • the present invention has been made to solve the above-described problems, and has a high degree of freedom of attachment to the vehicle body, does not require complicated maintenance work, and is visually recognized by the driver according to the traveling state of the vehicle. It is an object of the present invention to provide a vehicular visual assistance device that can display a visual field to be displayed without a sense of incongruity for a driver.
  • the vehicular visual assistance device is mounted in the vicinity of the front end of the vehicle outside the passenger compartment, and at least one region of the side of the front end of the vehicle and the region of the side of the vehicle viewed from the front to the rear is a mirror surface.
  • a mirror to be projected a photographing unit that is mounted in a vehicle interior and photographs an image including a mirror surface of the mirror, an image processing unit that performs image processing on the image photographed by the photographing unit and extracts an image reflected on the mirror surface of the mirror,
  • a display screen is arranged at a position that can be visually recognized by the driver in the passenger compartment, and a first display capable of displaying different images on the left and right screens in the display screen, and an image processing unit according to the traveling state of the vehicle Display that displays an image showing an area on the side of the front end of the vehicle or an image showing an area when the side of the vehicle is seen from the front to the rear of the extracted image on the screen in the corresponding direction of the first display
  • a control unit is provided.
  • the degree of freedom of attachment to the vehicle body is high, complicated maintenance work is unnecessary, and the field of view to be visually recognized by the driver according to the traveling state of the vehicle can be displayed without a sense of incongruity for the driver. There is an effect that can be done.
  • FIG. 3 is a block diagram illustrating a functional configuration of the vehicular visual assistance device according to the first embodiment. 3 is a flowchart showing an overview of display image generation processing by the vehicular visual assistance device according to the first embodiment.
  • FIG. 6 is a diagram illustrating an example of a captured image in Embodiment 1.
  • FIG. 4 is a flowchart showing display control by the vehicle vision support apparatus according to Embodiment 1; It is a figure which shows the visual field (LSB) which sees the left side view (LS) of the vehicle front end part and the left side of a vehicle from the front to the back by the visual assistance device for vehicles according to Embodiment 2 of this invention.
  • the figure which shows the visual field (LSB) which looks at the left side of the vehicle front end part and the left side of a vehicle from the front to the back by the visual assistance device for vehicles concerning Embodiment 2 (uses another small mirror) Example).
  • FIG. 6 is a block diagram illustrating a functional configuration of a vehicle visual assistance device according to Embodiment 2.
  • FIG. 10 is a flowchart showing display control by the vehicle visual assistance device according to the second embodiment. It is a flowchart which shows the process of a subroutine. The right side visual field (RS), left side visual field (LS), and left front visual field (DRS) by the front pillar of the vehicle front end portion by the vehicle visual assistance device according to Embodiment 3 of the present invention are shown.
  • FIG. It is a figure which shows a visual field required when a vehicle turns right or left at an intersection. It is a figure which shows the example of arrangement
  • FIG. 9 is a block diagram illustrating a functional configuration of a vehicle visual assistance device according to a third embodiment.
  • 12 is a flowchart illustrating an overview of a display image generation process performed by the vehicle visual assistance device according to the third embodiment.
  • 10 is a diagram illustrating an example of a captured image according to Embodiment 3.
  • FIG. 10 is a flowchart illustrating display control by the vehicle visual assistance device according to the third embodiment. It is FIG. (1) which shows schematically another aspect of a small mirror and a vehicle interior camera. It is FIG. (2) which shows schematically another aspect of a small mirror and a vehicle interior camera. It is FIG. (The 3) which shows schematically another aspect of a small mirror and a vehicle interior camera.
  • FIG. 1 is a diagram schematically showing a configuration of a vehicle vision support apparatus according to Embodiment 1 of the present invention, and FIG. 1A is equipped with the vehicle vision support apparatus according to Embodiment 1.
  • FIG. 1B shows an inner side surface of the vehicle, and FIG. 1B shows an inner upper surface of the vehicle in FIG.
  • FIG. 2 is a diagram showing a visual field (RS) on the right side of the front end portion of the vehicle by the vehicle visual assistance device according to the first embodiment. 1 and 2 show a case in which visual recognition of the right side of the front end portion of the vehicle is supported.
  • RS visual field
  • the front end portion of the vehicle 1 is referred to as a vehicle front end portion 1a
  • the side portion of the vehicle 1 is referred to as a vehicle side portion 1b
  • the rear end portion of the vehicle 1 is referred to as a vehicle rear end portion 1c.
  • the driver A sitting in the driver's seat in the passenger compartment 2 of the vehicle 1 is looking in front of the vehicle 1 through the windshield 2a.
  • the dashboard 2b has a meter panel 2c in front of the steering handle 2d.
  • the driver A slightly lowers his line of sight while driving the vehicle speed, water temperature, fuel remaining amount, etc. displayed on the meter panel 2c are visible. can do.
  • a small mirror 3 having a single mirror surface is provided at the right corner of the vehicle front end 1a.
  • the small mirror 3 is a convex mirror having a curvature radius of about 50 to 100 mm.
  • the small mirror 3 has a mirror reflection optical axis substantially parallel to the optical axis of the vehicle interior camera 4 so that the right side of the front end of the vehicle reflected on the mirror surface enters the field of view of the vehicle interior camera 4 in the vehicle interior 2. Installed at 45 degrees.
  • the mirror surface of the small mirror 3 needs to have a certain size in relation to the resolution of the vehicle interior camera 4. In terms of the performance (resolution) of the in-vehicle camera 4 that can be obtained commercially at low cost, the size of the mirror surface of the small mirror 3 is about 2 cm to 5 cm (diameter or diagonal length, etc.).
  • the vehicle interior camera 4 is a photographing unit that can be realized by a commercially available digital vehicle interior camera or the like, and is an upper part of the dashboard 2b in the vehicle interior 2 as shown in FIGS. 1 (a) and 1 (b). It is mounted in a position that does not enter the driver A's front view.
  • the vehicle interior camera 4 zooms in to a field of view a that reflects the image (hereinafter referred to as a mirror image) reflected on the mirror surface of the small mirror 3 to approximately the center of the photographing surface, or approximately 50% of the periphery of the mirror image. It has an optical system that can zoom down to a field of view b that reflects the background so as to occupy ⁇ 80% of the image area.
  • the in-vehicle display 5 is a display that displays an image obtained by performing image processing on the video imaged by the vehicle interior camera 4, and a display screen is arranged at a position where the driver A can visually recognize. For example, as shown in FIG. 1, by mounting the in-vehicle display 5 in a recess provided on the upper side of the dashboard 2b, which is a position close to the left side of the meter panel 2c, the operation is performed in the same manner as the meter panel 2c. If the person A slightly lowers his line of sight while driving, the display screen of the in-vehicle display 5 can be viewed.
  • the in-vehicle display 5 is a two-screen display capable of displaying separate images on each screen obtained by dividing one display screen into left and right. In the case shown in FIGS. A visual field RS on the right side of the front end of the vehicle is displayed on the right screen.
  • FIG. 3 is a diagram showing a right-side visual field (RS) of the vehicle front end portion and a left-side visual field (LS) of the vehicle front end portion by the vehicle visual assistance device according to the first embodiment.
  • the example shown in FIG. 3 shows a mode in which the small-sized mirror 3a having two mirror surfaces supports the visual recognition of the visual field RS on the right side of the vehicle front end and the visual field LS on the left side of the vehicle front end.
  • the small mirror 3a is mounted approximately at the center of the upper part of the vehicle front end 1a, and the angle of deviation of the optical axes of the two mirror surfaces with respect to the optical axis of the vehicle interior camera 4a is approximately 90 degrees.
  • the vehicle interior camera 4 a is a photographing unit having the same function as the vehicle interior camera 4 of FIG. 1, and is mounted almost at the center on the dashboard 2 b of the vehicle interior 2.
  • a mirror image reflected on the two mirror surfaces of the small mirror 3a is captured by the vehicle interior camera 4a, and the captured image is subjected to image processing to generate a video of the field of view RS on the right side of the vehicle front end and the left side of the vehicle front end.
  • the image of the field of view LS is extracted, the right-side image is displayed on the right screen of the vehicle-mounted display 5, and the left-side image is displayed on the left screen.
  • each of the small mirrors 3a that takes the right side and left side of the vehicle front end portion into view may provide a marker so that a mirror surface may be bordered (it mentions later using FIG. 6).
  • a marker for example, a tape colored with a luminescent color or an LED tape or the like adhered to the edge of the mirror surface can be considered.
  • FIG. 4 is a block diagram illustrating a functional configuration of the vehicle visual assistance device according to the first embodiment.
  • the vehicle visual assistance device 10 shown in FIG. 4 extracts at least one of the left and right side images of the front end of the vehicle from the images taken by the in-vehicle cameras 4 and 4a and displays the extracted image on the in-vehicle display 5 for sound output. Let the part 6 output a warning sound.
  • an image processing unit 11, a display control unit 12, and a detection unit 13 are provided as its functional configuration.
  • the image processing unit 11 performs image processing on images captured by the vehicle interior cameras 4 and 4a, and extracts mirror surface images of the small mirrors 3 and 3a.
  • the image processing unit 11 also performs display processing (sharpening) for improving the visibility of the extracted specular image and conversion processing into a display image that can be displayed on the in-vehicle display 5.
  • the sound output unit 6 has a sound source in which sound data serving as a caution sound is registered, and in order to guide the driver A's line of sight to the image displayed on the in-vehicle display 5, The output of the warning sound is continued until the output is instructed and the time instructed from the determination unit 14 elapses.
  • the alert sound is output when the surrounding image of the vehicle 1 is displayed on the in-vehicle display 5 in order to direct the driver A's line of sight toward the in-vehicle display 5, and for example, a pop sound or “ Voice guidance such as “Please attach” is conceivable.
  • the display control unit 12 is a display control unit that displays the display image input from the image processing unit 11 on the in-vehicle display 5 according to the traveling state of the vehicle 1, and includes a determination unit 14 and a control unit 15.
  • the determination unit 14 should display the display image input from the image processing unit 11 on the in-vehicle display 5 based on the information indicating the traveling state of the vehicle 1 detected by the detection unit 13 (display timing) and how. (Display mode) is determined.
  • the determination result display command is output from the determination unit 14 to the control unit 15.
  • the information indicating the traveling state of the vehicle 1 includes vehicle speed, brake on / off, accelerator on / off, and right / left turn signal on / off.
  • the control part 15 is a control part which displays the display image input from the image process part 11 on the vehicle-mounted display 5 according to the said instruction
  • the detection unit 13 is a detection unit that detects information indicating the traveling state of the vehicle 1.
  • the detection unit 13 detects a wheel speed pulse generated in conjunction with the rotational speed of the drive shaft of the host vehicle from a vehicle control unit (not shown in FIG. 4) mounted on the host vehicle. Based on the detected wheel speed pulse, a vehicle speed signal (analog or digital signal) corresponding to the vehicle speed is generated.
  • the detection unit 13 detects an operation signal of the brake pedal and the accelerator pedal (for example, a voltage signal corresponding to the depression amount of the pedal), and generates a brake on / off signal and an accelerator on / off signal. Furthermore, the detection unit 13 receives an electrical signal output in conjunction with the operation of the turn signal operation lever, and generates an on / off signal for turning the turn signal to the right or left.
  • FIG. 5 is a flowchart showing an outline of display image generation processing by the vehicle visual assistance device according to the first embodiment.
  • the display image generation processing by the image processing unit 11 will be described with reference to FIG. 5.
  • a mode of supporting visual recognition of the right visual field RS and the left visual field LS at the front end of the vehicle using the small mirror 3a having two mirror surfaces shown in FIG. 3 will be described.
  • the image processing unit 11 captures image data including a mirror image of the small mirror 3a photographed by the vehicle interior camera 4a while the vehicle 1 on which the apparatus 10 is mounted is driven by the driver A (at any time) ( Step ST1). That is, the image processing unit 11 inputs an image signal output from the vehicle interior camera 4a.
  • the image processing unit 11 extracts the peripheral frame portion of the mirror surface portion of the small mirror 3a from the captured image (step ST2).
  • the image 4A taken by the vehicle interior camera 4a has a background image area 4B in which the background of the small mirror 3a is reflected and a mirror image area 4C of the small mirror 3a.
  • the specular image region 4C is divided into a left specular image region 4CL and a right specular image region 4CR by an outer frame image region 4D in which markers provided so as to border each specular surface of the small mirror 3a are reflected. .
  • the image processing unit 11 performs binarization processing on the image 4A captured from the in-vehicle camera 4a, and generates an outer frame image region 4D, which is a frame-shaped high luminance region whose luminance value is equal to or greater than a predetermined threshold, as the image 4A. Determine from.
  • the image processing unit 11 extracts an image area (the mirror image area 4CL and the mirror image area 4CR) inside the peripheral frame portion (step ST3). Subsequently, the image processing unit 11 performs image processing for converting the extracted specular image areas 4CL and 4CR into a clear image (step ST4).
  • the contrast of the specular image is improved by expanding or flattening the histogram of the luminance distribution in the specular image regions 4CL and 4CR. That is, the image processing unit 11 creates a histogram representing the frequency distribution of density values (luminance values) for each pixel in the mirror image areas 4CL and 4CR.
  • the histogram is expanded, the luminance is converted so that the number of pixels with zero frequency in the histogram is as small as possible. Further, when the histogram is flattened, the luminance is converted so that the portion of the histogram with a large change in value has a small change.
  • the image processing unit 11 converts the image subjected to the sharpening process in step ST4 into a display image corresponding to the screen of the in-vehicle display 5 (step ST5). For example, conversion processing is performed to increase the image size of the right side image and the left side image so as to fit one screen size of the two screens of the in-vehicle display 5 (increase in the number of pixels). Further, when the screen size of the in-vehicle display 5 is smaller than the image size, conversion processing is performed to reduce the image size of the right side image and the left side image so as to match the screen size of the in-vehicle display 5 ( Decrease in the number of pixels). Finally, the image processing unit 11 outputs the image signals of the right side image and the left side image obtained by performing the above-described image processing to the display control unit 12 (step ST6).
  • FIG. 7 is a flowchart showing display control by the vehicular visual assistance device according to the first embodiment.
  • a display image of the display control unit 12 of the vehicular visual assistance device 10 shown in FIG. 4 along FIG. 7 is displayed. Details of the display control will be described.
  • the determination unit 14 of the display control unit 12 uses the vehicle speed signal, the brake on / off signal, the accelerator on / off signal, the turn signal right turn signal or the left turn signal output from the detection unit 13 as information indicating the traveling state of the vehicle 1.
  • ON / OFF is input (step ST1a).
  • the control unit 15 of the display control unit 12 inputs display image data output from the image processing unit 11.
  • the determination unit 14 determines whether or not the vehicle speed V of the vehicle 1 matches a predetermined traveling condition based on the vehicle speed signal input from the detection unit 13 (step ST2a).
  • the traveling state of the vehicle is slow traveling, low speed traveling, or normal traveling. That is, if V2 ⁇ V, it is normal traveling (traveling at a normal speed on the vehicle travel path), if V1 ⁇ V ⁇ V2, it is slow traveling, and if V ⁇ V1, it is slow traveling.
  • the first threshold value V1 is set to 15 km / h ⁇ 5 km / h
  • the second threshold value V2 is set to 35 km / h ⁇ 5 km / h.
  • ⁇ 5 km / h is a hysteresis provided before and after the vehicle speed V passes each threshold value.
  • the threshold value V1 15 km / h
  • 15-5 10 km / h only for 1 to 2 seconds).
  • the driving situation assumed in the vehicle speed range of slow driving is a driving situation that needs to be temporarily stopped, for example, when the vehicle 1 enters or exits a parking lot or when the vehicle 1 is in front of an intersection that has no blinds or traffic lights. Cases.
  • the driving situation assumed in the low-speed vehicle speed range is a driving situation in which the driver A needs to check the surroundings in other directions in addition to the forward direction at the same time. For example, the vehicle 1 turns left and right at the intersection. Or just before turning right or left.
  • the driving situation assumed in the normal vehicle speed range is a general driving situation in which the vehicle 1 travels on the vehicle driving path at a vehicle speed from about 35 km / h to high speed driving (for example, 70 km / h to 80 km / h or more). is there.
  • step ST2a When it is determined that the host vehicle is traveling normally (step ST2a; vehicle speed V> V2), the host vehicle is normally traveling on the vehicle traveling path, and the driver A should drive while paying attention to the front. Therefore, it is not necessary to visually recognize the situations on the right side and the left side of the front end portion of the vehicle. For this reason, the determination unit 14 outputs a command to the effect that the image input from the image processing unit 11 is not displayed on the vehicle-mounted display 5 to the control unit 15. The control unit 15 does not display the image input from the image processing unit 11 on the in-vehicle display 5 in accordance with the instruction from the determination unit 14 (step ST3a).
  • step ST2a When it is determined that the host vehicle is traveling at a low speed (step ST2a; vehicle speed V1 ⁇ V ⁇ V2), the determination unit 14 is based on the turn signal right turn signal or left turn signal on / off signal input from the detection unit 13. Then, the right / left turn state of the host vehicle is determined (step ST4a). Here, it is determined whether the traveling state of the host vehicle is a left turn (left on), a straight travel (off), or a right turn (right on).
  • step ST4a If it is determined that the host vehicle is going to turn left at low speed (step ST4a; left on), this corresponds to the case where the driver A wants to visually recognize the road situation in the direction of turning, that is, the situation on the left side of the front end of the vehicle. To do. Therefore, the determination unit 14 outputs to the control unit 15 a command to display the image on the left side of the vehicle front end input from the image processing unit 11 on the left screen of the in-vehicle display 5. The control unit 15 displays an image on the left side of the front end portion of the vehicle on the left screen of the in-vehicle display 5 in accordance with a command from the determination unit 14 (step ST5a).
  • step ST4a When it is determined that the host vehicle is going straight ahead at low speed (step ST4a; OFF), for example, the host vehicle is going straight through an intersection and the driver A is not only in front of the vehicle but also at the front end of the vehicle. This corresponds to the case where the user wants to visually recognize the situation on the left and right sides of. Therefore, the determination unit 14 outputs to the control unit 15 commands to display the left and right images of the front end of the vehicle input from the image processing unit 11 on the left and right screens of the in-vehicle display 5 respectively.
  • the control unit 15 displays an image on the right side of the vehicle front end on the right screen of the vehicle-mounted display 5 in accordance with a command from the determination unit 14 and displays an image on the left side of the vehicle front end on the left screen of the vehicle-mounted display 5. (Step ST6a).
  • step ST4a when it is determined that the host vehicle is going to turn right at low speed (step ST4a; right-on), the driver A wants to visually recognize the road situation in the direction of turning, that is, the situation on the right side of the front end of the vehicle. It corresponds to. Therefore, the determination unit 14 outputs to the control unit 15 a command to display the right side image of the vehicle front end input from the image processing unit 11 on the right screen of the in-vehicle display 5. The control unit 15 displays an image on the right side of the front end portion of the vehicle on the right screen of the in-vehicle display 5 in accordance with a command from the determination unit 14 (step ST7a).
  • step ST2a when it is determined that the host vehicle is traveling slowly (step ST2a; vehicle speed V ⁇ V1), the host vehicle is in a driving condition that requires stopping, for example, an entrance / exit in a parking lot or an intersection where there is no traffic light. Therefore, the driver A needs to visually recognize the situations on the right side and the left side of the front end portion of the vehicle in addition to the situation in front. Therefore, the determination unit 14 outputs to the control unit 15 commands to display the left and right images of the front end of the vehicle input from the image processing unit 11 on the left and right screens of the in-vehicle display 5 respectively.
  • the control unit 15 displays an image on the right side of the vehicle front end on the right screen of the vehicle-mounted display 5 in accordance with a command from the determination unit 14 and displays an image on the left side of the vehicle front end on the left screen of the vehicle-mounted display 5. (Step ST8a).
  • the determination unit 14 determines whether or not the accelerator pedal has been operated based on the information input from the detection unit 13 (step ST9a). If the accelerator pedal is not operated (step ST9a; none), the process is terminated. When the accelerator pedal is operated (step ST9a; present), the determination unit 14 determines whether or not the sound output unit 6 is generating a warning sound (step ST10a). If a warning sound is generated (step ST10a; YES), the process is terminated.
  • step ST10a If no caution sound is generated (step ST10a; NO), the determination unit 14 causes the sound output unit 6 to output a caution sound until a predetermined time T2 elapses from when the operation of the accelerator pedal is completed. (Step ST11a). Next, the determination unit 14 displays each outer frame image (outer frame image region 4D showing the marker) in the right side and left side images of the front end of the vehicle currently displayed on the vehicle-mounted display 5 for a predetermined time T3. A command for highlighting is output to the control unit 15 until elapses.
  • the control unit 15 controls the right frame of the vehicle front end displayed on the right screen of the vehicle-mounted display 5 until the predetermined time T ⁇ b> 3 elapses, and the vehicle-mounted display 5.
  • the outer frame of the left side image of the vehicle front end displayed on the left screen is highlighted (step ST12a). Note that the highlighting means that the outer frame of the image is converted to high brightness (highlight), the width of the marker area is increased, or the outer frame blinks to visually alert the driver A to the attention. The display to do.
  • a warning sound is generated when the driver A operates the accelerator pedal, and when a predetermined time T2 has elapsed from when the operation of the accelerator pedal is finished, the warning sound is automatically generated. Stops occurring. Further, by highlighting the outer frame of the left and right side images so as to have high brightness or blinking, the driver A's line of sight is guided, and when the predetermined time T3 has elapsed, the display mode is automatically restored. Yes. Since it is considered that the driver A can drive more smoothly by first listening to the alert sound and then visually recognizing the image highlighted on the in-vehicle display 5, for example, the time T2 is approximately 2 to The time T3 is 3 seconds and is about 5 to 10 seconds.
  • the operation of the flowchart of the display control shown in FIG. 7 is periodically repeated with the time for one round of the flow being controlled at a time of about 10 milliseconds.
  • time control is performed, the operation time (cycle) is not limited.
  • the small mirrors 3 and 3a that are mounted in the vicinity of the vehicle front end 1a outside the vehicle compartment 2 and project the side region of the vehicle front end 1a on the mirror surface, the vehicle interior Vehicle interior cameras 4 and 4a for capturing images including the mirror surfaces of the small mirrors 3 and 3a, and image processing of the images captured by the vehicle interior cameras 4 and 4a, and the mirror surfaces of the small mirrors 3 and 3a
  • An image processing unit 11 that extracts an image reflected in the vehicle and a display screen arranged at a position where the driver A in the passenger compartment 2 can visually recognize (for example, near the center on the dashboard 2b), and left and right screens in the display screen In-vehicle display 5 capable of displaying separate images and an image showing an image showing a region on the side of the vehicle front end 1a among images extracted by the image processing unit 11 according to the traveling state of the vehicle 1 To display on the screen of the corresponding direction of the in-vehicle display 5 And a control unit 12.
  • the degree of freedom of attachment to the vehicle body is high, and complicated maintenance work is unnecessary. Further, the left and right visual fields of the front end 1a of the vehicle to be visually recognized by the driver A can be displayed for the driver A without any sense of incongruity according to the traveling state of the vehicle 1.
  • the display control unit 12 displays an image according to any of the speed of the vehicle 1, the presence / absence of an acceleration / deceleration operation, the presence / absence of a brake operation, and the presence / absence of a right / left turn of the vehicle 1.
  • an image showing the left side region of the vehicle front end 1a is displayed on the left screen of the in-vehicle display 5, and an image showing the right side region of the vehicle front end 1a is displayed on the vehicle. Since it is displayed on the right screen of the device 5, the left and right visual fields of the vehicle front end 1 a that should be visually recognized by the driver A can be displayed to the driver A without a sense of incongruity at a necessary timing.
  • FIG. 8 is a diagram showing a left side field of view (LS) of the front end portion of the vehicle and a field of view (LSB) when the left side of the vehicle is viewed from the front to the rear by the vehicle vision support apparatus according to Embodiment 2 of the present invention.
  • FIG. 8A shows the inner top surface of the vehicle equipped with the vehicle visual assistance device according to the second embodiment
  • FIG. 8B shows an enlargement of the small mirror in FIG. The figure is shown.
  • the example shown in FIG. 8 shows an aspect in which the small-sized mirror 3b having two mirror surfaces supports the visual recognition of the visual field LS on the left side of the front end of the vehicle and the visual field LSB when the left side of the vehicle is viewed from the front to the rear. .
  • the small mirror 3b is mounted on the left end of the upper part of the vehicle front end 1a, and is arranged so as to jump out from the vehicle body sideward so that the left side of the vehicle front end and the left side of the vehicle are reflected on each mirror surface.
  • the vehicle interior camera 4b is a photographing unit having the same function as the vehicle interior cameras 4 and 4a according to the first embodiment, and as shown in FIG. 8B, the left end on the dashboard 2b of the vehicle interior 2 Mounted on.
  • a mirror image reflected on the two mirror surfaces of the small mirror 3b is photographed by the vehicle interior camera 4b, and the photographed image is image-processed, and an image of the left field of view LS at the front end of the vehicle, and the left side of the vehicle
  • the image of the field of view LSB viewed from the front to the rear is extracted, the left side image of the front end of the vehicle is displayed on the right screen of the in-vehicle display 5, and the left side image of the rear side of the vehicle is displayed on the left screen.
  • the driver A can obtain a left-side visual field LS at the front end of the vehicle and a wider visual field LSB than the visual field B in addition to the left-side visual field B obtained by the existing door mirror 3A. That is, the field of view LSB when the left side of the vehicle is viewed from the front to the rear includes a region that is a blind spot that cannot be viewed with the existing door mirror 3A.
  • a small size is used to distinguish an image taken by the vehicle interior camera 4 b from the left side image of the front end of the vehicle and the image of the area viewed from the left side of the vehicle from the front to the rear.
  • You may provide a marker so that each mirror surface which views the right side and the left side of the vehicle front end part in the mirror 3b in the visual field may be bordered.
  • the marker for example, a tape colored with a light emitting color that is not so much in the environment outside the vehicle or an LED tape or the like adhered to the edge of the mirror surface can be considered.
  • FIG. 9 is a diagram showing a left field of view (LS) of the front end portion of the vehicle and a field of view (LSB) of looking at the left side of the vehicle from the front to the rear by the vehicle vision assistance device according to the second embodiment.
  • LS left field of view
  • LSB field of view
  • FIG. 9A shows an inner top surface of the vehicle equipped with the vehicle vision assistance device according to the second embodiment
  • FIG. 9B is an enlarged view of the small mirror in FIG. 9A. Is shown.
  • the small mirror 3c shown in FIG. 9 enables visual recognition of the left side visual field LS of the vehicle front end and the visual field LSB when the left side of the vehicle is viewed from the front to the rear. Yes.
  • the small mirror 3c has a structure in which the respective reflection optical axes of the two mirror surfaces intersect on the reflection surface side. With this structure, when the small mirror 3c is arranged so that the left side of the front end of the vehicle and the left side of the vehicle are reflected on each mirror surface, the volume of the portion protruding from the vehicle body to the side can be reduced. .
  • FIG. 10 is a block diagram illustrating a functional configuration of the vehicle visual assistance device according to the second embodiment.
  • the vehicle visual assistance device 10A shown in FIG. 10 has the small mirrors 3b and 3c and the vehicle interior camera 4b shown in FIG. That is, the vehicular visual assistance device 10A has at least one of images of a region in which the left and right sides of the front end of the vehicle and the left and right sides of the vehicle are viewed from the front to the rear from the image captured by the vehicle interior camera 4b. Is extracted and displayed on the in-vehicle display 5 and the sound output unit 6 is made to output a warning sound.
  • an image processing unit 11, a display control unit 12A, and a detection unit 13 are provided.
  • the image processing unit 11 is an image processing unit that performs image processing on images captured by the vehicle interior camera 4b and extracts mirror images of the small mirrors 3b and 3c. Further, as in the first embodiment, the image processing unit 11 performs display processing (sharpening) for improving the visibility of the extracted specular image and conversion processing into a display image that can be displayed on the in-vehicle display 5. .
  • the sound output unit 6 has a sound source in which sound data serving as a warning sound is registered, and outputs a warning sound from the determination unit 14A in order to guide the driver A's line of sight to the image displayed on the vehicle-mounted display 5. Is output, and the output of the alert sound is continued until the time specified by the determination unit 14A has elapsed. As the alert sound, for example, a pop sound or a voice guidance such as “Please watch out for left and right” can be considered.
  • the display control unit 12A displays the display image input from the image processing unit 11 (one of the left and right side images of the vehicle front end and the image of the region when the left and right sides of the vehicle are viewed from the front to the rear).
  • This is a display control unit that displays on the vehicle-mounted display 5 in accordance with the traveling state, and includes a determination unit 14A and a control unit 15.
  • the determination unit 14 ⁇ / b> A is configured to display the display image input from the image processing unit 11 on the vehicle-mounted display 5 based on the information indicating the vehicle traveling state detected by the detection unit 13, and to the vehicle-mounted display 5 To display (display mode).
  • a display command corresponding to the determination result is output from the determination unit 14 ⁇ / b> A to the control unit 15.
  • the information indicating the traveling state of the vehicle includes vehicle speed, brake on / off, accelerator on / off, right turn / left turn signal on / off.
  • the control unit 15 is a control unit that displays the display image input from the image processing unit 11 on the in-vehicle display 5 in accordance with the command when the command from the determination unit 14A is input. For example, when the images to be displayed on the in-vehicle display 5 among the display images extracted by the image processing unit 11 are the left side of the vehicle front end and the left side of the vehicle, the left side of the vehicle is moved forward. The image of the area viewed from the rear is displayed on the left screen of the in-vehicle display 5, and the image on the left side of the vehicle front end is displayed on the right screen of the in-vehicle display 5.
  • the detection unit 13 is a detection unit that detects information indicating the traveling state of the vehicle 1.
  • the detection unit 13 detects and detects wheel speed pulses generated in conjunction with the rotational speed of the drive shaft of the host vehicle from a vehicle control unit (not shown in FIG. 10) mounted on the host vehicle. Based on the wheel speed pulse thus generated, a vehicle speed signal (analog or digital signal) corresponding to the vehicle speed is generated.
  • the detection unit 13 detects an operation signal of the brake pedal and the accelerator pedal (for example, a voltage signal corresponding to the depression amount of the pedal) and generates a brake on / off signal and an accelerator on / off signal. Furthermore, the detection unit 13 inputs an electrical signal output in conjunction with the operation of the turn signal operation lever, and generates an on / off signal for turning the turn signal to the right or left.
  • the image processing unit 11 extracts a left and right side image of the front end of the vehicle and an image of a region when the left and right sides of the vehicle are viewed from the front to the rear from the video captured by the vehicle interior camera 4b. Since this is the same as that of the first embodiment, description thereof is omitted. Hereinafter, the details of the display control by the vehicle visual assistance device 10A will be described.
  • FIG. 11 is a flowchart showing display control by the vehicle visual assistance device according to the second embodiment.
  • FIG. 12 is a flowchart showing the processing of subroutines A1, A2 and A3 in FIG.
  • the determination unit 14A of the display control unit 12A includes a vehicle speed signal, a brake on / off signal, an accelerator on / off signal, a turn signal right turn signal or a left turn signal output from the detection unit 13 as information indicating the traveling state of the vehicle 1.
  • ON / OFF is input (step ST1b).
  • the control unit 15 of the display control unit 12A inputs the display image data output from the image processing unit 11.
  • the determination unit 14A determines whether or not the vehicle speed V of the vehicle 1 matches a predetermined traveling condition based on the vehicle speed signal input from the detection unit 13 (step ST2b).
  • a speed threshold value V1 indicating the upper limit of the vehicle speed range for slow travel
  • a speed threshold value V2 indicating the upper limit of the vehicle speed range for low speed travel
  • the vehicle is traveling slowly, traveling at low speed, or traveling normally. That is, if V2 ⁇ V, it is normal traveling (traveling at a normal speed on the vehicle travel path), if V1 ⁇ V ⁇ V2, it is slow traveling, and if V ⁇ V1, it is slow traveling.
  • Each threshold value may be provided with hysteresis as in the first embodiment.
  • step ST2b vehicle speed V> V2
  • the driver A confirms whether a motorcycle or the like is approaching from the rear in addition to the front view. Since it is determined that the driving situation is to be driven, it is necessary to visually recognize each situation on the left and right sides of the vehicle. For this reason, the determination unit 14 ⁇ / b> A outputs, to the control unit 15, a command to display the left and right side images of the vehicle on the in-vehicle display 5 among the images input from the image processing unit 11.
  • the control unit 15 displays an image on the left side of the vehicle on the left screen of the in-vehicle display 5 and displays an image on the right side of the vehicle on the right screen of the on-vehicle display 5 in accordance with a command from the determination unit 14A (step) ST3b).
  • subroutine A1 is executed.
  • the determination unit 14 ⁇ / b> A determines whether the host vehicle is turning right or left based on a turn signal right turn signal or a left turn signal on / off signal input from the detection unit 13.
  • the traveling state of the host vehicle is a right turn or a left turn (right or left on) or a straight drive (off).
  • the determination unit 14A ends the processing of the subroutine A1, returns to the flow of FIG. 11, and ends the display control.
  • the determination unit 14A determines whether the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A1 is terminated. If no caution sound is generated (NO), the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T1 elapses from the time when the turn signal returns from the on state to the off state. . When the time T1 has elapsed, the processing of the subroutine A1 is terminated.
  • the subroutine A1 generates a warning sound when the turn signal is turned on right or left, and alerts when a predetermined time T1 elapses from the time when the turn signal returns from the on state to the off state. This is an operation to stop sound generation.
  • the time T1 is a short time of about 1 to 2 seconds because it is only necessary to generate a warning sound when the driver A turns the vehicle 1 right or left.
  • step ST2b when it is determined that the host vehicle is traveling at a low speed (step ST2b; vehicle speed V1 ⁇ V ⁇ V2), the determination unit 14A determines whether the turn signal input from the detection unit 13 is a right turn signal or a left turn signal on / off signal. To determine whether the vehicle is turning left or right (step ST4b). Here, it is determined whether the traveling state of the host vehicle is a left turn (left on), a straight travel (off), or a right turn (right on). When it is determined that the host vehicle is going to turn left at low speed (step ST4b; left on), in addition to the road conditions in the direction of the turn, so that the driver A does not involve a motorcycle approaching from the left rear.
  • the determination unit 14 ⁇ / b> A outputs to the control unit 15 a command to display the left side image of the vehicle input from the image processing unit 11 on the in-vehicle display 5.
  • the control unit 15 displays an image on the left side of the vehicle on the left screen of the in-vehicle display 5 in accordance with a command from the determination unit 14A (step ST5b).
  • the determination unit 14 ⁇ / b> A outputs to the control unit 15 a command for causing the in-vehicle display 5 to display an image on the left side of the vehicle front end input from the image processing unit 11.
  • the control unit 15 displays an image on the left side of the front end of the vehicle on the right screen of the in-vehicle display 5 in accordance with a command from the determination unit 14A (step ST6b).
  • the driver A displays the left screen from the left side image of the front end portion of the vehicle displayed on the right screen, similarly to the positional relationship in the actual vehicle.
  • the displayed image on the left side of the vehicle can be viewed.
  • subroutine A2 is executed.
  • the determination unit 14 ⁇ / b> A determines whether or not the accelerator pedal has been operated based on information input from the detection unit 13.
  • the processing of subroutine A2 is terminated and the processing returns to the flow of FIG.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A2 is terminated.
  • the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T2 elapses from when the operation of the accelerator pedal is finished.
  • the determination unit 14 ⁇ / b> A displays each outer frame in an image of a region when the left side of the vehicle currently displayed on the vehicle-mounted display 5 is viewed from the front to the rear and an image on the left side of the front end of the vehicle.
  • a command for highlighting the image (outer frame image region 4D showing the marker) until a predetermined time T3 elapses is output to the control unit 15.
  • the control unit 15 highlights the outer frame of the image on the left side of the vehicle displayed on the left screen of the in-vehicle display 5 until the predetermined time T3 elapses in accordance with the instruction from the determination unit 14A.
  • the outer frame of the image on the left side of the vehicle front end displayed on the right screen of the display 5 is highlighted.
  • a warning sound is generated when the driver A operates the accelerator pedal, and when a predetermined time T2 has elapsed from when the operation of the accelerator pedal is completed, the generation of the warning sound is automatically stopped. To do.
  • the driver A's line of sight is guided, and when the predetermined time T3 has elapsed, the display mode is automatically restored. Yes. Since it is considered that the driver A can drive more smoothly by first listening to the alert sound and then visually recognizing the image highlighted on the in-vehicle display 5, for example, the time T2 is approximately 2-3. The second and the time T3 are about 5 to 10 seconds.
  • the determination unit 14 ⁇ / b> A determines whether or not the brake pedal has been operated based on the information input from the detection unit 13.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If the alert sound is not generated (NO), the process of subroutine A3 is terminated. If a warning sound is generated (YES), the determination unit 14A causes the sound output unit 6 to generate a warning sound until a predetermined time T4 elapses from when the brake pedal is operated.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A3 is terminated. If no caution sound is generated (NO), the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T4 elapses from when the brake pedal is operated.
  • the determination unit 14A displays each outer frame in the image on the left side of the front end portion of the vehicle currently displayed on the vehicle-mounted display 5 and the image of the region when the left side of the vehicle is viewed from the front to the rear.
  • a command for highlighting the image (outer frame image region 4D showing the marker) until a predetermined time T3 elapses is output to the control unit 15.
  • the control unit 15 displays an image of an area in which the left side of the vehicle displayed on the left screen of the in-vehicle display 5 is viewed from the front to the rear until a predetermined time T3 elapses.
  • the outer frame and the outer frame of the image on the left side of the front end portion of the vehicle displayed on the right screen of the vehicle-mounted display 5 are highlighted.
  • a warning sound is generated from the time when the driver A operates the brake pedal, and the generation of the warning sound is automatically stopped when the predetermined time T4 has elapsed.
  • the driver A's line of sight is guided, and when the predetermined time T3 has elapsed, the display mode is automatically restored. Yes. Since it is considered that the driver A can drive more smoothly by first listening to the alert sound and then visually recognizing the image highlighted on the in-vehicle display 5, for example, the time T4 is approximately 1 to 2 seconds and the time T3 are about 5 to 10 seconds.
  • the determination unit 14 ⁇ / b> A outputs, to the control unit 15, a command for displaying the right and left images behind the vehicle input from the image processing unit 11 on the left screen of the in-vehicle display 5.
  • the control unit 15 displays an image of a region viewed from the front right side of the vehicle from the front to the rear in accordance with a command from the determination unit 14A, and displays the left side of the vehicle from the front to the rear.
  • the image of the viewed area is displayed on the left screen of the in-vehicle display 5 (step ST7b). Thereafter, the process is terminated.
  • step ST4b When it is determined that the host vehicle is going to turn right at low speed (step ST4b; right-on), in addition to the road condition in the direction of the turn so that the driver A does not involve a motorcycle approaching from the right rear This corresponds to the case where it is desired to visually recognize the situation behind the vehicle, that is, the situation on the right side behind the vehicle. Therefore, the determination unit 14 ⁇ / b> A outputs, to the control unit 15, a command for causing the in-vehicle display 5 to display an image of a region when the right side of the vehicle input from the image processing unit 11 is viewed from the front to the rear.
  • the control unit 15 displays an image of a region in which the right side of the vehicle is viewed from the front to the rear in accordance with a command from the determination unit 14A on the left screen of the in-vehicle display 5 (step ST8b). Furthermore, the determination unit 14 ⁇ / b> A outputs to the control unit 15 a command for causing the vehicle-mounted display 5 to display an image on the right side of the vehicle front end input from the image processing unit 11. The control unit 15 displays an image on the right side of the front end of the vehicle on the right screen of the in-vehicle display 5 in accordance with a command from the determination unit 14A (step ST9b).
  • subroutine A2 is executed.
  • the determination unit 14A determines whether or not the accelerator pedal has been operated based on information input from the detection unit 13. Here, if there is no operation of the accelerator pedal (none), the processing of subroutine A2 is terminated and the processing returns to the flow of FIG.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A2 is terminated. If no caution sound is generated (NO), the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T2 elapses from when the operation of the accelerator pedal is finished.
  • the determination unit 14 ⁇ / b> A displays each outer frame in an image of a region viewed from the front side to the rear side of the right side of the vehicle currently displayed on the in-vehicle display 5 and an image on the right side of the front end of the vehicle.
  • a command for highlighting the image (outer frame image region 4D showing the marker) until a predetermined time T3 elapses is output to the control unit 15.
  • the control unit 15 displays an image of a region in which the right side of the vehicle displayed on the left screen of the in-vehicle display 5 is viewed from the front to the rear until a predetermined time T3 has elapsed. And the outer frame of the image on the right side of the front end portion of the vehicle displayed on the right screen of the in-vehicle display 5 are highlighted.
  • the determination unit 14A determines whether or not the brake pedal has been operated based on information input from the detection unit 13. Here, if there is an operation of the brake pedal (there is), the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If the alert sound is not generated (NO), the process of subroutine A3 is terminated. If a warning sound is generated (YES), the determination unit 14A causes the sound output unit 6 to generate a warning sound until a predetermined time T4 elapses from when the brake pedal is operated. Thereafter, the process of the subroutine A3 is terminated and the process returns to the flow of FIG.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A3 is terminated. If no caution sound is generated (NO), the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T4 elapses from when the brake pedal is operated.
  • the determination unit 14 ⁇ / b> A presents each outer frame in the right side image of the front end portion of the vehicle currently displayed on the in-vehicle display 5 and the image of the region when the right side of the vehicle is viewed from the front to the rear.
  • a command for highlighting the image (outer frame image region 4D showing the marker) until a predetermined time T3 elapses is output to the control unit 15.
  • the control unit 15 displays an image of a region in which the right side of the vehicle displayed on the left screen of the in-vehicle display 5 is viewed from the front to the rear until a predetermined time T3 has elapsed. And the outer frame of the image on the right side of the front end portion of the vehicle displayed on the right screen of the in-vehicle display 5 are highlighted.
  • step ST2b when it is determined that the host vehicle is traveling slowly (step ST2b; V ⁇ V1), the host vehicle is in a driving situation where the host vehicle needs to be stopped, for example, a state where the vehicle is approaching an intersection where there is no doorway or traffic signal. Since the determination is made, the driver A needs to visually recognize the situation on the right side and the left side of the front end of the vehicle. Therefore, the determination unit 14 ⁇ / b> A outputs, to the control unit 15, a command for displaying the right side image and the left side image of the vehicle front end input from the image processing unit 11 on the left screen of the in-vehicle display 5.
  • the control unit 15 displays the image on the right side of the vehicle front end on the right screen of the in-vehicle display 5 and displays the image on the left side of the vehicle front end on the left screen of the in-vehicle display 5 in accordance with a command from the determination unit 14A. Displayed (step ST10b).
  • subroutine A2 is executed.
  • the determination unit 14A determines whether or not the accelerator pedal has been operated based on information input from the detection unit 13. Here, if there is no operation of the accelerator pedal (none), the processing of subroutine A2 is terminated and the flow returns to the flow of FIG.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A2 is terminated. If no caution sound is generated (NO), the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T2 elapses from when the operation of the accelerator pedal is finished.
  • the determination unit 14A is configured to display each outer frame image (an outer frame image region in which a marker is displayed) in the image on the right side of the vehicle front end portion and the image on the left side of the vehicle front end portion currently displayed on the vehicle-mounted display 5.
  • 4D is output to the control unit 15 so as to be highlighted until a predetermined time T3 elapses.
  • the control unit 15 includes an outer frame of an image on the left side of the front end portion of the vehicle displayed on the left screen of the vehicle-mounted display 5 until the predetermined time T3 has passed, 5 is highlighted with the outer frame of the image on the right side of the front end of the vehicle displayed on the right screen.
  • the determination unit 14A determines whether the host vehicle turns right or left based on the turn signal right turn signal or left turn signal on / off signal input from the detection unit 13 (step ST11b). When it is determined that the host vehicle is traveling at a low speed and going straight (OFF), the determination unit 14A ends the display control of FIG. In addition, when it is determined that the host vehicle is traveling at a low speed and is about to turn right or left (right or left on), the determination unit 14A executes the process of subroutine A3.
  • the determination unit 14A determines whether or not the brake pedal has been operated based on the information input from the detection unit 13. Here, if there is an operation of the brake pedal (there is), the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If the alert sound is not generated (NO), the process of subroutine A3 is terminated. If a warning sound is generated (YES), the determination unit 14A causes the sound output unit 6 to generate a warning sound until a predetermined time T4 elapses from when the brake pedal is operated. Thereafter, the process of the subroutine A3 is terminated and the process returns to the flow of FIG.
  • the determination unit 14A determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A3 is terminated. If no caution sound is generated (NO), the determination unit 14A causes the sound output unit 6 to output a caution sound until a predetermined time T4 elapses from when the brake pedal is operated.
  • the determination unit 14 ⁇ / b> A currently displays each outer frame image (an outer frame image showing a marker) in the left side image of the vehicle front end portion and the right side image of the vehicle front end portion currently displayed on the vehicle-mounted display 5.
  • a command for highlighting the region 4D) until the predetermined time T3 has elapsed is output to the control unit 15.
  • the control unit 15 includes an outer frame of an image on the left side of the front end portion of the vehicle displayed on the left screen of the vehicle-mounted display 5 until the predetermined time T3 has passed, 5 is highlighted with the outer frame of the image on the right side of the front end of the vehicle displayed on the right screen.
  • the operation of the flowchart of the display control shown in FIG. 11 is periodically repeated with the time for one round of the flow being controlled at a time of about 10 milliseconds.
  • time control is performed, the operation time (cycle) is not limited.
  • the small mirror is mounted in the vicinity of the vehicle front end 1a outside the passenger compartment 2, and reflects at least one region of the region in which the side of the vehicle is viewed from the front to the rear on the mirror surface.
  • a vehicle interior camera 4b that is mounted in the vehicle interior 2 and captures an image including the mirror surface of the small mirrors 3b and 3c, and the image captured by the vehicle interior camera 4b is subjected to image processing, and the small mirror 3b
  • An image processing unit 11A that extracts an image reflected on the mirror surface of 3c and a display screen are arranged at a position where the driver A in the passenger compartment 2 can visually recognize (for example, near the center on the dashboard 2b).
  • the vehicle-mounted display 5 capable of displaying different images on the left and right screens, and the side of the vehicle 1 as seen from the front to the rear among the images extracted by the image processing unit 11A according to the traveling state of the vehicle 1
  • In-vehicle display 5 Comprising a display control unit 12A to be displayed in the corresponding direction of the screen.
  • the display control unit 12A displays an image according to any of the speed of the vehicle 1, the presence / absence of an acceleration / deceleration operation, the presence / absence of a brake operation, and the presence / absence of a right / left turn of the vehicle 1.
  • an image showing a region of the left side of the vehicle 1 viewed from the front to the rear is displayed on the left screen of the in-vehicle display 5 and the left side of the vehicle 1 is viewed from the front to the rear.
  • the image showing the region is displayed on the right screen of the in-vehicle display 5, the field of view of the vehicle 1 viewed from the left and right sides from the front to the rear can be displayed to the driver A without a sense of incongruity at the necessary timing. .
  • FIG. 13 shows a field of view on the right side (RS), a field of view on the left side (LS) of the front end of the vehicle by the visual assistance device for a vehicle according to Embodiment 3 of the present invention, and a field of view of the blind spot area on the right front by the front pillar ( It is a figure which shows (DRS).
  • the small-sized mirror 3d having two mirror surfaces supports the visual field RS on the right side of the front end portion of the vehicle, the visual field LS on the left side, and the visual field DRS in the blind spot area on the right front by the front pillar 2e. Is shown.
  • the small mirror 3 d is mounted substantially at the center of the upper portion of the front end portion of the vehicle, and is arranged so that each mirror surface faces the left and right of the vehicle 1.
  • the vehicle interior camera 4c is a photographing unit having the same function as the vehicle interior camera shown in the first and second embodiments, and as shown in FIG. 13, the passenger seat on the dashboard 2b of the vehicle interior 2 It is installed in the front part.
  • the vehicle interior camera 4c is arranged so as to be inclined with respect to the front of the vehicle 1 as viewed from above so that the optical axis thereof is directed to the front right of the vehicle 1, and in addition to the mirror image of the small mirror 3d, the background thereof
  • the optical system is adjusted so that the blind spot area by the front pillar 2e in front of the vehicle enters the visual field CFV.
  • Some vehicles have a wide front pillar 2e.
  • a vehicle 1 in such a vehicle 1, as shown in FIG. 13, in the front view MFV of the driver A, the front left side of the vehicle 1 is blocked by the front pillar 2 e, and a blind spot region (a hatched line in FIG. Attached area). Therefore, in the third embodiment, as described above, the small mirror 3d and the vehicle interior camera 4c are arranged, and the background portion other than the mirror image of the small mirror 3d in the image captured by the vehicle interior camera 4c is also recognized. Thus, the respective images of the visual field RS on the right side of the front end portion of the vehicle, the visual field LS on the left side, and the visual field DRS in the blind spot area on the right front by the front pillar 2e are obtained.
  • the vehicle-mounted display 5A for exclusive use which displays the situation of the blind spot area concerned is provided.
  • the in-vehicle display 5A is installed in the vicinity of the front pillar 2e on the dashboard 2b of the passenger compartment 2, that is, in a position facing the blind spot area, and the in-vehicle display 5A is lowered by the driver A slightly lowering his line of sight while driving. The state of the blind spot area on the right front by the front pillar 2e displayed on the device 5A can be visually confirmed.
  • the right side and the left side of the front end of the vehicle in the small mirror 3d are taken into view.
  • a marker for example, a tape that is colored in a luminescent color or the like is adhered to the edge of the mirror surface.
  • FIG. 14 is a diagram showing a field of view necessary when a vehicle turns right or left at an intersection.
  • the left view LS at the front end of the vehicle and the right view at the front end of the vehicle Field of view RS is required.
  • a pedestrian, bicycle, motorcycle, or the like crossing the pedestrian crossing may enter a blind spot area on the right front side by the front pillar 2e. Therefore, the visual field DRS of the blind spot area on the right front by the front pillar 2e is required.
  • FIG. 15 is a diagram illustrating an arrangement example of the display in the vehicular visual assistance device according to the third embodiment
  • FIG. 15 (a) is an in-vehicle state when the driver's seat side is viewed from the rear seat side of the vehicle interior.
  • FIG. 15B shows a case where the passenger compartment of FIG. 15A is viewed from the left side.
  • each image of the right field of view RS, the left field of view LS, and the field DRS of the blind spot area in the right front by the front pillar 2e is used.
  • the vehicle-mounted displays 5 and 5A are provided to display images of these fields of view to the driver A without a sense of incongruity.
  • the vehicle-mounted display device 5 is a display device in which a display screen is arranged at a position where the driver A can visually recognize, for example, as shown in FIG. It is mounted in a recess (on the front side of the vehicle, that is, on the back side of the dashboard front surface 2b-1) provided in the upper part of the dashboard 2b.
  • the driver A operates the in-vehicle information device (navigation device or the like) arranged on the dashboard front surface 2b-1, it is necessary to return the line of sight to the dashboard front surface 2b-1 from the line of sight while driving.
  • an image of the visual field LS on the left side of the front end of the vehicle is displayed on the left screen of the vehicle-mounted display 5 in accordance with the actual positional relationship of the vehicle 1.
  • the image of the visual field RS on the right side is displayed on the right screen.
  • the in-vehicle display 5A is a display in which a display screen is arranged at a position where the driver A in the passenger compartment 2 facing the blind spot area DRS is visible.
  • the in-vehicle display 5A is in the vicinity of the front pillar 2e on the dashboard 2b of the passenger compartment 2, and the front view MFV of the driver A is displayed. It is installed in a position that does not block.
  • the driver A can visually recognize the state of the blind area on the right front side by the front pillar 2e displayed on the in-vehicle display 5A by slightly lowering the line of sight while driving.
  • an in-vehicle display 5B may be provided at the position of the room inner mirror or the like as a display on which the display screen is arranged at a position where the driver A in the passenger compartment 2 can visually recognize.
  • the in-vehicle display 5B is composed of, for example, a two-screen display capable of displaying separate images on each screen obtained by dividing one display screen into left and right like the in-vehicle display 5, and images around the rear end of the vehicle are displayed. indicate.
  • the configuration for obtaining the peripheral visual field at the rear end of the vehicle will be described later with reference to FIGS.
  • the driver A can view the front view through the windshield 2 a and the left and right view behind the vehicle by the existing left and right door mirrors 3 ⁇ / b> A.
  • the field of view RS on the right side of the front end of the vehicle, the field of view LS on the left side, the field of view DRS in the blind area on the right front by the front pillar 2e, and the field of view around the rear end of the vehicle can be obtained.
  • FIG. 16 is a block diagram illustrating a functional configuration of the vehicular visual assistance device according to the third embodiment.
  • the small mirror 3d and the vehicle interior camera 4c shown in FIG. 13 are mounted, and the small mirrors 3b and 3c shown in FIG. 8 or FIG. 9 in the second embodiment.
  • the vehicle interior camera 4b is mounted on the left and right sides of the vehicle body.
  • the vehicle visual assistance device 10B extracts at least one of these images and displays it on the vehicle-mounted display 5 or the vehicle-mounted display 5A, and causes the sound output unit 6 to output a warning sound.
  • an image processing unit 11, an image processing unit 11A, a display control unit 12B, and a detection unit 13 are provided.
  • the image processing unit 11 is an image processing unit that performs image processing on images captured by the vehicle interior cameras 4b and 4c, and extracts each mirror image of the small mirrors 3b, 3c, and 3d. Further, as in the first embodiment, the image processing unit 11 performs display processing (sharpening) for improving the visibility of the extracted specular image, and displays the display image that can be displayed on the in-vehicle display 5 and the in-vehicle display 5A. Perform the conversion process.
  • the image processing unit 11A is an image processing unit that performs image processing on images captured by the vehicle interior cameras 4b and 4c, and extracts background images other than the specular images of the small mirrors 3b, 3c, and 3d.
  • the image processing unit 11 ⁇ / b> A performs display processing (sharpening) for improving the visibility of the extracted background image, and a display image that can be displayed on the in-vehicle display 5 and the in-vehicle display 5 ⁇ / b> A. Perform the conversion process.
  • the sound output unit 6 includes a sound source in which sound data serving as a warning sound is registered, and outputs a warning sound from the determination unit 14B in order to guide the driver A's line of sight to the image displayed on the in-vehicle display 5. Is output, and the output of the alert sound is continued until the time specified by the determination unit 14A has elapsed.
  • the alert sound for example, a pop sound or a voice guidance such as “Please watch out for left and right” can be considered.
  • the display control unit 12B displays the display images input from the image processing unit 11 and the image processing unit 11A (an image on the left and right sides of the front end of the vehicle, an image of a blind spot area on the right front by the front pillar 2e, and an image on the left and right sides of the vehicle). Is displayed on the in-vehicle display 5 or on the in-vehicle display 5A according to the traveling state of the vehicle, and includes a determination unit 14B, a control unit 15A, and a visual field switching / zoom operation unit 16.
  • the determination unit 14B displays the display image input from the image processing unit 11 or the image processing unit 11A on the in-vehicle display 5 or the in-vehicle display 5A based on the information indicating the traveling state of the vehicle detected by the detection unit 13. And the timing (display mode) to display on the in-vehicle display 5 or the in-vehicle display 5A.
  • a display command corresponding to the determination result is output from the determination unit 14B to the control unit 15A.
  • the information indicating the traveling state of the vehicle includes vehicle speed, brake on / off, accelerator on / off, right turn / left turn signal on / off.
  • the control unit 15A is a control unit that displays the display image input from the image processing unit 11 or the image processing unit 11A on the vehicle-mounted display 5 or the vehicle-mounted display 5A according to the command.
  • the image to be displayed on the vehicle-mounted display 5 is an image of the left side image of the vehicle front end and the left side of the vehicle viewed from the front to the rear.
  • an image of the region viewed from the front to the rear is displayed on the left screen of the in-vehicle display 5 and the left side image of the front end of the vehicle is displayed on the in-vehicle display 5. Display on the right screen.
  • the image of the blind spot area in the right front by the front pillar 2e extracted by the image processing unit 11A is displayed on the in-vehicle display 5A.
  • the field-of-view switching / zoom operation unit 16 switches the vehicle interior cameras 4b and 4c that output image data to the image processing unit 11 or the image processing unit 11A in accordance with a command from the determination unit 14B, thereby causing the vehicle-mounted displays 5 and 5A to Switch the field of view to be displayed. Further, the visual field switching / zoom operation unit 16 adjusts the optical system of the in-vehicle cameras 4b and 4c in accordance with a command from the determination unit 14B to perform zoom up or zoom down. For example, when it is desired to obtain an image on the left and right sides of the front end of the vehicle, the mirror system image of the small mirror 3d is zoomed up (narrow field of view) by adjusting the optical system of the vehicle interior camera 4b.
  • the optical system of the vehicle interior camera 4b is adjusted to zoom in so as to include a background image other than the specular image of the small mirror 3d (wide field of view).
  • the detection unit 13 is a detection unit that detects information indicating the traveling state of the vehicle 1.
  • the detection unit 13 detects and detects wheel speed pulses generated in conjunction with the rotational speed of the drive shaft of the host vehicle from a vehicle control unit (not shown in FIG. 16) mounted on the host vehicle. Based on the wheel speed pulse thus generated, a vehicle speed signal (analog or digital signal) corresponding to the vehicle speed is generated.
  • the detection unit 13 detects an operation signal of the brake pedal and the accelerator pedal (for example, a voltage signal corresponding to the depression amount of the pedal) and generates a brake on / off signal and an accelerator on / off signal. Furthermore, the detection unit 13 inputs an electrical signal output in conjunction with the operation of the turn signal operation lever, and generates an on / off signal for turning the turn signal to the right or left.
  • FIG. 16 is a flowchart showing an overview of display image generation processing by the vehicular visual assistance device according to the second embodiment.
  • the image processing unit 11A captures image data captured by the vehicle interior camera 4c as needed while the vehicle 1 on which the device 10B is mounted is being driven by the driver A (step ST1c). That is, the visual field switching / zoom operation unit 16 performs switching so that the image processing unit 11A inputs an image signal output from the vehicle interior camera 4c.
  • the image processing unit 11A extracts the peripheral frame portion of the mirror surface portion of the small mirror 3a from the captured image (step ST2c).
  • the image 4A taken by the vehicle interior camera 4c has a background image area 4B in which the background of the small mirror 3d is reflected and a mirror image area 4C of the small mirror 3d.
  • the specular image region 4C is divided into a left specular image region 4CL and a right specular image region 4CR by an outer frame image region 4D in which markers provided so as to border each specular surface of the small mirror 3d are reflected. .
  • the image processing unit 11A performs binarization processing on the image 4A captured from the in-vehicle camera 4c, and generates an outer frame image region 4D, which is a frame-shaped high luminance region whose luminance value is equal to or greater than a predetermined threshold, as the image 4A. Determine from.
  • the image processing unit 11A extracts an image area (background image area 4B) outside the peripheral frame portion (step ST3c).
  • the background image area 4B includes an image 4Ba of a blind spot area on the right front by the front pillar 2e.
  • the image processing unit 11A performs image processing for converting the extracted background image region 4B into a clear image (step ST4c).
  • the contrast of the specular image is improved by expanding or flattening the histogram of the luminance distribution in the background image region 4B. That is, the image processing unit 11A creates a histogram representing the frequency distribution of density values (luminance values) for each pixel in the background image region 4B.
  • the luminance is converted so that the number of pixels with zero frequency in the histogram is as small as possible. Further, when the histogram is flattened, the luminance is converted so that the portion of the histogram with a large change in value has a small change.
  • the image processing unit 11A converts the image subjected to the sharpening process in step ST4c into a display image corresponding to the screen of the in-vehicle display 5A (step ST5c). For example, conversion processing for enlarging the image size so as to fit the screen size of the in-vehicle display 5A is performed (increasing the number of pixels). Further, when the screen size of the in-vehicle display 5A is smaller than the image size, conversion processing is performed to reduce the image size so as to fit the screen size of the in-vehicle display 5A (reduction in the number of pixels).
  • the image processing unit 11A outputs the image signal of the background image including the image 4Ba of the blind spot area on the right front by the front pillar 2e obtained by performing the above-described image processing to the display control unit 12B (step ST6c). .
  • FIG. 19 is a flowchart showing display control by the vehicle visual assistance device according to Embodiment 3, and display of a display image by display control unit 12B of vehicle visual assistance device 10B shown in FIG. 16 along FIG. Details of the control will be described. Further, subroutines A1, A2, and A3 in FIG. 19 are the same as subroutines A1, A2, and A3 shown in FIG. In the following, the left and right side images of the front end of the vehicle and the image of the region when the left and right sides of the vehicle are viewed from the front to the rear are acquired by the small mirrors 3b and 3c and the vehicle interior camera 4b.
  • the determination unit 14B of the display control unit 12B includes a vehicle speed signal, a brake on / off signal, an accelerator on / off signal, a turn signal right turn signal or a left turn signal output from the detection unit 13 as information indicating the traveling state of the vehicle 1.
  • ON / OFF is input (step ST1d).
  • the visual field switching / zoom operation unit 16 switches to output the image data captured by the vehicle interior camera 4b to the image processing unit 11 in accordance with a command from the determination unit 14B, and is further captured by the vehicle interior camera 4c.
  • the image data is switched to be output to the image processing unit 11A.
  • the visual field switching / zoom operation unit 16 zooms down the in-vehicle camera 4b so that the blind spot area on the right front side by the front pillar 2e is included in the background image.
  • the image data extracted by the image processing unit 11 and the image processing unit 11A is input to the control unit 15A.
  • the determination unit 14B determines whether or not the vehicle speed V of the vehicle 1 matches a predetermined traveling condition based on the vehicle speed signal input from the detection unit 13 (step ST2d).
  • a speed threshold value V1 indicating the upper limit of the vehicle speed range for slow travel
  • a speed threshold value V2 indicating the upper limit of the vehicle speed range for low speed travel
  • the vehicle is traveling slowly, traveling at low speed, or traveling normally. That is, if V2 ⁇ V, it is normal traveling (traveling at a normal speed on the vehicle travel path), if V1 ⁇ V ⁇ V2, it is slow traveling, and if V ⁇ V1, it is slow traveling.
  • Each threshold value may be provided with hysteresis as in the first embodiment.
  • step ST2d When it is determined that the host vehicle is traveling normally (step ST2d; vehicle speed V> V2), the driver A confirms whether a motorcycle or the like is approaching from the rear in addition to the front view. Since it is determined that the driving situation is to be driven, it is necessary to visually recognize each situation on the left and right sides of the vehicle. For this reason, the determination unit 14B issues a command for causing the in-vehicle display 5 to display an image of a region of the image input from the image processing unit 11 when the left and right sides of the vehicle are viewed from the front to the rear. Output to.
  • the control unit 15A displays an image of a region of the left side of the vehicle viewed from the front to the rear on the left screen of the in-vehicle display 5 according to a command from the determination unit 14B, and the vehicle on the right screen of the in-vehicle display 5
  • region which looked at the right side of this from the front to back is displayed (step ST3d).
  • the determination unit 14B outputs to the control unit 15A a command for causing the in-vehicle display 5A to display an image of the blind spot area in the front right by the front pillar 2e input from the image processing unit 11A.
  • the control unit 15A displays an image of a blind spot area on the right front side by the front pillar 2e on the in-vehicle display 5A according to a command from the determination unit 14B (step ST4d).
  • subroutine A1 is executed.
  • the determination unit 14 ⁇ / b> B determines the right / left turn state of the vehicle based on the turn signal right turn signal or left turn signal on / off signal input from the detection unit 13.
  • the traveling state of the host vehicle is a right turn or a left turn (right or left on) or a straight drive (off).
  • the determination unit 14B ends the process of the subroutine A1, returns to the flow of FIG. 19, and ends the display control.
  • the determination unit 14B determines whether the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A1 is terminated. If no caution sound is generated (NO), the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T1 elapses from the time when the turn signal returns from the on state to the off state. . When the time T1 has elapsed, the processing of the subroutine A1 is terminated.
  • the subroutine A1 generates a warning sound when the turn signal is turned on right or left, and alerts when a predetermined time T1 elapses from the time when the turn signal returns from the on state to the off state. This is an operation to stop sound generation.
  • the time T1 is a short time of about 1 to 2 seconds because it is only necessary to generate a warning sound when the driver A turns the vehicle 1 right or left.
  • step ST2d when it is determined that the host vehicle is traveling at a low speed (step ST2d; vehicle speed V1 ⁇ V ⁇ V2), the determination unit 14B determines whether the turn signal input from the detection unit 13 is a right turn signal or a left turn signal on / off signal. Based on this, the right / left turn state of the host vehicle is determined (step ST4d). Here, it is determined whether the traveling state of the host vehicle is a left turn (left on), a straight travel (off), or a right turn (right on).
  • step ST4d When it is determined that the host vehicle is going to turn left at low speed (step ST4d; left on), the driver A starts from the left rear in addition to the road condition in the direction of turning and the blind spot area on the right front by the front pillar 2e. This corresponds to the case where it is desired to visually check the situation behind the vehicle so that an approaching motorcycle or the like is not involved, that is, the situation on the left side behind the vehicle. Therefore, the determination unit 14B outputs, to the control unit 15A, a command for causing the in-vehicle display 5 to display an image of a region when the left side of the vehicle input from the image processing unit 11 is viewed from the front to the rear.
  • Control unit 15A displays, on the left screen of vehicle-mounted display 5, an image of a region when the left side of the vehicle is viewed from the front to the rear in accordance with a command from determination unit 14B (step ST5d). Furthermore, the determination unit 14B outputs a command for causing the in-vehicle display 5 to display an image on the left side of the vehicle front end input from the image processing unit 11 to the control unit 15A. The control unit 15A displays an image on the left side of the vehicle front end on the right screen of the in-vehicle display 5 in accordance with a command from the determination unit 14B (step ST6d).
  • the determination unit 14B outputs to the control unit 15A a command for causing the in-vehicle display 5A to display an image of the blind spot area in the front right by the front pillar 2e input from the image processing unit 11A.
  • the control unit 15A displays an image of a blind spot area on the right front side by the front pillar 2e on the in-vehicle display 5A according to a command from the determination unit 14B (step ST7d).
  • step ST7d a command from the determination unit 14B
  • subroutine A2 is executed.
  • the determination unit 14 ⁇ / b> B determines whether or not the accelerator pedal has been operated based on information input from the detection unit 13.
  • the processing of subroutine A2 is terminated and the flow returns to the flow of FIG.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A2 is terminated.
  • the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T2 has elapsed from the time when the operation of the accelerator pedal is finished.
  • the determination unit 14B displays each outer frame image in an image of a region viewed from the front side to the rear side of the left side of the vehicle currently displayed on the in-vehicle display 5 and an image on the left side of the front end of the vehicle.
  • a command for highlighting (outer frame image region 4D showing the marker) until the predetermined time T3 elapses is output to the control unit 15A.
  • control parts are the images of the area
  • a warning sound is generated when the driver A operates the accelerator pedal, and when a predetermined time T2 has elapsed from when the operation of the accelerator pedal is completed, the generation of the warning sound is automatically stopped. To do.
  • the driver A's line of sight is guided, and when the predetermined time T3 has elapsed, the display mode is automatically restored. Yes. Since it is considered that the driver A can drive more smoothly by first listening to the alert sound and then visually recognizing the image highlighted on the in-vehicle display 5, for example, the time T2 is approximately 2-3. The second and the time T3 are about 5 to 10 seconds.
  • the determination unit 14 ⁇ / b> B determines whether or not the brake pedal has been operated based on information input from the detection unit 13.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If the alert sound is not generated (NO), the process of subroutine A3 is terminated. If a warning sound is generated (YES), the determination unit 14B causes the sound output unit 6 to generate a warning sound until a predetermined time T4 elapses from the time when the brake pedal is operated.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A3 is terminated. If no caution sound is generated (NO), the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T4 elapses from when the brake pedal is operated.
  • the determination unit 14B presents each outer frame image in the image on the left side of the front end portion of the vehicle currently displayed on the vehicle-mounted display 5 and the image of the region when the left side of the vehicle is viewed from the front to the rear.
  • a command for highlighting (outer frame image region 4D showing the marker) until the predetermined time T3 elapses is output to the control unit 15A.
  • 15 A of control parts are the images of the area
  • the outer frame of the image on the left side of the front end portion of the vehicle displayed on the right screen of the in-vehicle display 5 are highlighted.
  • a warning sound is generated from the time when the driver A operates the brake pedal, and the generation of the warning sound is automatically stopped when the predetermined time T4 has elapsed.
  • the driver A's line of sight is guided, and when the predetermined time T3 has elapsed, the display mode is automatically restored. Yes. Since it is considered that the driver A can drive more smoothly by first listening to the alert sound and then visually recognizing the image highlighted on the in-vehicle display 5, for example, the time T4 is approximately 1 to 2 seconds and the time T3 are about 5 to 10 seconds.
  • step ST4d When it is determined that the host vehicle is going straight ahead at low speed (step ST4d; OFF), for example, the host vehicle is going straight through an intersection, and the driver A not only moves in front of the vehicle but also It is considered to be a running situation when it is desired to visually recognize each situation on the side. Therefore, the determination unit 14B outputs a command to display the right side image and the left side image of the vehicle input from the image processing unit 11 on the left screen of the in-vehicle display 5 to the control unit 15A.
  • the control unit 15A displays an image of a region viewed from the front right side of the vehicle from the front to the rear on the right screen of the in-vehicle display 5 according to a command from the determination unit 14B, and the left side of the vehicle from the front to the rear.
  • the image of the area viewed facing is displayed on the left screen of the in-vehicle display 5 (step ST8d). Thereafter, the process is terminated.
  • step ST4d When it is determined that the host vehicle is going to turn right at low speed (step ST4d; right on), the driver A starts from the right rear in addition to the road condition in the direction of the turn and the blind area in front of the right by the front pillar 2e. This corresponds to the case where it is desired to visually recognize the situation behind the vehicle so that an approaching motorcycle or the like is not involved, that is, the situation on the right side of the vehicle. Therefore, the determination unit 14B outputs, to the control unit 15A, a command for causing the in-vehicle display 5 to display an image of a region when the right side of the vehicle input from the image processing unit 11 is viewed from the front to the rear.
  • Control unit 15A displays, on the left screen of vehicle-mounted display 5, an image of a region viewed from the front side to the rear side of the vehicle on the right side in accordance with a command from determination unit 14B (step ST9d). Further, the determination unit 14B outputs a command for causing the in-vehicle display 5 to display an image on the right side of the vehicle front end input from the image processing unit 11 to the control unit 15A. Control unit 15A displays an image on the right side of the front end of the vehicle on the right screen of in-vehicle display 5 in accordance with the command from determination unit 14B (step ST10d).
  • the determination unit 14B outputs to the control unit 15A a command for causing the in-vehicle display 5A to display an image of the blind spot area in the right front by the front pillar 2e input from the image processing unit 11A.
  • 15 A of control parts display the image of the blind spot area of the right front by the front pillar 2e on the vehicle-mounted display 5A according to the instruction
  • subroutine A2 is executed.
  • the determination unit 14B determines whether or not the accelerator pedal has been operated based on the information input from the detection unit 13. Here, if there is no operation of the accelerator pedal (none), the processing of subroutine A2 is terminated and the flow returns to the flow of FIG.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A2 is terminated. If no caution sound is generated (NO), the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T2 has elapsed from the time when the operation of the accelerator pedal is finished.
  • the determination unit 14B is configured to display each outer frame in an image of a region viewed from the front side to the rear side of the right side of the vehicle currently displayed on the in-vehicle display 5 and an image on the right side of the vehicle front end.
  • a command to highlight the image (outer frame image region 4D showing the marker) until a predetermined time T3 has elapsed is output to the control unit 15A.
  • 15 A of control parts are the images of the area
  • the outer frame of the image on the right side of the front end portion of the vehicle displayed on the right screen of the in-vehicle display 5 are highlighted.
  • the determination unit 14 ⁇ / b> B determines whether or not the brake pedal has been operated based on information input from the detection unit 13. Here, if there is an operation of the brake pedal (there is), the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If the alert sound is not generated (NO), the process of subroutine A3 is terminated. If a warning sound is generated (YES), the determination unit 14B causes the sound output unit 6 to generate a warning sound until a predetermined time T4 elapses from the time when the brake pedal is operated.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A3 is terminated. If no caution sound is generated (NO), the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T4 elapses from when the brake pedal is operated.
  • the determination unit 14B presents each outer frame image in the image on the right side of the front end portion of the vehicle currently displayed on the in-vehicle display 5 and the image of the region when the right side of the vehicle is viewed from the front to the rear.
  • a command for highlighting (outer frame image region 4D showing the marker) until the predetermined time T3 elapses is output to the control unit 15A.
  • the control unit 15A displays an image of an area in which the right side of the vehicle displayed on the left screen of the in-vehicle display 5 is viewed from the front to the rear until a predetermined time T3 elapses.
  • the outer frame and the outer frame of the image on the right side of the front end portion of the vehicle displayed on the right screen of the in-vehicle display 5 are highlighted.
  • step ST2d when it is determined that the host vehicle is traveling slowly (step ST2d; V ⁇ V1), the host vehicle is in a driving situation that requires stopping, for example, a state where the vehicle has reached an intersection without a doorway or a traffic light. Since the determination is made, the driver A needs to visually recognize the situation on the right side and the left side of the front end of the vehicle. Therefore, the determination unit 14B outputs a command to display the right side image and the left side image of the vehicle front end input from the image processing unit 11 on the left screen of the in-vehicle display 5 to the control unit 15A.
  • the control unit 15A displays an image on the right side of the front end of the vehicle on the right screen of the in-vehicle display 5 and an image on the left side of the front end of the vehicle on the left screen of the in-vehicle display 5 in accordance with a command from the determination unit 14B. Displayed (step ST12d).
  • subroutine A2 is executed.
  • the determination unit 14B determines whether or not the accelerator pedal has been operated based on the information input from the detection unit 13. Here, if there is no operation of the accelerator pedal (none), the processing of subroutine A2 is terminated and the flow returns to the flow of FIG.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A2 is terminated. If no caution sound is generated (NO), the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T2 has elapsed from the time when the operation of the accelerator pedal is finished.
  • the determination unit 14B is configured to display each outer frame image (an outer frame image in which a marker is reflected) in the right side image of the vehicle front end portion and the left side image of the vehicle front end portion currently displayed on the vehicle-mounted display 5.
  • a command to highlight the region 4D) until the predetermined time T3 has elapsed is output to the control unit 15A.
  • the control unit 15A controls the outer frame of the image on the left side of the front end portion of the vehicle displayed on the left screen of the vehicle-mounted display 5 until the predetermined time T3 elapses, and the vehicle-mounted display 5 The outer frame of the image on the right side of the front end of the vehicle displayed on the right screen is highlighted.
  • the determination unit 14B determines the right / left turn state of the host vehicle based on the turn signal right turn signal or left turn signal on / off signal input from the detection unit 13 (step ST13d). When it is determined that the host vehicle is traveling at a low speed and going straight (OFF), the determination unit 14B ends the display control of FIG. If it is determined that the host vehicle is traveling at a low speed and is about to turn right or left (right or left on), the determination unit 14B executes the process of subroutine A3.
  • the determination unit 14B determines whether or not the brake pedal has been operated based on the information input from the detection unit 13. Here, if there is an operation of the brake pedal (there is), the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If the alert sound is not generated (NO), the process of subroutine A3 is terminated. If a warning sound is generated (YES), the determination unit 14B causes the sound output unit 6 to generate a warning sound until a predetermined time T4 elapses from the time when the brake pedal is operated. Thereafter, the process of the subroutine A3 is terminated and the process returns to the flow of FIG.
  • the determination unit 14B determines whether or not the sound output unit 6 is generating a warning sound. If a warning sound is generated (YES), the process of subroutine A3 is terminated. If no caution sound is generated (NO), the determination unit 14B causes the sound output unit 6 to output a caution sound until a predetermined time T4 elapses from when the brake pedal is operated. Next, the determination unit 14B is configured to display each outer frame image (an outer frame image in which a marker is reflected) in the left side image of the vehicle front end portion and the right side image of the vehicle front end portion currently displayed on the vehicle-mounted display 5.
  • a command to highlight the region 4D) until the predetermined time T3 has elapsed is output to the control unit 15A.
  • 15 A of control parts the outer frame of the image of the left side of the vehicle front end part currently displayed on the left screen of the vehicle-mounted display 5 until predetermined time T3 passes according to the instruction
  • the operation of the flowchart of the display control shown in FIG. 19 is periodically repeated with the time for one round of the flow being controlled at about 10 milliseconds.
  • time control is performed, the operation time (cycle) is not limited.
  • this invention is not limited to the front pillar 2e if it is a blind spot area
  • FIG. 20 is a diagram schematically showing another aspect of the small mirror and the vehicle interior camera
  • FIG. 20 (a) shows the inner side surface of the vehicle
  • FIG. 20 (b) shows FIG. ) Shows the inner top surface of the vehicle.
  • the vehicle 1 ⁇ / b> A is a vehicle having a long vehicle length such as a sports utility vehicle (SUV; Sports Utility Vehicle).
  • SUV sports utility vehicle
  • the driver A tends to have a blind spot in the vicinity of the rear end of the vehicle, particularly in the left and right lower side and the immediate rearward side of the rear end of the vehicle.
  • a small mirror 3e is provided at the upper part of the vehicle rear end of the vehicle 1A.
  • the small mirror 3e is a triangular prism-shaped mirror having two mirror surfaces, and is arranged so that each mirror surface faces the left and right lower side of the rear end of the vehicle as shown in FIGS. 20 (a) and 20 (b).
  • the vehicle interior camera 4d is a photographing unit having a function similar to that of the vehicle interior camera 4 shown in FIG. 1, and is substantially at the center of the rear top surface of the vehicle interior 2 so that the mirror surface of the small mirror 3e enters the field of view. Mounted on.
  • a mirror surface image reflected on the two mirror surfaces of the small mirror 3e is captured by the vehicle interior camera 4d, the captured image is subjected to image processing, and images on the left and right sides of the rear end of the vehicle are extracted.
  • the lower right image is displayed on the right screen of the display device 5 or the vehicle-mounted display device 5B (see FIG. 15), and the lower left image is displayed on the left screen.
  • illustration was abbreviate
  • a left and right visual field at the rear end of the vehicle can be obtained, but when this configuration is combined with the first to third embodiments, in addition to the above-mentioned visual field, the first to third embodiments described above. It is possible to support visual recognition of the visual field indicated by.
  • the rear end of the vehicle in the small mirror 3e In order to distinguish the lower right image and the lower left image of the rear end of the vehicle from the image taken by the vehicle interior camera 4d, as shown in FIGS. 6 and 17, the rear end of the vehicle in the small mirror 3e.
  • You may provide a marker so that each mirror surface which puts the right-and-left lower part of a part into a visual field may be bordered.
  • the marker for example, a tape colored with a luminescent color or an LED tape or the like adhered to the edge of the mirror surface can be considered.
  • FIG. 21 is a diagram schematically showing another aspect of the small mirror and the vehicle interior camera.
  • FIG. 21 (a) shows an inner side surface of the vehicle
  • FIG. 21 (b) shows FIG. ) Shows the inner top surface of the vehicle.
  • the vehicle 1B is a vehicle having a loading platform such as a pickup truck vehicle. In a vehicle of such a vehicle type, the driver A tends to have a blind spot in the vicinity of the rear end of the vehicle, particularly in the left and right lower side and the immediate rearward side of the rear end of the vehicle.
  • a small mirror 3f is provided on a side portion of the vehicle 1B that avoids the guard plate 1d of the cargo bed at the rear end of the vehicle. Similar to the small mirror 3e shown in FIG. 20, the small mirror 3f is a triangular prism-shaped mirror having two mirror surfaces. As shown in FIGS. 21 (a) and 21 (b), each mirror surface is located behind the vehicle. It arrange
  • the vehicle interior camera 4e is a photographing unit having the same function as the vehicle interior camera 4 shown in FIG. 1, and the right end of the rear top surface of the vehicle interior 2 so that the mirror surface of the small mirror 3f enters the field of view. Mounted on.
  • a mirror image reflected on the two mirror surfaces of the small mirror 3f is captured by the vehicle interior camera 4e, and the captured images are processed to extract images at the lower left and right of the rear end of the vehicle.
  • the lower right image is displayed on the right screen of the display device 5 or the vehicle-mounted display device 5B (see FIG. 15), and the lower left image is displayed on the left screen.
  • it may be displayed on the in-vehicle display 5A.
  • the left and right lower side and the most recent rear field of view of the rear end of the vehicle can be obtained.
  • the rear end of the vehicle in the small mirror 3f In order to distinguish the lower right image and the lower left image of the rear end of the vehicle from the image photographed by the vehicle interior camera 4e, as shown in FIGS. 6 and 17, the rear end of the vehicle in the small mirror 3f.
  • You may provide a marker so that each mirror surface which puts the right-and-left lower part of a part into a visual field may be bordered.
  • the marker for example, a tape colored with a luminescent color or an LED tape or the like adhered to the edge of the mirror surface can be considered.
  • FIG. 22 is a diagram schematically showing another aspect of the small mirror and the vehicle interior camera
  • FIG. 22 (a) shows an inner side surface of the vehicle
  • FIG. 22 (b) shows FIG. 22 (a).
  • the vehicle 1C is a vehicle having a large outside mirror 3B such as a large truck or a bus. In such a vehicle type vehicle, the driver A tends to have a blind spot in the vicinity of the rear end of the vehicle, particularly in the left and right sides of the rear end of the vehicle and in the immediate rearward direction.
  • a small mirror 3g is provided below the left side of the vehicle rear end of the vehicle 1C, and a small mirror 3h is provided above the right side of the vehicle rear end of the vehicle 1C.
  • the small mirror 3g is a small mirror having two mirror surfaces, and the two mirror surfaces are arranged on the left and right sides of the rear end of the vehicle 1C (such as children). It is installed toward the height position where an object with a low height enters the field of view.
  • the small mirror 3h is a small mirror having a single mirror surface, and is a convex mirror having a radius of curvature of about 50 to 100 mm, similar to the small mirror 3 shown in FIG.
  • the small mirror 3h is installed with the mirror surface facing the lower left side from the upper right side of the vehicle 1C (a position higher than the small mirror 3g). Is done.
  • the mirror images of the small mirrors 3g and 3h are taken by the built-in camera 4f built in the large outside mirror 3B, as shown in FIGS. 22 (a) and 22 (b).
  • mirror images reflected on the mirror surfaces of the small mirrors 3g and 3h are captured by the built-in camera 4f, and the captured image is subjected to image processing to extract the entire rear end portion of the vehicle 1C and its left and right side images. Then, for example, an image of the entire rear end portion of the vehicle 1C is displayed on the vehicle-mounted display 5B, a right-side image is displayed on the right screen of the on-vehicle display 5, and a left-side image is displayed on the left screen.
  • illustration is abbreviate
  • the entire rear end portion of the vehicle 1C and its left and right lateral sides and the immediate rearward visual field can be obtained.
  • the vehicle 1 is mounted in the vicinity of the vehicle front end 1a outside the passenger compartment 2, and the area around the vehicle 1 excluding the front view of the driver A or a plurality of directions
  • a mirror 3d that mirrors the area of the vehicle
  • a vehicle interior camera 4c that is mounted in the passenger compartment 2 and that captures an image including the mirror surface of the small mirror 3d, and controls the zoom operation of the vehicle interior camera 4c to control the driver.
  • a visual field switching / zoom operation unit 16 for photographing a blind spot area due to an interior object in the passenger compartment 2 with a front view of A as a mirror surface background of the small mirror 3d and an image photographed by the vehicle interior camera 4c are processed.
  • An image processing unit 11 that extracts an image reflected on the mirror surface of the small mirror 3d, an image processing unit 11A that extracts an image of a blind spot area included in the background by performing image processing on an image captured by the vehicle interior camera 4c, Operation in room 2
  • the display screen is arranged at a position where it can be visually recognized (such as near the center on the dashboard 2b), and the vehicle-mounted display 5 that can display different images on the left and right screens in the display screen,
  • An in-vehicle display 5A in which a display screen is arranged at a position where the driver can visually recognize the image extracted by the image processing unit 11 on the in-vehicle display 5 according to the traveling state of the vehicle 1, and the image processing unit
  • the display control part 12B which displays the image of the blind spot area
  • the degree of freedom of attachment to the vehicle body is high, no complicated maintenance work is required, and the left and right sides of the front end of the vehicle to be visually recognized by the driver A according to the traveling state of the vehicle 1
  • the field of view of the blind spot area on the right and left sides of the vehicle and on the right front side by the front pillar 2e can be displayed to the driver A without feeling uncomfortable.
  • the display control unit 12B displays an image according to any of the speed of the vehicle 1, the presence / absence of an acceleration / deceleration operation, the presence / absence of a brake operation, and the presence / absence of a right / left turn of the vehicle 1. Since the image extracted by the processing unit 11 is displayed on the vehicle-mounted display 5 and the image of the blind spot area extracted by the image processing unit 11A is displayed on the vehicle-mounted display 5A, the right and left sides of the vehicle and the right by the front pillar 2e are displayed. The field of view of the blind spot area ahead can be displayed without a sense of incongruity for the driver A at a necessary timing.
  • the small mirrors 3e to 3f that are mounted in the vicinity of 1c outside the passenger compartment 2 and project the side area of the rear end 1c of the vehicle on the mirror surface are mounted in the passenger compartment 2.
  • a vehicle interior camera 4e that captures an image including the mirror surface of the small mirrors 3e to 3f and a display screen are arranged at a position where the driver A in the vehicle compartment 2 can visually recognize,
  • the display control part 12 which displays on the vehicle-mounted display 5B the image which reflects the area
  • the small mirrors 3g and 3h are mounted in the vicinity of the vehicle rear end 1c outside the vehicle compartment 2 and project the region of the side of the vehicle rear end 1c on the mirror surface.
  • a built-in camera 4f that captures an image including the mirror surface of the small mirrors 3g and 3h, and a display screen are arranged at a position where the driver A in the passenger compartment 2 can visually recognize the vehicle.
  • the display control part 12 which displays the image which shows the area
  • the case where the vehicle 1 is the right handle has been described as an example.
  • the small mirror, the vehicle interior camera, and the vehicle-mounted display described above are naturally used. If the positional relationship is reversed left and right, the same effect can be obtained.
  • any combination of each embodiment, any component of each embodiment can be modified, or any component can be omitted in each embodiment. .
  • the vehicle visual assistance device has a high degree of freedom of attachment to the vehicle body, does not require complicated maintenance work, and displays the field of view to be visually recognized by the driver according to the traveling state of the vehicle. Therefore, it is suitable for a vehicle visual assistance device for various types of vehicles.
  • 1,1A-1C Vehicle 1a Vehicle front end, 1b Vehicle side, 1c Vehicle rear end, 1d Cargo guard plate, 2 compartment, 2a windshield, 2b dashboard, 2b-1 dashboard front, 2c meter Panel, 2d Steering handle, 2e Front pillar, 2f In-vehicle information equipment, 3, 3a to 3h small mirror, 3A side mirror, 3B outside mirror, 4, 4a to 4e vehicle interior camera, 4f built-in camera, 4A image, 4B background Image area, 4C mirror surface image area, 4D outer frame image area, 4CL, 4CR mirror surface image area, 4Ba blind spot area image, 5, 5A, 5B on-vehicle display, 6 sound output unit, 10, 10A, 10B, vehicle visual support Device, 11, 11A image processing unit, 12, 12A, 12B display control unit, 3 detector, 14, 14A, 14B determination unit, 15, 15A control unit, 16 field switching / zoom operation unit.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

 車室2外の車両前端部1a近傍に搭載され、車両前端部1aの側方の領域を鏡面に映す小型ミラー3aと、車室2内に搭載され、小型ミラー3aの鏡面を含む画像を撮影する車室内カメラ4aと、車室内カメラ4aにより撮影された画像を画像処理して小型ミラー3aの鏡面に映った画像を抽出する画像処理部11と、車室2内の運転者が視認可能な位置に表示画面が配置され、表示画面内の左右画面で別々の画像を表示可能な車載表示器5と、車両1の走行状況に応じて、画像処理部11により抽出された画像のうち、車両前端部1aの側方の領域を映す画像を映す画像を車載表示器5の対応する方向の画面に表示させる表示制御部12を備える。

Description

車両用視認支援装置
 この発明は、運転者による車両周辺の視認を支援する車両用視認支援装置に関する。
 自動車やオートバイ(二輪車)といった車両を安全に運転するためには、車両の周囲の状況を目視によって確認(視認)することが非常に重要である。
 例えば、自動車の運転者は、通常の走行時に、車両前方の対象物を自身の目で直接視認(直接目視)するが、直接目視ができない車両周囲については、この範囲を間接的に目視(間接目視)するため、ドアミラーなどの車外ミラーやルームミラーなどの車内ミラーといった視覚補助具を利用する。
 しかしながら、上述のような視覚補助具だけでは、道路環境および道路上の自車位置、車両の走行状況によっては、運転に十分な視認が行えない場合がある。
 例えば、住宅街における信号がない交差点では、路側の遮蔽物が走行路の境界近くまであり、側方から車両に接近する歩行者や自転車、オートバイの視認が困難な場合がある。
 また、比較的に広い駐車場であっても、自車両の停車または発進時に歩行者や他車両がすぐ近くに接近する場合もあり、視認すべき領域が複数で、かつ短時間で大きな視線移動をしなければならない状況が発生する。
 さらに、複数車線を有する自動車専用道では、比較的に高い車速で走行しているにもかかわらず、短い車間距離の状態で車線変更する場合や、追突の危険性が高い交差点手前で車線変更をする場合など、車両前方の監視と車両の後部側方の監視とを短時間で行う必要がある。
 特に、反射神経や視覚機能、視認機能が低下している高齢の運転者にとっては、危険な走行状況となり得る。
 また、車外の環境だけでなく、車内環境でも死角が発生する場合がある。例えば、運転席以外の乗員の位置や姿勢によっては、助手席側のドアミラーやルームミラーの視界が完全に遮断され、大きな死角ができる場合がある。
 車両端部の側方の領域を視認するための従来の技術として、例えば、特許文献1、特許文献2、特許文献3がある。これらの特許文献には、車載カメラを利用して、車両の前方端部の側方領域あるいはそのさらに前方の領域を視認を支援する装置が開示されている。この装置は、CCDやCMOS撮像デバイスなどのイメージセンサ(カメラ部)を有する車載カメラが、様々な視界からの光が入射するように光学的に結合する光学結合系を備えている。
 特許文献1に記載される車両周辺視認装置では、車幅方向左右の視界を合成してカメラ部に入力するため、上記光学結合系として、2枚の平面ミラーを山形に組み合わせた一対のミラーと、車両前または後方の視界と左右方向の視界とを切り替え可能に回転駆動する両面ミラー(表面が平面鏡、裏面が円筒型の凸面鏡)を有しており、カメラ部と上記光学結合系がケースに収納された構造体を、車体端部に搭載している。なお、視界の切り替えは、別途設けた車載コントローラによって、車速や変速ギアのシフト位置などの条件に応じて行っている。
 特許文献2に記載の装置では、車両の左右側方、前方直下、直近の3つの視界を1つの画情報に合成してカメラ部に入力する、ミラーおよびプリズムなどで構成されたフィルタと、2枚の平面鏡を山形に組み合わせた一対のミラーからなる光学結合系を有しており、この光学結合系とカメラ部がケースに収納された構造体を、光学結合系の入射窓が所望の視界を持つように車両の前方端部または後方端部に搭載している。この装置では、車内のダッシュボード上に設けられた表示装置に複数の視界の画情報が表示される。
 特許文献3に記載されるカメラ装置は、CCDカメラ本体(カメラ部)と2つの反射面を各々車両左右外側に向けた第1のV字型ミラーと2つの反射面を各々車両左右下方に向けた第2のV字型ミラーと平面鏡とが1つのケースに収納された構造体であって、第1のV字型ミラーの反射面にはマスクと透明部が形成されている。
 車両の左右側方映像は、第1のV字型ミラーの反射面に反射されカメラ本体で撮影されるとともに、車両の左右下方の映像は、第2のV字型ミラーに反射される。反射された映像は、さらに平面鏡により第1のV字型ミラーの透明部を透過してカメラ本体に撮影されて、モニタに表示される。その表示映像には、マスクがそれぞれの映像を囲むようにマスク領域を形成する。これにより、同じ画面に車両の左右側方映像と下方映像が同時に表示される。
 また、特許文献1~3がカメラと山形に組み合わせた一対のミラーによる光学結合系を使用するものであるのに対して、特許文献4,5では、カメラを使用せず、複数のミラー(車外ミラーや車内ミラー)を使用して、車両周辺の間接目視を行う。
 特許文献4に記載されるアウトサイドミラーは、車両のフロントピラーの上下方向略中間部に配置したミラーハウジングと、ミラーハウジングの車両前後方向における後方部に設けられ、車両後方を中心とした側部近傍を写す後方ミラーと、ミラーハウジングの車幅方向における車両側の側部に設けられ、ミラーハウジングの配置位置に対向する車両側部の車両斜め前方を写す側方ミラーを有している。
 特許文献5に開示される装置は、車体の側部に設けられるミラーハウジングと、このミラーハウジングに設けられ後方視界を写し出す第1の反射体と、ミラーハウジングの車体側の側部に設けられ、車体前方かつミラーハウジングの内方の車体内方視界を写し出す第2の反射体とを有する。また、この装置は、車体側に、車体前方かつミラーハウジングの外方の車体外方視界を第2の反射体を介して写し出す第3の反射体を備えており、第2の反射体で、車体内方視界と車体外方視界の双方を視認可能としている。
 また、複数の車線を有する道路上で比較的に高い速度(およそ50km/h)で走行中に車線変更を行う場合、ドアミラーでは、死角になる車外の領域が運転席(前の座席)の側方から後側に存在する。これは、ブラインドスポットと呼ばれ、運転を行うための視覚および視認の時間に余裕があれば、大きく視線移動することで死角にならない領域であるが、前方注視も必要であるため、ドライバーから一時的に完全に死角となる。
 特許文献6には、ブラインドスポットも含めて視認支援を行う外部監視装置が開示されている。この装置では、車体のフロントバンパの両側に車載カメラをそれぞれ装着して、通常のサイドミラーと同様な車両の後部側方の映像と、運転者にとって死角となるブラインドコーナの映像とを、広角に撮像する。画像モニタは、通常、車両の後部側方画像を表示しており、必要に応じてブラインドコーナの監視画像を表示する。
 さらに、特許文献7には、車両に取り付けられるカメラモジュールを備える車載カメラが開示されており、この車載カメラは、カメラモジュールの撮像範囲の少なくとも一部を占めるミラーをさらに備えている。また、特許文献7は、車両の後方直下と直近の領域、車両の側方直近の領域のように、既存のドアミラーやルームミラーでは視認できない領域を視認可能としている。
特開平10-157537号公報 特開平9-104291号公報 特開平10-119643号公報 特開2007-38942号公報 特開2009-173186号公報 特開2000-177483号公報 特開2011-109634号公報
 特許文献1~3に代表される従来の技術では、カメラ部と光学結合系をケースに収納した構造体である車載カメラを車体の外部に取り付けるため、下記のような課題があった。
 まず、この車載カメラは、車体の外部に取り付けられるので、カメラ部およびその画像信号を扱う電子回路の防水対策、汚れ対策、振動対策などを実施しなければならない。
 また、カメラ部およびその画像信号を扱う電子回路と光学結合系を構成する複数のミラーを1つのケースに収納しているので、車載カメラのサイズが不可避的に大きくなることが予想される。このため、車載カメラを搭載するスペースの確保が困難であり、搭載可能な場所も制約される。なお、車両周辺で所望の視界を得るためには車体の外側に突き出る部分をできるだけ少なくする必要がある。
 さらに、この車載カメラは、光学結合系を構成する複数のミラーを備えるので、その製作時に個別に光学系の調整作業が必要であり、また、車両に搭載したときにも必要な視界を得るための据付調整作業を実施しなければならない。このため、製作工程と取り付け工程の双方が煩雑になる。
 なお、据付調整作業は、据付時のみならず、車両の走行中の振動などで経年変化があれば、その都度実施しなければならない。
 特許文献4,5に代表される従来の技術は、特許文献1~3と異なり、カメラ部と光学結合系がケースに収納された構造体を使用せず、複数のミラーを使用して車両周辺の間接目視を行う。しかしながら、反射式の光学系のみを組み合わせて間接目視を行うので、運転者の姿勢や身体的な特徴(身長、座高など)に応じて、複数のミラーの鏡面の角度調節を行う機構が必要となる。また、視界の広さや方向についての自由度が低いという課題もある。
 特許文献6では、特許文献1~3と同様に、反射鏡を含む光学系とカメラ部とを備えており、例えば、反射鏡の部分だけを車体の側方、いわゆるフェンダーの箇所で外部に突出させ、残りの部分(カメラ部)を車体内部に格納している。また、カメラ部を車外に設置して、カメラ部により撮影された車体の側方の映像や車体の後方を映す反射鏡を撮影した画像を利用して間接目視を行っている。
 しかしながら、特許文献6に記載の装置は、車両の走行状況を考慮していないので、車両の走行状況に応じて運転者に視認させるべき視野を、運転者にとって違和感なく表示することができない。また、カメラ部を車外に設置する場合には、上述した特許文献1~3と同様の課題が生じる。
 特許文献7に記載される車載カメラでは、ミラーとカメラ部を1つのケースに収納しておらず、それぞれが離れた箇所に設置されている。しかしながら、当該車載カメラを構成する各要素(カメラ部とミラー)を、車体(車室または車体外側)に搭載する場合には、特許文献1~3の構成よりも光学的な位置関係の調整が煩雑になるという課題があった。
 例えば、車体への取り付けの際に防水対策、汚れ対策、振動対策などの作業と光学的な調整を同時に行う必要がある。
 この発明は、上記のような課題を解決するためになされたもので、車体への取り付けの自由度が高く、煩雑なメンテナンス作業が不要であって、車両の走行状況に応じて運転者に視認させるべき視野を運転者にとって違和感なく表示することができる車両用視認支援装置を得ることを目的とする。
 この発明に係る車両用視認支援装置は、車室外の車両前端部近傍に搭載され、車両前端部の側方の領域および車両の側方を前方から後方に見る領域の少なくとも一つの領域を鏡面に映すミラーと、車室内に搭載され、ミラーの鏡面を含む画像を撮影する撮影部と、撮影部により撮影された画像を画像処理してミラーの鏡面に映った画像を抽出する画像処理部と、車室内の運転者が視認可能な位置に表示画面が配置され、表示画面内の左右画面で別々の画像を表示可能な第1の表示器と、車両の走行状況に応じて、画像処理部により抽出された画像のうち、車両前端部の側方の領域を映す画像または車両の側方を前方から後方に見た領域を映す画像を第1の表示器の対応する方向の画面に表示させる表示制御部を備える。
 この発明によれば、車体への取り付けの自由度が高く、煩雑なメンテナンス作業が不要であって、車両の走行状況に応じて運転者に視認させるべき視野を運転者にとって違和感なく表示することができるという効果がある。
この発明の実施の形態1に係る車両用視認支援装置の構成を概略的に示す図である。 実施の形態1に係る車両用視認支援装置による車両前端部の右側方の視野(RS)を示す図である。 実施の形態1に係る車両用視認支援装置による車両前端部の右側方の視野(RS)および左側方の視野(LS)を示す図である。 実施の形態1に係る車両用視認支援装置の機能構成を示すブロック図である。 実施の形態1に係る車両用視認支援装置による表示画像の生成処理の概要を示すフローチャートである。 実施の形態1における撮影画像の例を示す図である。 実施の形態1に係る車両用視認支援装置による表示制御を示すフローチャートである。 この発明の実施の形態2に係る車両用視認支援装置による車両前端部の左側方の視野(LS)および車両の左側方を前方から後方へ向けて見る視野(LSB)を示す図である。 実施の形態2に係る車両用視認支援装置による車両前端部の左側方の視野(LS)および車両の左側方を前方から後方へ向けて見る視野(LSB)を示す図(別の小型ミラーを使用例)である。 実施の形態2に係る車両用視認支援装置の機能構成を示すブロック図である。 実施の形態2に係る車両用視認支援装置による表示制御を示すフローチャートである。 サブルーチンの処理を示すフローチャートである。 この発明の実施の形態3に係る車両用視認支援装置による車両前端部の右側方の視野(RS)、左側方の視野(LS)およびフロントピラーによる右前方の死角領域の視野(DRS)を示す図である。 交差点で車両が右折または左折する際に必要な視野を示す図である。 実施の形態3に係る車両用視認支援装置における表示器の配置例を示す図である。 実施の形態3に係る車両用視認支援装置の機能構成を示すブロック図である。 実施の形態3に係る車両用視認支援装置による表示画像の生成処理の概要を示すフローチャートである。 実施の形態3における撮影画像の例を示す図である。 実施の形態3に係る車両用視認支援装置による表示制御を示すフローチャートである。 小型ミラーおよび車室内カメラの別の態様を概略的に示す図(その1)である。 小型ミラーおよび車室内カメラの別の態様を概略的に示す図(その2)である。 小型ミラーおよび車室内カメラの別の態様を概略的に示す図(その3)である。
 以下、この発明をより詳細に説明するため、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
 図1は、この発明の実施の形態1に係る車両用視認支援装置の構成を概略的に示す図であり、図1(a)は、実施の形態1に係る車両用視認支援装置を搭載した車両の内部側面を示しており、図1(b)は、図1(a)の車両の内部上面を示している。
 また、図2は、実施の形態1に係る車両用視認支援装置による車両前端部の右側方の視野(RS)を示す図である。図1および図2は、車両前端部の右側方の視認を支援する場合を示している。なお、以降の説明では、車両1の前端部分を車両前端部1a、車両1の側面部分を車両側面部1b、車両1の後端部分を車両後端部1cとする。
 図1(a)に示すように、車両1の車室2内の運転席に座した運転者Aは、フロントガラス2aを介して車両1の前方を視野に入れている。ダッシュボード2bには、ステアリングハンドル2dの前方部分にメータパネル2cがあり、運転者Aが運転中に視線を少し下げることにより、メータパネル2cに表示された車速、水温、燃料残量などを視認することができる。
 また、図1(b)に示すように、車両前端部1aの右角部には、鏡面が1つの小型ミラー3が装備されている。この小型ミラー3は、曲率半径が50~100mm程度の凸面鏡である。また、鏡面に映る車両前端部の右側方が、車室2の車室内カメラ4の視野に入るように、小型ミラー3は、鏡面の反射光軸が車室内カメラ4の光軸に対して略45度傾けて設置される。
 小型ミラー3の鏡面の面積(サイズ)は、小さいほど車体外への突出部分が小さくなるが、車室内カメラ4が撮影できる視野が小さくなるので、凸面鏡の曲率半径を小さくするなどして視野を拡大する必要がある。
 また、車室内カメラ4の解像度との関係で、小型ミラー3の鏡面は、ある程度の大きさが必要となる。現状の市販で安価に入手できる車室内カメラ4の性能(解像度)では、小型ミラー3の鏡面は、2cm~5cm(直径または対角線長など)ぐらいのサイズが妥当である。
 車室内カメラ4は、市販のデジタル車室内カメラなどで実現可能な撮影部であり、図1(a)および図1(b)に示すように車室2内のダッシュボード2bの上部であって、運転者Aの前方視野に入らない位置に搭載されている。また、車室内カメラ4は、小型ミラー3の鏡面に映っている映像(以下、鏡面画像と呼ぶ)を撮影面のほぼ中心に映す視野aにズームアップしたり、鏡面画像の周囲のおよそ50%~80%の画像領域を占めるように背景を映す視野bにズームダウンすることができる光学系を有している。
 車載表示器5は、車室内カメラ4によって撮影された映像を画像処理して得られた画像を表示する表示器であり、運転者Aが視認可能な位置に表示画面が配置される。例えば、図1に示すように、車載表示器5を、メータパネル2cの左側の近接した位置である、ダッシュボード2bの上部に設けた凹部に搭載することによって、メータパネル2cと同様に、運転者Aが運転中に視線を少し下げれば、車載表示器5の表示画面を視認することができる。また、車載表示器5は、1つの表示画面を左右に分割した各画面に別々の画像を表示可能な2画面表示器であり、図1および図2に示す場合は、小型ミラー3の鏡面に映った車両前端部の右側方の視野RSが右側の画面に表示される。
 図3は、実施の形態1に係る車両用視認支援装置による車両前端部の右側方の視野(RS)および車両前端部の左側方の視野(LS)を示す図である。図3に示す例は、2つの鏡面を有する小型ミラー3aによって車両前端部の右側方の視野RSと車両前端部の左側方の視野LSの視認を支援する態様を示している。小型ミラー3aは、車両前端部1aの上部のほぼ中央に搭載され、車室内カメラ4aの光軸に対する2つの鏡面のそれぞれの光軸のずれ角がほぼ90度になっている。車室内カメラ4aは、図1の車室内カメラ4と同様の機能を有する撮影部であり、車室2のダッシュボード2b上のほぼ中央に搭載されている。
 この構成において、車室内カメラ4aにより小型ミラー3aの2つの鏡面に映った鏡面画像を撮影し、この撮影画像を画像処理して車両前端部の右側方の視野RSの映像と車両前端部の左側方の視野LSの映像を抽出して、車載表示器5の右画面に右側方の映像を表示し、左画面に左側方の映像を表示する。
 また、車室内カメラ4aにより撮影された画像から、車両前端部の右側方の画像と左側方の画像を区別するため、小型ミラー3aにおける、車両前端部の右側方と左側方を視野に入れる各鏡面を縁取るようにマーカを設けてもよい(図6を用いて後述する)。マーカとしては、例えば発光色などに色付けされたテープあるいはLEDテープなどを鏡面の縁に接着したものなどが考えられる。
 図4は、実施の形態1に係る車両用視認支援装置の機能構成を示すブロック図である。図4に示す車両用視認支援装置10は、車室内カメラ4,4aにより撮影された映像から車両前端部の左右側方の映像の少なくとも一方を抽出して車載表示器5に表示させ、音出力部6に注意喚起音を出力させる。その機能構成として、画像処理部11、表示制御部12および検出部13を備える。
 画像処理部11は、車室内カメラ4,4aにより撮影された映像を画像処理して、小型ミラー3,3aの鏡面画像を抽出する。また、画像処理部11は、抽出した鏡面画像の視認性を向上させるための表示処理(鮮明化)と、車載表示器5で表示可能な表示画像への変換処理を行う。
 音出力部6は、注意喚起音となる音データが登録された音源を有し、車載表示器5に表示した画像に運転者Aの視線を誘導するために、判定部14から注意喚起音の出力が指示され、判定部14から指示された時間が経過するまで注意喚起音の出力を継続する。
 なお、注意喚起音とは、運転者Aの視線を車載表示器5に向けるため、車両1の周囲画像が車載表示器5に表示されている際に出力され、例えばポップ音または“左右に気を付けて下さい”などの音声案内が考えられる。
 表示制御部12は、画像処理部11から入力した表示画像を、車両1の走行状況に応じて車載表示器5に表示する表示制御部であり、判定部14および制御部15を備える。
 判定部14は、検出部13により検出された車両1の走行状況を示す情報に基づいて、画像処理部11から入力した表示画像を、車載表示器5に表示すべきか(表示タイミング)およびどのように表示するか(表示態様)を判定する。判定結果の表示指令は、判定部14から制御部15へ出力される。なお、車両1の走行状況を示す情報としては、図4に示すように、車両速度、ブレーキのオンまたはオフ、アクセルのオンまたはオフ、右折または左折信号のオンまたはオフが挙げられる。
 制御部15は、判定部14からの指令を入力すると、画像処理部11から入力した表示画像を、上記指令に従って車載表示器5に表示させる制御部である。
 例えば、画像処理部11により抽出された表示画像のうち、車載表示器5に表示すべき画像が車両前端部の右側方と左側方の各画像である場合、左側方の画像を車載表示器5の左画面に表示し、左側方の画像を車載表示器5の右画面に表示する。
 検出部13は、車両1の走行状況を示す情報を検出する検出部である。図4に示す例では、検出部13が、自車両に搭載された車両制御部(図4において不図示)から自車両の駆動軸の回転速度に連動して発生する車輪速パルスを検出し、検出された車輪速パルスを基に車速に対応する車両速度信号(アナログまたはデジタル信号)を生成する。
 また、検出部13は、ブレーキペダルおよびアクセルペダルの操作信号(例えばペダルの踏み込み量に対応する電圧信号)を検出して、ブレーキのオンオフ信号およびアクセルのオンオフ信号を生成する。
 さらに、検出部13は、ターンシグナル操作レバーの動作に連動して出力される電気信号を入力して、ターンシグナルの右折または左折のオンオフ信号を生成する。
 次に動作について説明する。
 図5は、実施の形態1に係る車両用視認支援装置による表示画像の生成処理の概要を示すフローチャートであり、この図5に沿って画像処理部11による表示画像の生成処理を説明する。ここでは、図3に示した2つの鏡面を有する小型ミラー3aを用いて車両前端部の右側方の視野RSと左側方の視野LSの視認を支援する態様について示す。
 まず、画像処理部11は、自装置10が搭載された車両1が運転者Aに運転されている間、車室内カメラ4aによって撮影された小型ミラー3aの鏡面画像を含む画像データを随時取り込む(ステップST1)。すなわち、画像処理部11は、車室内カメラ4aから出力される画像信号を入力する。
 次に、画像処理部11は、取り込んだ画像から小型ミラー3aの鏡面部の周辺枠部分を抽出する(ステップST2)。図6に示すように、車室内カメラ4aによって撮影された画像4Aは、小型ミラー3aの背景が映った背景画像領域4Bと、小型ミラー3aの鏡面画像領域4Cとを有する。また、鏡面画像領域4Cは、小型ミラー3aの各鏡面を縁取るように設けられたマーカが映った外枠画像領域4Dによって左側の鏡面画像領域4CLと右側の鏡面画像領域4CRに区分されている。画像処理部11は、車室内カメラ4aから取り込んだ画像4Aに対して2値化処理を施し、輝度値が所定の閾値以上となる枠形状の高輝度領域である外枠画像領域4Dを画像4Aから判別する。
 画像処理部11は、周辺枠部分の内側の画像領域(鏡面画像領域4CLおよび鏡面画像領域4CR)を取り出す(ステップST3)。
 続いて、画像処理部11は、取り出した鏡面画像領域4CL,4CRに対して鮮明な画像に変換する画像処理を施す(ステップST4)。例えば、鏡面画像領域4CL,4CRにおける、輝度分布のヒストグラムを伸張あるいは平坦化することによって、鏡面画像のコントラストを改善する。
 すなわち、画像処理部11は、鏡面画像領域4CL,4CRにおける画素ごとの濃度値(輝度値)の度数分布を表すヒストグラムを作成する。ヒストグラムを伸張する場合は、ヒストグラムの度数ゼロの画素が可能な限り少なくなるように輝度を変換する。また、ヒストグラムを平坦化する場合は、ヒストグラムの度数分布で値の変化が大きい部分をその変化分が小さくなるように輝度を変換する。
 この後、画像処理部11は、ステップST4で鮮明化処理を施した画像を、車載表示器5の画面に対応した表示画像に変換する(ステップST5)。例えば、車載表示器5の2画面の一方の画面サイズに合うように、右側方画像と左側方画像との画像サイズを拡大する変換処理を行う(画素数の増加)。また、車載表示器5の画面サイズの方が画像サイズより小さい場合には、車載表示器5の画面サイズに合うように右側方画像と左側方画像との画像サイズを縮小する変換処理を行う(画素数の減少)。
 最後に、画像処理部11は、上述の画像処理を施して得られた右側方画像と左側方画像の画像信号を表示制御部12へ出力する(ステップST6)。
 次に、表示制御部12の動作を説明する。
 図7は、実施の形態1に係る車両用視認支援装置による表示制御を示すフローチャートであり、この図7に沿って図4に示した車両用視認支援装置10の表示制御部12による表示画像の表示制御の詳細を説明する。
 表示制御部12の判定部14は、車両1の走行状況を示す情報として、検出部13から出力された車両速度信号、ブレーキのオンオフ信号、アクセルのオンオフ信号、ターンシグナルの右折信号または左折信号のオンオフを入力する(ステップST1a)。なお、このとき、表示制御部12の制御部15は、画像処理部11から出力された表示画像データを入力している。
 次に、判定部14は、検出部13から入力した車両速度信号に基づいて、車両1の車両速度Vが所定の走行条件に合致するか否かを判定する(ステップST2a)。ここでは、車両速度Vを、徐行走行の車速域の上限を示す速度の第1の閾値V1および低速走行の車速域の上限を示す速度の第2の閾値V2と比較した結果に基づいて、自車両の走行状況が、徐行走行であるか、低速走行であるか、通常走行であるかが判定される。
 すなわち、V2<Vであれば通常走行(車両走行路における通常速度の走行)であり、V1<V≦V2であれば低速走行であり、V≦V1であれば徐行走行である。
 例えば、第1の閾値V1を15km/h±5km/hとし、第2の閾値V2を35km/h±5km/hとする。ここで、±5km/hは、車両速度Vが各閾値を通過する前後に設けたヒステリシスである。例えば、徐行走行の車速域から徐々に車両速度Vを上げていく場合、閾値V1(=15km/h)を超えると低速走行に移行したと判定するが、そのとき、同時に閾値V1を所定時間(例えば1~2秒間)だけ15-5=10km/hとする。また、反対に低速域から徐々に車両速度Vを下げていく場合は、閾値V1を下回ったとき、徐行走行に移行したと判定するが、同時に閾値V1を所定時間(例えば1~2秒間)だけ15+5=20km/hとする。このようにすることで、閾値近辺で車両速度Vが上下した場合に自車両の走行条件が何度も変化して判定結果が不安定になることを防止できる。
 なお、徐行走行の車速域で想定される走行状況は、一旦停止が必要な走行状況、例えば車両1が駐車場を出入りする場合や、車両1がブラインドまたは信号機がない交差路の手前に差し掛かった場合などが挙げられる。
 また、低速走行の車速域で想定される走行状況は、運転者Aが前方だけでなく、その他の方向への周囲確認がほぼ同時に必要な走行状況であり、例えば車両1が交差点で右左折しているときや、右左折する直前の状況が挙げられる。
 通常走行の車速域で想定される走行状況は、車両1がおよそ35km/hから高速走行(例えば70km/h~80km/h以上)までの車速で車両走行路を走行する一般的な走行状況である。
 自車両が通常走行であると判定された場合(ステップST2a;車両速度V>V2)、自車両が車両走行路を通常走行しており、運転者Aが前方を注視して運転すべきであると判断されるため、車両前端部の右側方および左側方の各状況を視認する必要がない。
 このため、判定部14は、画像処理部11から入力した画像を車載表示器5に表示しない旨の指令を制御部15に出力する。制御部15は、判定部14からの指令に従って、画像処理部11から入力された画像を車載表示器5に表示しない(ステップST3a)。
 自車両が低速走行していると判定した場合(ステップST2a;車両速度V1<V≦V2)、判定部14は、検出部13から入力したターンシグナルの右折信号または左折信号のオンオフ信号に基づいて、自車両の右左折状態を判定する(ステップST4a)。ここでは、自車両の走行状況が、左折(左オン)であるか、直進(オフ)であるか、右折(右オン)であるかが判定される。
 自車両が低速走行で左折しようとしていると判定された場合(ステップST4a;左オン)、運転者Aが、これから曲がる方向の道路状況、すなわち車両前端部の左側方の状況を視認したい場合に相当する。
 そこで、判定部14は、画像処理部11から入力した車両前端部の左側方の画像を、車載表示器5の左画面に表示させる指令を制御部15に出力する。制御部15は、判定部14からの指令に従って、車両前端部の左側方の画像を車載表示器5の左画面に表示する(ステップST5a)。
 自車両が低速走行で直進しようとしていると判定された場合(ステップST4a;オフ)、例えば自車両が交差点を直進して抜けようとしており、運転者Aは、車両前方だけでなく、車両前端部の左右側方の各状況を視認したい場合に相当する。
 そこで、判定部14は、画像処理部11から入力した車両前端部の左側方および右側方の画像を、車載表示器5の左右画面にそれぞれ表示させる指令を制御部15に出力する。制御部15は、判定部14からの指令に従って車両前端部の右側方の画像を車載表示器5の右画面に表示し、車両前端部の左側方の画像を車載表示器5の左画面に表示する(ステップST6a)。
 また、自車両が低速走行で右折しようとしていると判定された場合(ステップST4a;右オン)、運転者Aが、これから曲がる方向の道路状況、すなわち車両前端部の右側方の状況を視認したい場合に相当する。
 そこで、判定部14は、画像処理部11から入力した車両前端部の右側方の画像を、車載表示器5の右画面に表示させる指令を制御部15に出力する。制御部15は、判定部14からの指令に従って車両前端部の右側方の画像を車載表示器5の右画面に表示する(ステップST7a)。
 一方、自車両が徐行走行であると判定された場合(ステップST2a;車両速度V≦V1)、自車両の停止が必要な走行状況、例えば駐車場内の出入口や、信号機がない交差点に差し掛かった状態であると判断されるため、運転者Aは、前方の状況に加えて、車両前端部の右側方および左側方の各状況を視認する必要がある。
 そこで、判定部14は、画像処理部11から入力した車両前端部の左側方および右側方の画像を、車載表示器5の左右画面にそれぞれ表示させる指令を制御部15に出力する。制御部15は、判定部14からの指令に従って車両前端部の右側方の画像を車載表示器5の右画面に表示し、車両前端部の左側方の画像を車載表示器5の左画面に表示する(ステップST8a)。
 続いて、判定部14は、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する(ステップST9a)。ここで、アクセルペダルの操作がなければ(ステップST9a;なし)、処理を終了する。また、アクセルペダルが操作された場合(ステップST9a;あり)、判定部14は、音出力部6が注意喚起音を発生中か否かを判定する(ステップST10a)。注意喚起音を発生していれば(ステップST10a;YES)、処理を終了する。
 注意喚起音を発生していなければ(ステップST10a;NO)、判定部14は、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで、音出力部6に注意喚起音を出力させる(ステップST11a)。
 次に、判定部14は、現在車載表示器5に表示している車両前端部の右側方および左側方の画像における各外枠画像(マーカが映った外枠画像領域4D)を所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。
 制御部15は、判定部14からの指令に従って、所定の時間T3が経過するまで車載表示器5の右画面に表示している車両前端部の右側方の画像の外枠と車載表示器5の左画面に表示している車両前端部の左側方の画像の外枠とを強調表示する(ステップST12a)。
 なお、強調表示とは、画像の外枠を高輝度(ハイライト)に変換したり、マーカ領域の幅を太くしたり、外枠を点滅させることによって、運転者Aの注意を視覚的に喚起する表示をいう。
 ステップST11aおよびステップST12aの処理により、運転者Aがアクセルペダルを操作したときに注意喚起音が発生し、アクセルペダルの操作が終了したときから所定の時間T2が経過すると、自動的に注意喚起音の発生が停止する。さらに、左右側方の画像の外枠を高輝度あるいは点滅するように強調表示することにより、運転者Aの視線を誘導し、所定の時間T3が経過すると自動的に表示態様を元に戻している。なお、運転者Aは、注意喚起音をまず聞いてから、続いて車載表示器5に強調表示された画像を視認する方が円滑に運転できると考えられるので、例えば、時間T2はおよそ2~3秒、時間T3はおよそ5~10秒程度とする。
 また、図7に示した表示制御のフローチャートの動作は、その時々に当該フローを1回巡る時間が10ミリ秒程度に時間制御されて、定期的に繰り返し動作する。ただし、時間制御は行うが、その動作時間(周期)を制限するものではない。
 以上のように、この実施の形態1によれば、車室2外の車両前端部1a近傍に搭載され、車両前端部1aの側方の領域を鏡面に映す小型ミラー3,3aと、車室2内に搭載され、小型ミラー3,3aの鏡面を含む画像を撮影する車室内カメラ4,4aと、車室内カメラ4,4aにより撮影された画像を画像処理して小型ミラー3,3aの鏡面に映った画像を抽出する画像処理部11と、車室2内の運転者Aが視認可能な位置に表示画面が配置され(例えば、ダッシュボード2b上の中央付近)、表示画面内の左右画面で別々の画像を表示可能な車載表示器5と、車両1の走行状況に応じて、画像処理部11により抽出された画像のうち、車両前端部1aの側方の領域を映す画像を映す画像を車載表示器5の対応する方向の画面に表示させる表示制御部12を備える。
 このように、車室内にカメラ4,4aを設けることにより、車体への取り付けの自由度が高く、煩雑なメンテナンス作業が不要である。また、車両1の走行状況に応じて、運転者Aに視認させるべき車両前端部1aの左右側方の視野を、運転者Aにとって違和感なく表示することができる。
 また、この実施の形態1によれば、表示制御部12が、車両1の速度、加減速操作の有無、ブレーキ操作の有無、および車両1の右左折の有無、のいずれかに応じて、画像処理部11により抽出された画像のうち、車両前端部1aの左側方の領域を映す画像を車載表示器5の左画面に表示させ、車両前端部1aの右側方の領域を映す画像を車載表示器5の右画面に表示させるので、運転者Aに視認させるべき車両前端部1aの左右側方の視野を、必要なタイミングで運転者Aにとって違和感なく表示することができる。
実施の形態2.
 図8は、この発明の実施の形態2に係る車両用視認支援装置による車両前端部の左側方の視野(LS)および車両の左側方を前方から後方へ向けて見る視野(LSB)を示す図であり、図8(a)は、実施の形態2に係る車両用視認支援装置を搭載した車両の内部上面を示しており、図8(b)は、図8(a)における小型ミラーの拡大図を示している。図8に示す例は、2つの鏡面を有する小型ミラー3bによって車両前端部の左側方の視野LSと車両の左側方を前方から後方へ向けて見る視野LSBの視認を支援する態様を示している。
 小型ミラー3bは、車両前端部1aの上部の左端に搭載され、車両前端部の左側方および車両の左側方が各鏡面に映るように車体から側方に向けて飛び出すように配置される。例えば、フェンダーミラーを小型にし、かつその鏡面を2面にしたものに類似する。
 車室内カメラ4bは、実施の形態1に係る車室内カメラ4,4aと同様の機能を有する撮影部であって、図8(b)に示すように、車室2のダッシュボード2b上の左端に搭載される。
 この構成において、車室内カメラ4bにより小型ミラー3bの2つの鏡面に映る鏡面画像を撮影し、この撮影画像を画像処理して、車両前端部の左側方の視野LSの映像、および車両の左側方を前方から後方へ向けて見る視野LSBの映像を抽出して、車載表示器5の右画面に車両前端部の左側方の映像を表示し、左画面に車両後方の左側方の映像を表示する。これにより、運転者Aは、既存のドアミラー3Aにより得られる車両左側方の視野Bに加えて、車両前端部の左側方の視野LSと、視野Bよりも広い視野LSBを得ることができる。つまり、車両の左側方を前方から後方へ向けて見る視野LSBは、既存のドアミラー3Aでは視認できない死角となる領域を含んでいる。
 また、図6と同様に、車室内カメラ4bによって撮影された画像から、車両前端部の左側方の画像と車両の左側方を前方から後方へ向けて見た領域の画像を区別するため、小型ミラー3bにおける車両前端部の右側方と左側方を視野に入れる各鏡面を縁取るようにマーカを設けてもよい。マーカとしては、例えば、車外環境にあまりない発光色などに色付けされたテープあるいはLEDテープなどを鏡面の縁に接着したものなどが考えられる。
 図9は、実施の形態2に係る車両用視認支援装置による車両前端部の左側方の視野(LS)および車両の左側方を前方から後方へ向けて見る視野(LSB)を示す図であり、図8とは異なる小型ミラーを使用する場合を示している。なお、図9(a)は、実施の形態2に係る車両用視認支援装置を搭載した車両の内部上面を示しており、図9(b)は、図9(a)における小型ミラーの拡大図を示している。
 図9に示す小型ミラー3cは、図8に示した小型ミラー3bと同様に、車両前端部の左側方の視野LSと車両の左側方を前方から後方へ向けて見る視野LSBの視認を可能としている。また、小型ミラー3cは、2つの鏡面の各反射光軸が反射面側で交差する構造になっている。この構造にすることで、車両前端部の左側方と車両の左側方が各鏡面に映るように小型ミラー3cを配置したときに車体から側方に向けて飛び出す部分の容積を小さくすることができる。
 図10は、実施の形態2に係る車両用視認支援装置の機能構成を示すブロック図である。図10に示す車両用視認支援装置10Aは、図8または図9に示した小型ミラー3b,3cと車室内カメラ4bを車体右側にも搭載する。すなわち、車両用視認支援装置10Aは、車室内カメラ4bによって撮影された画像から、車両前端部の左右側方および車両の左右側方を前方から後方へ向けて見た領域の画像の少なくとも1つを抽出して車載表示器5に表示させ、音出力部6に注意喚起音を出力させる。その機能構成として画像処理部11、表示制御部12Aおよび検出部13を備える。
 画像処理部11は、車室内カメラ4bにより撮影された映像を画像処理し、小型ミラー3b,3cの鏡面画像を抽出する画像処理部である。また、画像処理部11は、実施の形態1と同様に、抽出した鏡面画像の視認性を向上させる表示処理(鮮明化)と、車載表示器5で表示可能な表示画像への変換処理を行う。
 音出力部6は、注意喚起音となる音データが登録された音源を有し、車載表示器5に表示した画像に運転者Aの視線を誘導するため、判定部14Aから注意喚起音の出力が指示され、判定部14Aから指示された時間が経過するまで注意喚起音の出力を継続する。注意喚起音としては、例えばポップ音または“左右に気を付けて下さい”などの音声案内が考えられる。
 表示制御部12Aは、画像処理部11から入力した表示画像(車両前端部の左右側方の画像および車両の左右側方を前方から後方へ向けて見た領域の画像のいずれか)を車両の走行状況に応じて、車載表示器5に表示する表示制御部であり、判定部14Aおよび制御部15を備える。判定部14Aは、検出部13により検出された車両の走行状況を示す情報に基づいて、画像処理部11から入力した表示画像を、車載表示器5に表示するタイミングと、車載表示器5にどのように表示するか(表示態様)を判定する。判定結果に応じた表示指令は、判定部14Aから制御部15へ出力される。なお、車両の走行状況を示す情報としては、図10に示すように、車両速度、ブレーキのオンまたはオフ、アクセルのオンまたはオフ、右折または左折信号のオンまたはオフが挙げられる。
 制御部15は、判定部14Aからの指令を入力すると、画像処理部11から入力した表示画像を、上記指令に従って車載表示器5に表示させる制御部である。例えば、画像処理部11により抽出された表示画像のうち、車載表示器5に表示すべき画像が車両前端部の左側方と車両の左側方の各画像である場合は、車両の左側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示し、車両前端部の左側方の画像を車載表示器5の右画面に表示する。
 検出部13は、車両1の走行状況を示す情報を検出する検出部である。図10の例では、検出部13が、自車両に搭載された車両制御部(図10において不図示)から自車両の駆動軸の回転速度に連動して発生する車輪速パルスを検出し、検出された車輪速パルスを基に車速に対応する車両速度信号(アナログまたはデジタル信号)を生成する。
 また、検出部13は、ブレーキペダルおよびアクセルペダルの操作信号(例えばペダルの踏み込み量に対応する電圧信号)を検出してブレーキのオンオフ信号およびアクセルのオンオフ信号を生成する。
 さらに、検出部13は、ターンシグナル操作レバーの動作に連動して出力される電気信号を入力してターンシグナルの右折または左折のオンオフ信号を生成する。
 次に動作について説明する。
 ここで、画像処理部11が、車室内カメラ4bにより撮影された映像から車両前端部の左右側方の画像および車両の左右側方を前方から後方へ向けて見た領域の画像を抽出する処理は、実施の形態1と同様であるので、説明を省略する。以下、車両用視認支援装置10Aによる表示制御の詳細を説明する。
 図11は、実施の形態2に係る車両用視認支援装置による表示制御を示すフローチャートである。また、図12は、図11中のサブルーチンA1,A2,A3の処理を示すフローチャートである。
 表示制御部12Aの判定部14Aは、車両1の走行状況を示す情報として、検出部13から出力された車両速度信号、ブレーキのオンオフ信号、アクセルのオンオフ信号、ターンシグナルの右折信号または左折信号のオンオフを入力する(ステップST1b)。
 なお、このとき、表示制御部12Aの制御部15は、画像処理部11から出力された表示画像データを入力している。
 次に、判定部14Aは、検出部13から入力した車両速度信号に基づいて、車両1の車両速度Vが所定の走行条件に合致するか否かを判定する(ステップST2b)。ここで、車両速度Vを、徐行走行の車速域の上限を示す速度の閾値V1および低速走行の車速域の上限を示す速度の閾値V2と比較した結果に基づいて、自車両の走行状況が、徐行走行であるか、低速走行であるか、通常走行であるかが判定される。
 すなわち、V2<Vであれば通常走行(車両走行路における通常速度の走行)であり、V1<V≦V2であれば低速走行であり、V≦V1であれば徐行走行である。なお、各閾値には、実施の形態1と同様にヒステリシスを設けてもよい。
 自車両が通常走行であると判定された場合(ステップST2b;車両速度V>V2)、運転者Aが、前方の視野に加え、自動二輪車などが後方から接近しているか否かを確認しながら運転すべき走行状況であると判断されるため、車両の左右側方の各状況を視認する必要がある。このため、判定部14Aは、画像処理部11から入力した画像のうち、車両の左右側方の画像を車載表示器5に表示させる指令を制御部15に出力する。
 制御部15は、判定部14Aからの指令に従って、車載表示器5の左画面に車両の左側方の画像を表示し、車載表示器5の右画面に車両の右側方の画像を表示する(ステップST3b)。
 続いて、サブルーチンA1が実施される。
 まず、図12(a)に示すように、判定部14Aが、検出部13から入力したターンシグナルの右折信号または左折信号のオンオフ信号に基づいて、自車両の右左折を判定する。ここでは、自車両の走行状況が、右折または左折(右または左オン)であるか、直進(オフ)であるかが判定される。
 自車両が通常走行で直進しようとしていると判定した場合(オフ)、判定部14Aは、サブルーチンA1の処理を終了して図11のフローに戻り、表示制御を終了する。
 また、自車両が通常走行で右折または左折しようとしていると判定した場合(右または左オン)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA1の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、ターンシグナルがオン状態からオフ状態に戻った時点から所定の時間T1が経過するまで音出力部6に注意喚起音を出力させる。時間T1が経過すると、サブルーチンA1の処理を終了する。
 このように、サブルーチンA1は、ターンシグナルが右オンまたは左オンになったときに注意喚起音が発生し、ターンシグナルがオン状態からオフ状態に戻った時点から所定の時間T1が経過すると注意喚起音の発生を停止する動作である。なお、運転者Aが車両1を右左折させているときに注意喚起音を発生すればよいので、時間T1は、およそ1~2秒程度の短い時間である。
 一方、自車両が低速走行していると判定した場合(ステップST2b;車両速度V1<V≦V2)、判定部14Aは、検出部13から入力されたターンシグナルの右折信号または左折信号のオンオフ信号に基づいて自車両の右左折を判定する(ステップST4b)。ここでは、自車両の走行状況が、左折(左オン)であるか、直進(オフ)であるか、右折(右オン)であるかが判定される。
 自車両が低速走行で左折しようとしていると判定された場合(ステップST4b;左オン)、運転者Aが、左後方から接近する自動二輪車などを巻き込まないように、これから曲がる方向の道路状況に加え、その後方の状況、すなわち車両の左側方の状況を視認したい場合に相当する。そこで、判定部14Aは、画像処理部11から入力した車両の左側方の画像を、車載表示器5に表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、車両の左側方の画像を車載表示器5の左画面に表示する(ステップST5b)。
 さらに、判定部14Aは、画像処理部11から入力した車両前端部の左側方の画像を、車載表示器5に表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、車両前端部の左側方の画像を車載表示器5の右画面に表示する(ステップST6b)。
 このように表示することにより、運転者Aからは、実際の車両における位置関係と同様に、右画面に表示された車両前端部の左側方の画像から左側に視線を向けることにより、左画面に表示された車両の左側方の画像を視認することができる。
 続いて、サブルーチンA2が実施される。
 まず、図12(b)に示すように、判定部14Aが、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する。ここで、アクセルペダルの操作がなければ(なし)、サブルーチンA2の処理を終了して、図11のフローに戻る。また、アクセルペダルが操作された場合(あり)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。注意喚起音を発生していれば(YES)、サブルーチンA2の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Aは、現在、車載表示器5に表示している車両の左側方を前方から後方へ向けて見た領域の画像と、車両前端部の左側方の画像とにおける各外枠画像(マーカを映す外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。
 制御部15は、判定部14Aからの上記指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両の左側方の画像の外枠を強調表示し、車載表示器5の右画面に表示されている車両前端部の左側方の画像の外枠を強調表示する。
 このサブルーチンA2では、運転者Aがアクセルペダルを操作したときに注意喚起音が発生し、アクセルペダルの操作が終了したときから所定の時間T2が経過すると、自動的に注意喚起音の発生が停止する。さらに、左右側方の画像の外枠を高輝度あるいは点滅するように強調表示することにより、運転者Aの視線を誘導し、所定の時間T3が経過すると自動的に表示態様を元に戻している。
 なお、運転者Aは、注意喚起音をまず聞いてから続いて車載表示器5に強調表示された画像を視認する方が円滑に運転できると考えられるので、例えば、時間T2はおよそ2~3秒、時間T3はおよそ5~10秒程度とする。
 サブルーチンA2の処理が終了すると、続いてサブルーチンA3が実施される。
 まず、図12(c)に示すように、判定部14Aが、検出部13から入力された情報に基づいて、ブレーキペダルに操作があったか否かを判定する。
 ここで、ブレーキペダルの操作があれば(あり)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していなれば(NO)、サブルーチンA3の処理を終了する。
 また、注意喚起音を発生していれば(YES)、判定部14Aは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を発生させる。この後、サブルーチンA3の処理を終了して図11のフローに戻る。
 一方、最初のステップでブレーキペダルの操作がなければ(なし)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA3の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Aは、現在、車載表示器5に表示している車両前端部の左側方の画像と、車両の左側方を前方から後方へ向けて見た領域の画像とにおける各外枠画像(マーカを映す外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。
 制御部15は、判定部14Aからの指令に従って、所定の時間T3が経過するまで車載表示器5の左画面に表示されている車両の左側方を前方から後方へ向けて見た領域の画像の外枠と車載表示器5の右画面に表示されている車両前端部の左側方の画像の外枠とをそれぞれ強調表示する。
 このように、サブルーチンA3は、運転者Aがブレーキペダルを操作した時点から注意喚起音が発生し、所定の時間T4が経過すると自動的に注意喚起音の発生が停止する。
 さらに、左右側方の画像の外枠を高輝度あるいは点滅するように強調表示することで、運転者Aの視線を誘導し、所定の時間T3が経過すると自動的に表示態様を元に戻している。なお、運転者Aは、注意喚起音をまず聞いてから、続いて車載表示器5に強調表示された画像を視認する方が円滑に運転できると考えられるので、例えば、時間T4はおよそ1~2秒、時間T3はおよそ5~10秒程度とする。
 自車両が低速走行で直進しようとしていると判定された場合(ステップST4b;オフ)、例えば自車両が交差点を直進して抜けようとしており、運転者Aは、車両前方だけでなく、車両後方の左右側方の各状況を視認したい場合に走行状況であると考えられる。
 そこで、判定部14Aは、画像処理部11から入力した車両後方の右側方および左側方の画像を、車載表示器5の左画面に表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って車両の右側方を前方から後方へ向けて見た領域の画像を車載表示器5の右画面に表示し、車両の左側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示する(ステップST7b)。この後、処理を終了する。
 自車両が低速走行で右折しようとしていると判定された場合(ステップST4b;右オン)、運転者Aが、右後方から接近する自動二輪車などを巻き込まないように、これから曲がる方向の道路状況に加えて、その後方の状況、すなわち車両後方の右側方の状況を視認したい場合に相当する。
 そこで、判定部14Aは、画像処理部11から入力した車両の右側方を前方から後方へ向けて見た領域の画像を、車載表示器5に表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、車両の右側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示する(ステップST8b)。さらに、判定部14Aは、画像処理部11から入力した車両前端部の右側方の画像を、車載表示器5に表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、車両前端部の右側方の画像を車載表示器5の右画面に表示する(ステップST9b)。
 続いて、サブルーチンA2が実施される。
 まず、判定部14Aが、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する。ここで、アクセルペダルの操作がなければ(なし)、サブルーチンA2の処理を終了して、図11のフローに戻る。
 また、アクセルペダルが操作された場合(あり)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。注意喚起音を発生していれば(YES)、サブルーチンA2の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Aは、現在、車載表示器5に表示されている車両の右側方を前方から後方へ向けて見た領域の画像と、車両前端部の右側方の画像とにおける各外枠画像(マーカが映った外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両の右側方を前方から後方へ向けて見た領域の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 サブルーチンA2の処理が終了すると、続いてサブルーチンA3が実施される。
 まず、判定部14Aが、検出部13から入力された情報に基づいて、ブレーキペダルに操作があったか否かを判定する。ここで、ブレーキペダルの操作があれば(あり)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していなれば(NO)、サブルーチンA3の処理を終了する。
 また、注意喚起音を発生していれば(YES)、判定部14Aは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を発生させる。この後、サブルーチンA3の処理を終了して図11のフローに戻る。
 一方、最初のステップでブレーキペダルの操作がなければ(なし)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA3の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Aは、現在、車載表示器5に表示している車両前端部の右側方の画像と、車両の右側方を前方から後方へ向けて見た領域の画像とにおける各外枠画像(マーカを映す外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両の右側方を前方から後方へ向けて見た領域の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 一方、自車両が徐行走行であると判定された場合(ステップST2b;V≦V1)、自車両の停止が必要な走行状況、例えば駐車場内の出入口や信号機がない交差点に差し掛かった状態であると判断されるため、運転者Aは、車両前端部の右側方および左側方の各状況を視認する必要がある。
 そこで、判定部14Aは、画像処理部11から入力した車両前端部の右側方および左側方の画像を、車載表示器5の左画面に表示させる指令を制御部15に出力する。制御部15は、判定部14Aからの指令に従って、車両前端部の右側方の画像を車載表示器5の右画面に表示し、車両前端部の左側方の画像を車載表示器5の左画面に表示する(ステップST10b)。
 続いて、サブルーチンA2が実施される。
 まず、判定部14Aが、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する。ここで、アクセルペダルの操作がなければ(なし)、サブルーチンA2の処理を終了して図11のフローに戻る。また、アクセルペダルが操作された場合(あり)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA2の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Aは、現在、車載表示器5に表示されている車両前端部の右側方の画像と車両前端部の左側方の画像とにおける各外枠画像(マーカを映す外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。
 制御部15は、判定部14Aからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両前端部の左側方の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 サブルーチンA2の処理が終了すると、判定部14Aは、検出部13から入力したターンシグナルの右折信号または左折信号のオンオフ信号に基づいて、自車両の右左折を判定する(ステップST11b)。自車両が低速走行でかつ直進しようとしていると判定した場合(オフ)、判定部14Aは、図11の表示制御を終了する。
 また、自車両が低速走行でかつ右折または左折しようとしていると判定した場合(右または左オン)、判定部14Aは、サブルーチンA3の処理を実行する。
 サブルーチンA3では、判定部14Aが、検出部13から入力された情報に基づいて、ブレーキペダルに操作があったか否かを判定する。ここで、ブレーキペダルの操作があれば(あり)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していなれば(NO)、サブルーチンA3の処理を終了する。
 また、注意喚起音を発生していれば(YES)、判定部14Aは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を発生させる。この後、サブルーチンA3の処理を終了して図11のフローに戻る。
 一方、最初のステップでブレーキペダルの操作がなければ(なし)、判定部14Aは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA3の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Aは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Aは、現在、車載表示器5に表示されている車両前端部の左側方の画像と、車両前端部の右側方の画像とにおける各外枠画像(マーカを映す外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15に出力する。
 制御部15は、判定部14Aからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両前端部の左側方の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 また、図11に示した表示制御のフローチャートの動作はその時々に当該フローを1回巡る時間が10ミリ秒程度に時間制御されて、定期的に繰り返し動作する。ただし、時間制御は行うが、その動作時間(周期)を制限するものではない。
 以上のように、この実施の形態2によれば、車室2外の車両前端部1a近傍に搭載され、車両の側方を前方から後方に見る領域の少なくとも一つの領域を鏡面に映す小型ミラー3b,3cと、車室2内に搭載され、小型ミラー3b,3cの鏡面を含む画像を撮影する車室内カメラ4bと、車室内カメラ4bにより撮影された画像を画像処理して小型ミラー3b,3cの鏡面に映った画像を抽出する画像処理部11Aと、車室2内の運転者Aが視認可能な位置に表示画面が配置され(例えば、ダッシュボード2b上の中央付近)、表示画面内の左右画面で別々の画像を表示可能な車載表示器5と、車両1の走行状況に応じて、画像処理部11Aにより抽出された画像のうち、車両1の側方を前方から後方に見た領域を映す画像を車載表示器5の対応する方向の画面に表示させる表示制御部12Aを備える。このように構成することで、車体への取り付けの自由度が高く、煩雑なメンテナンス作業が不要であり、車両1の走行状況に応じて運転者Aに視認させるべき車両前端部の左右側方の視野および車両の左右側方を前方から後方へ向けて見る視野を運転者Aにとって違和感なく表示することができる。
 また、この実施の形態2によれば、表示制御部12Aが、車両1の速度、加減速操作の有無、ブレーキ操作の有無、および車両1の右左折の有無、のいずれかに応じて、画像処理部11Aにより抽出された画像のうち、車両1の左側方を前方から後方に見た領域を映す画像を車載表示器5の左画面に表示させ、車両1の左側方を前方から後方に見た領域を映す画像を車載表示器5の右画面に表示させるので、車両1の左右側方を前方から後方へ向けて見る視野を、必要なタイミングで運転者Aにとって違和感なく表示することができる。
実施の形態3.
 図13は、この発明の実施の形態3に係る車両用視認支援装置による車両前端部の右側方の視野(RS)、左側方の視野(LS)およびフロントピラーによる右前方の死角領域の視野(DRS)を示す図である。図13に示す例は、2つの鏡面を有する小型ミラー3dによって車両前端部の右側方の視野RS、左側方の視野LSおよびフロントピラー2eによる右前方の死角領域の視野DRSの視認を支援する態様を示している。
 小型ミラー3dは、図13に示すように、車両前端部の上部のほぼ中央に搭載されて、各鏡面が車両1の左右に向くように配置される。
 車室内カメラ4cは、実施の形態1および実施の形態2で示した車室内カメラと同様の機能を有する撮影部であり、図13に示すように、車室2のダッシュボード2b上の助手席の前方部分に設置される。
 また、車室内カメラ4cは、その光軸が車両1の右前方に向くように、上面からみて車両1の前方に対して傾けて配置されており、小型ミラー3dの鏡面画像に加え、その背景の車両前方のフロントピラー2eによる死角領域が視野CFVに入るように光学系が調整されている。
 車種によっては幅の広いフロントピラー2eを有する車両がある。このような車両1では、図13に示すように、運転者Aの前方視野MFVのうち、フロントピラー2eに遮られて車両1の右前方が物理的に大きな死角領域(図13中で斜線を付した領域)となる。
 そこで、実施の形態3では、上述のように、小型ミラー3dおよび車室内カメラ4cを配置し、車室内カメラ4cにより撮影された画像における小型ミラー3dの鏡面画像以外の背景部分も画像認識することにより、車両前端部の右側方の視野RS、左側方の視野LSおよびフロントピラー2eによる右前方の死角領域の視野DRSの各画像を得ている。
 また、この実施の形態3では、運転者Aに対して、フロントピラー2eによる右前方の死角領域の状況を違和感なく表示するために、当該死角領域の状況を表示する専用の車載表示器5Aを設けている。車載表示器5Aは、車室2のダッシュボード2b上のフロントピラー2e付近、すなわち当該死角領域に向いた位置に設置されており、運転者Aが運転中に視線を少し下げることによって、車載表示器5Aに表示されたフロントピラー2eによる右前方の死角領域の状況を視認することができる。
 なお、車室内カメラ4cによって撮影された画像から、車両前端部の右側方の画像と左側方の画像を区別するため、小型ミラー3dにおける、車両前端部の右側方と左側方を視野に入れる各鏡面を縁取るようにマーカを設けてもよい(図18を用いて後述する)。マーカとしては、例えば、発光色などに色付けされたテープを鏡面の縁に接着したものなどが考えられる。
 図14は、交差点で車両が右折または左折する際に必要な視野を示す図である。交差点で車両を右折または左折させる場合は、図14に示すように、運転者Aの直接目視が可能な前方視野MFVに加えて、車両前端部の左側方の視野LSおよび車両前端部の右側方の視野RSが必要である。また、フロントピラー2eの幅が広い車両などの場合では、車両が右左折する際、横断歩道を横断中の歩行者や自転車、バイクなどがフロントピラー2eによる右前方の死角領域に入ることがあるため、フロントピラー2eによる右前方の死角領域の視野DRSが必要となる。
 図15は、実施の形態3に係る車両用視認支援装置における表示器の配置例を示す図であり、図15(a)は、車室内の後部座席側から運転席側を見た際の車載表示器の配置を示しており、図15(b)は、図15(a)の車室を左側方から見た場合を示している。
 実施の形態3では、小型ミラー3dおよび車室内カメラ4cを用いることで、車両前端部の右側方の視野RS、左側方の視野LSおよびフロントピラー2eによる右前方の死角領域の視野DRSの各画像が得られ、これらの視野の画像を運転者Aに対して違和感なく表示するために車載表示器5,5Aを設けている。
 車載表示器5は、運転者Aが視認可能な位置に表示画面が配置される表示器であって、例えば、図15(a)に示すように、メータパネル2cの左側の近接した位置であるダッシュボード2bの上部に設けた凹部(車両前方側、すなわちダッシュボード前面2b-1よりも奥側)に搭載される。
 運転者Aが、ダッシュボード前面2b-1に配置された車載情報機器(ナビゲーション装置など)を操作する場合、運転中の視線方向からダッシュボード前面2b-1に視線を戻す必要がある。
 これに対して、上述のように配置された車載表示器5では、実際の車両1の位置関係に合わせて車載表示器5の左画面に車両前端部の左側方の視野LSの画像を表示し、右画面に右側方の視野RSの画像を表示する。これにより、運転者Aは、運転中の視線方向から少し下にずらせば、違和感なく、車両前端部の左右側方の状況を視認することができる。
 また、車載表示器5Aは、死角領域DRSに向いた車室2内の運転者Aが視認可能な位置に表示画面が配置される表示器である。例えば、図15(a)及び図15(b)に示すように、車載表示器5Aは、車室2のダッシュボード2b上のフロントピラー2e付近であって、かつ運転者Aの前方視野MFVを遮らない位置に設置されている。これにより、運転者Aが運転中に視線を少し下げることによって車載表示器5Aに表示されたフロントピラー2eによる右前方の死角領域の状況を視認することができる。
 さらに、車室2内の運転者Aが視認可能な位置に表示画面が配置される表示器として、ルームインナーミラーの位置などに車載表示器5Bを設けてもよい。車載表示器5Bは、例えば、車載表示器5と同様に1つの表示画面を左右に分割した各画面に別々の画像を表示可能な2画面表示器で構成され、車両後端部周辺の画像を表示する。なお、車両後端部の周辺視野を得る構成については、図20から図22までを用いて後述する。
 図15に示すように複数の表示器を適切に配置することにより、運転者Aは、フロントガラス2aを介した前方視野および既存の左右のドアミラー3Aによる車両後方の左右側方の視野に加えて、車両前端部の右側方の視野RS、左側方の視野LS、フロントピラー2eによる右前方の死角領域の視野DRSおよび車両後端部周辺の視野を得ることができる。
 図16は、実施の形態3に係る車両用視認支援装置の機能構成を示すブロック図である。図16に示す車両用視認支援装置10Bでは、図13に示した小型ミラー3dと車室内カメラ4cを搭載するとともに、実施の形態2で図8または図9を用いて示した小型ミラー3b,3cと車室内カメラ4bを車体左右側にそれぞれ搭載している。
 すなわち、車室内カメラ4b,4cにより撮影された映像から、車両前端部の右側方の視野RS、左側方の視野LS、フロントピラー2eによる右前方の死角領域の視野DRS、車両の左側方を前方から後方へ向けて見る視野LSB、および車両の右側方を前方から後方へ向けて見る視野RSBの各画像を得ることができる。車両用視認支援装置10Bは、これらの画像の少なくとも1つを抽出して車載表示器5または車載表示器5Aに表示させ、音出力部6に注意喚起音を出力させる。その機能構成として、画像処理部11、画像処理部11A、表示制御部12Bおよび検出部13を備える。
 画像処理部11は、車室内カメラ4b,4cによって撮影された映像を画像処理して、小型ミラー3b,3c,3dの各鏡面画像を抽出する画像処理部である。また、画像処理部11は、実施の形態1と同様に、抽出した鏡面画像の視認性を向上させる表示処理(鮮明化)と車載表示器5および車載表示器5Aで表示可能な表示画像への変換処理を行う。
 画像処理部11Aは、車室内カメラ4b,4cにより撮影された映像を画像処理して、小型ミラー3b,3c,3dの鏡面画像以外の背景画像を抽出する画像処理部である。
 また、画像処理部11Aは、画像処理部11と同様に、抽出した背景画像の視認性を向上させる表示処理(鮮明化)と、車載表示器5および車載表示器5Aで表示可能な表示画像への変換処理を行う。
 音出力部6は、注意喚起音となる音データが登録された音源を有し、車載表示器5に表示した画像に運転者Aの視線を誘導するため、判定部14Bから注意喚起音の出力が指示され、判定部14Aから指示された時間が経過するまで注意喚起音の出力を継続する。注意喚起音としては、例えばポップ音または“左右に気を付けて下さい”などの音声案内が考えられる。
 表示制御部12Bは、画像処理部11と画像処理部11Aから入力した表示画像(車両前端部の左右側方の画像、フロントピラー2eによる右前方の死角領域の画像、車両の左右側方の画像のいずれか)を車両の走行状況に応じて、車載表示器5または車載表示器5Aに表示する表示制御部であり、判定部14B、制御部15Aおよび視野切り替え/ズーム動作部16を備える。
 判定部14Bは、検出部13により検出された車両の走行状況を示す情報に基づいて、画像処理部11または画像処理部11Aから入力した表示画像を、車載表示器5または車載表示器5Aに表示するタイミング、および、車載表示器5または車載表示器5Aにどのように表示するか(表示態様)を判定する。判定結果に応じた表示指令は、判定部14Bから制御部15Aへ出力される。なお、車両の走行状況を示す情報としては、図16に示すように、車両速度、ブレーキのオンまたはオフ、アクセルのオンまたはオフ、右折または左折信号のオンまたはオフが挙げられる。
 制御部15Aは、判定部14Bからの指令を入力すると、画像処理部11または画像処理部11Aから入力した表示画像を、上記指令に従って車載表示器5または車載表示器5Aに表示させる制御部である。例えば、画像処理部11により抽出された表示画像のうち、車載表示器5に表示すべき画像が、車両前端部の左側方の画像と、車両の左側方を前方から後方へ向けて見た領域の画像とである場合は、車両の左側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示し、車両前端部の左側方の画像を車載表示器5の右画面に表示する。また、画像処理部11Aにより抽出されたフロントピラー2eによる右前方の死角領域の画像は、車載表示器5Aに表示される。
 視野切り替え/ズーム動作部16は、判定部14Bからの指令に従って、画像処理部11または画像処理部11Aに画像データを出力する車室内カメラ4b,4cを切り替えることにより、車載表示器5,5Aに表示する視野を切り替える。
 また、視野切り替え/ズーム動作部16は、判定部14Bからの指令に従って、車室内カメラ4b,4cの光学系を調整してズームアップまたはズームダウンを行う。
 例えば、車両前端部の左右側方の画像を得たい場合は、車室内カメラ4bの光学系を調整して小型ミラー3dの各鏡面画像をズームアップ(狭い視野)させる。
 また、フロントピラー2eによる右前方の死角領域の画像を得たい場合には、車室内カメラ4bの光学系を調整して小型ミラー3dの鏡面画像以外の背景画像を含むようにズームダウン(広い視野)させる。
 検出部13は、車両1の走行状況を示す情報を検出する検出部である。図16の例では、検出部13が、自車両に搭載された車両制御部(図16において不図示)から自車両の駆動軸の回転速度に連動して発生する車輪速パルスを検出し、検出された車輪速パルスを基に車速に対応する車両速度信号(アナログまたはデジタル信号)を生成する。
 また、検出部13は、ブレーキペダルおよびアクセルペダルの操作信号(例えばペダルの踏み込み量に対応する電圧信号)を検出してブレーキのオンオフ信号およびアクセルのオンオフ信号を生成する。さらに、検出部13は、ターンシグナル操作レバーの動作に連動して出力される電気信号を入力してターンシグナルの右折または左折のオンオフ信号を生成する。
 次に動作について説明する。
 画像処理部11による画像処理は、実施の形態1で図5を用いて説明した動作と同様であるので、説明を省略する。以下、画像処理部11Aによる画像処理の詳細を説明する。
 図16は、実施の形態2に係る車両用視認支援装置による表示画像の生成処理の概要を示すフローチャートである。ここでは、図13に示した小型ミラー3dおよび車室内カメラ4cを用いて、フロントピラー2eによる右前方の死角領域の視野DRSの視認を支援する態様について示す。
 画像処理部11Aは、自装置10Bを搭載する車両1が運転者Aに運転されている間、車室内カメラ4cにより撮影された画像データを随時取り込む(ステップST1c)。
 すなわち、視野切り替え/ズーム動作部16が、車室内カメラ4cから出力される画像信号を画像処理部11Aが入力するように切り替えを行っている。
 次に、画像処理部11Aは、取り込んだ画像から小型ミラー3aの鏡面部の周辺枠部分を抽出する(ステップST2c)。図18に示すように、車室内カメラ4cによって撮影された画像4Aは、小型ミラー3dの背景が映った背景画像領域4Bと、小型ミラー3dの鏡面画像領域4Cとを有する。また、鏡面画像領域4Cは、小型ミラー3dの各鏡面を縁取るように設けられたマーカが映った外枠画像領域4Dによって左側の鏡面画像領域4CLと右側の鏡面画像領域4CRに区分されている。画像処理部11Aは、車室内カメラ4cから取り込んだ画像4Aに対して2値化処理を施し、輝度値が所定の閾値以上となる枠形状の高輝度領域である外枠画像領域4Dを画像4Aから判別する。
 画像処理部11Aは、周辺枠部分の外側の画像領域(背景画像領域4B)を取り出す(ステップST3c)。なお、背景画像領域4Bには、フロントピラー2eによる右前方の死角領域の画像4Baが含まれる。
 続いて、画像処理部11Aは、取り出した背景画像領域4Bに対して鮮明な画像に変換する画像処理を施す(ステップST4c)。例えば、背景画像領域4Bにおける輝度分布のヒストグラムを伸張あるいは平坦化することで、鏡面画像のコントラストを改善する。
 すなわち、画像処理部11Aは、背景画像領域4Bにおける画素ごとの濃度値(輝度値)の度数分布を表すヒストグラムを作成する。ヒストグラムを伸張する場合は、ヒストグラムの度数ゼロの画素が可能な限り少なくなるように輝度を変換する。また、ヒストグラムを平坦化する場合は、ヒストグラムの度数分布で値の変化が大きい部分をその変化分が小さくなるように輝度を変換する。
 この後、画像処理部11Aは、ステップST4cで鮮明化処理を施した画像を、車載表示器5Aの画面に対応した表示画像に変換する(ステップST5c)。例えば、車載表示器5Aの画面サイズに合うように画像サイズを拡大する変換処理を行う(画素数の増加)。また、車載表示器5Aの画面サイズの方が画像サイズより小さい場合には、車載表示器5Aの画面サイズに合うように画像サイズを縮小する変換処理を行う(画素数の減少)。
 最後に、画像処理部11Aは、上述の画像処理を施して得られたフロントピラー2eによる右前方の死角領域の画像4Baを含む背景画像の画像信号を表示制御部12Bへ出力する(ステップST6c)。
 次に、表示制御部12Bの動作を説明する。
 図19は、実施の形態3に係る車両用視認支援装置による表示制御を示すフローチャートであり、図19に沿って図16に示した車両用視認支援装置10Bの表示制御部12Bによる表示画像の表示制御の詳細を説明する。また、図19中のサブルーチンA1,A2,A3は、図12に示したサブルーチンA1,A2,A3と同様である。
 なお、以降では、小型ミラー3b,3cおよび車室内カメラ4bにより車両前端部の左右側方の画像および車両の左右側方を前方から後方へ向けて見た領域の画像を取得し、小型ミラー3dおよび車室内カメラ4cによりフロントピラー2eによる右前方の死角領域の画像を得るものとする。ただし、視野切り替え/ズーム動作部16によって、車室内カメラ4cのズームを調整することで、小型ミラー3dおよび車室内カメラ4cにより車両前端部の左右側方の画像を取得することは可能である。
 まず、表示制御部12Bの判定部14Bは、車両1の走行状況を示す情報として検出部13から出力された車両速度信号、ブレーキのオンオフ信号、アクセルのオンオフ信号、ターンシグナルの右折信号または左折信号のオンオフを入力する(ステップST1d)。
 このとき、視野切り替え/ズーム動作部16は、判定部14Bからの指令に従って、車室内カメラ4bにより撮影された画像データを画像処理部11に出力するよう切り替え、さらに車室内カメラ4cにより撮影された画像データを画像処理部11Aに出力するよう切り替える。また、視野切り替え/ズーム動作部16は、フロントピラー2eによる右前方の死角領域が背景画像に含まれるように車室内カメラ4bをズームダウンしている。
 これにより、制御部15Aには、画像処理部11および画像処理部11Aで抽出された画像データが入力されている。
 次に、判定部14Bは、検出部13から入力した車両速度信号に基づいて、車両1の車両速度Vが所定の走行条件に合致するか否かを判定する(ステップST2d)。ここで、車両速度Vを、徐行走行の車速域の上限を示す速度の閾値V1および低速走行の車速域の上限を示す速度の閾値V2と比較した結果に基づいて、自車両の走行状況が、徐行走行であるか、低速走行であるか、通常走行であるかが判定される。
 すなわち、V2<Vであれば通常走行(車両走行路における通常速度の走行)であり、V1<V≦V2であれば低速走行であり、V≦V1であれば徐行走行である。なお、各閾値には、実施の形態1と同様にヒステリシスを設けてもよい。
 自車両が通常走行であると判定された場合(ステップST2d;車両速度V>V2)、運転者Aが、前方の視野に加え、自動二輪車などが後方から接近しているか否かを確認しながら運転すべき走行状況であると判断されるため、車両の左右側方の各状況を視認する必要がある。このため、判定部14Bは、画像処理部11から入力した画像のうち、車両の左右側方を前方から後方へ向けて見た領域の画像を車載表示器5に表示させる指令を、制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車載表示器5の左画面に車両の左側方を前方から後方へ向けて見た領域の画像を表示し、車載表示器5の右画面に車両の右側方を前方から後方へ向けて見た領域の画像を表示する(ステップST3d)。
 また、自車両の通常走行においても、運転者Aが、フロントピラー2eによる右前方の死角領域を視認したい。そこで、判定部14Bは、画像処理部11Aから入力したフロントピラー2eによる右前方の死角領域の画像を車載表示器5Aに表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車載表示器5Aにフロントピラー2eによる右前方の死角領域の画像を表示する(ステップST4d)。
 続いて、サブルーチンA1が実施される。
 まず、図12(a)に示すように、判定部14Bが、検出部13から入力したターンシグナルの右折信号または左折信号のオンオフ信号に基づいて、自車両の右左折状態を判定する。ここでは、自車両の走行状況が、右折または左折(右または左オン)であるか、直進(オフ)であるかが判定される。
 自車両が通常走行で直進しようとしていると判定した場合(オフ)、判定部14Bは、サブルーチンA1の処理を終了して図19のフローに戻り、表示制御を終了する。
 また、自車両が通常走行で右折または左折しようとしていると判定した場合(右または左オン)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA1の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、ターンシグナルがオン状態からオフ状態に戻った時点から所定の時間T1が経過するまで音出力部6に注意喚起音を出力させる。時間T1が経過すると、サブルーチンA1の処理を終了する。
 このように、サブルーチンA1は、ターンシグナルが右オンまたは左オンになったときに注意喚起音が発生し、ターンシグナルがオン状態からオフ状態に戻った時点から所定の時間T1が経過すると注意喚起音の発生を停止する動作である。なお、運転者Aが車両1を右左折させているときに注意喚起音を発生すればよいので、時間T1は、およそ1~2秒程度の短い時間である。
 一方、自車両が低速走行していると判定した場合(ステップST2d;車両速度V1<V≦V2)、判定部14Bは、検出部13から入力されたターンシグナルの右折信号または左折信号のオンオフ信号に基づいて自車両の右左折状態を判定する(ステップST4d)。ここでは、自車両の走行状況が、左折(左オン)であるか、直進(オフ)であるか、右折(右オン)であるかが判定される。
 自車両が低速走行で左折しようとしていると判定された場合(ステップST4d;左オン)、運転者Aが、これから曲がる方向の道路状況およびフロントピラー2eによる右前方の死角領域に加え、左後方から接近する自動二輪車などを巻き込まないようにその後方の状況、すなわち車両後方の左側方の状況を視認したい場合に相当する。
 そこで、判定部14Bは、画像処理部11から入力した車両の左側方を前方から後方へ向けて見た領域の画像を、車載表示器5に表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車両の左側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示する(ステップST5d)。
 さらに、判定部14Bは、画像処理部11から入力した車両前端部の左側方の画像を、車載表示器5に表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車両前端部の左側方の画像を車載表示器5の右画面に表示する(ステップST6d)。
 さらに、判定部14Bは、画像処理部11Aから入力したフロントピラー2eによる右前方の死角領域の画像を車載表示器5Aに表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車載表示器5Aにフロントピラー2eによる右前方の死角領域の画像を表示する(ステップST7d)。
 このように表示することにより、運転者Aからは、フロントピラー2eによる右前方の死角領域に加え、実際の車両における位置関係と同様に、右画面に表示された車両前端部の左側方の画像から左側に視線を向けることにより、左画面に表示された車両の左側方を前方から後方へ向けて見た領域の画像を視認することができる。
 続いて、サブルーチンA2が実施される。
 まず、図12(b)に示すように、判定部14Bが、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する。ここで、アクセルペダルの操作がなければ(なし)、サブルーチンA2の処理を終了して、図19のフローに戻る。
 また、アクセルペダルが操作された場合(あり)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。注意喚起音を発生していれば(YES)、サブルーチンA2の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Bは、現在、車載表示器5に表示されている車両の左側方を前方から後方へ向けて見た領域の画像と車両前端部の左側方の画像とにおける各外枠画像(マーカが映った外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Bからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両の左側方を前方から後方へ向けて見た領域の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の左側方の画像の外枠とを強調表示する。
 このサブルーチンA2では、運転者Aがアクセルペダルを操作したときに注意喚起音が発生し、アクセルペダルの操作が終了したときから所定の時間T2が経過すると、自動的に注意喚起音の発生が停止する。さらに、左右側方の画像の外枠を高輝度あるいは点滅するように強調表示することにより、運転者Aの視線を誘導し、所定の時間T3が経過すると自動的に表示態様を元に戻している。
 なお、運転者Aは、注意喚起音をまず聞いてから続いて車載表示器5に強調表示された画像を視認する方が円滑に運転できると考えられるので、例えば、時間T2はおよそ2~3秒、時間T3はおよそ5~10秒程度とする。
 サブルーチンA2の処理が終了すると、続いてサブルーチンA3が実施される。
 まず、図12(c)に示すように、判定部14Bが、検出部13から入力された情報に基づいて、ブレーキペダルに操作があったか否かを判定する。
 ここで、ブレーキペダルの操作があれば(あり)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していなれば(NO)、サブルーチンA3の処理を終了する。
 また、注意喚起音を発生していれば(YES)、判定部14Bは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を発生させる。この後、サブルーチンA3の処理を終了して図19のフローに戻る。
 一方、最初のステップでブレーキペダルの操作がなければ(なし)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA3の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Bは、現在、車載表示器5に表示している車両前端部の左側方の画像と車両の左側方を前方から後方へ向けて見た領域の画像とにおける各外枠画像(マーカが映った外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Aからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両の左側方を前方から後方へ向けて見た領域の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の左側方の画像の外枠とをそれぞれ強調表示する。このように、サブルーチンA3は、運転者Aがブレーキペダルを操作した時点から注意喚起音が発生して、所定の時間T4が経過すると自動的に注意喚起音の発生が停止する。
 さらに、左右側方の画像の外枠を高輝度あるいは点滅するように強調表示することで、運転者Aの視線を誘導し、所定の時間T3が経過すると自動的に表示態様を元に戻している。なお、運転者Aは、注意喚起音をまず聞いてから、続いて車載表示器5に強調表示された画像を視認する方が円滑に運転できると考えられるので、例えば、時間T4はおよそ1~2秒、時間T3はおよそ5~10秒程度とする。
 自車両が低速走行で直進しようとしていると判定された場合(ステップST4d;オフ)、例えば自車両が交差点を直進して抜けようとしており、運転者Aは、車両前方だけでなく、車両の左右側方の各状況を視認したい場合に走行状況であると考えられる。
 そこで、判定部14Bは、画像処理部11から入力した車両の右側方および左側方の画像を、車載表示器5の左画面に表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Bからの指令に従って、車両の右側方を前方から後方へ向けて見た領域の画像を車載表示器5の右画面に表示し、車両の左側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示する(ステップST8d)。この後、処理を終了する。
 自車両が低速走行で右折しようとしていると判定された場合(ステップST4d;右オン)、運転者Aが、これから曲がる方向の道路状況およびフロントピラー2eによる右前方の死角領域に加え、右後方から接近する自動二輪車などを巻き込まないようにその後方の状況、すなわち車両の右側方の状況を視認したい場合に相当する。
 そこで、判定部14Bは、画像処理部11から入力した車両の右側方を前方から後方へ向けて見た領域の画像を、車載表示器5に表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車両の右側方を前方から後方へ向けて見た領域の画像を車載表示器5の左画面に表示する(ステップST9d)。
 さらに、判定部14Bは、画像処理部11から入力した車両前端部の右側方の画像を、車載表示器5に表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車両前端部の右側方の画像を車載表示器5の右画面に表示する(ステップST10d)。
 さらに、判定部14Bは、画像処理部11Aから入力したフロントピラー2eによる右前方の死角領域の画像を車載表示器5Aに表示させる指令を、制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って車載表示器5Aにフロントピラー2eによる右前方の死角領域の画像を表示する(ステップST11d)。
 続いて、サブルーチンA2が実施される。
 まず、判定部14Bが、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する。ここで、アクセルペダルの操作がなければ(なし)、サブルーチンA2の処理を終了して、図19のフローに戻る。
 また、アクセルペダルが操作された場合(あり)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。注意喚起音を発生していれば(YES)、サブルーチンA2の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Bは、現在、車載表示器5に表示されている車両の右側方を前方から後方へ向けて見た領域の画像と、車両前端部の右側方の画像とにおける各外枠画像(マーカを映す外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Bからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両の右側方を前方から後方へ向けて見た領域の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 サブルーチンA2の処理が終了すると、続いてサブルーチンA3が実施される。
 まず、判定部14Bが、検出部13から入力された情報に基づいて、ブレーキペダルに操作があったか否かを判定する。ここで、ブレーキペダルの操作があれば(あり)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していなれば(NO)、サブルーチンA3の処理を終了する。
 また、注意喚起音を発生していれば(YES)、判定部14Bは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を発生させる。この後、サブルーチンA3の処理を終了して図19のフローに戻る。
 一方、最初のステップでブレーキペダルの操作がなければ(なし)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA3の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Bは、現在、車載表示器5に表示されている車両前端部の右側方の画像と、車両の右側方を前方から後方へ向けて見た領域の画像における各外枠画像(マーカが映った外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Bからの指令に従って、所定の時間T3が経過するまで車載表示器5の左画面に表示されている車両の右側方を前方から後方へ向けて見た領域の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 一方、自車両が徐行走行であると判定された場合(ステップST2d;V≦V1)、自車両の停止が必要な走行状況、例えば駐車場内の出入口や信号機がない交差点に差し掛かった状態であると判断されるため、運転者Aは、車両前端部の右側方および左側方の各状況を視認する必要がある。
 そこで、判定部14Bは、画像処理部11から入力した車両前端部の右側方および左側方の画像を、車載表示器5の左画面に表示させる指令を制御部15Aに出力する。制御部15Aは、判定部14Bからの指令に従って、車両前端部の右側方の画像を車載表示器5の右画面に表示し、車両前端部の左側方の画像を車載表示器5の左画面に表示する(ステップST12d)。
 続いて、サブルーチンA2が実施される。
 まず、判定部14Bが、検出部13から入力した情報に基づいて、アクセルペダルに操作があったか否かを判定する。ここで、アクセルペダルの操作がなければ(なし)、サブルーチンA2の処理を終了して、図19のフローに戻る。また、アクセルペダルが操作された場合(あり)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。注意喚起音を発生していれば(YES)、サブルーチンA2の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、アクセルペダルの操作が終了した時点から所定の時間T2が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Bは、現在、車載表示器5に表示されている車両前端部の右側方の画像と車両前端部の左側方の画像とにおける各外枠画像(マーカが映った外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Bからの指令に従って、所定の時間T3が経過するまで車載表示器5の左画面に表示されている車両前端部の左側方の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 サブルーチンA2の処理が終了すると、判定部14Bは、検出部13から入力したターンシグナルの右折信号または左折信号のオンオフ信号に基づいて、自車両の右左折状態を判定する(ステップST13d)。自車両が低速走行でかつ直進しようとしていると判定した場合(オフ)、判定部14Bは、図19の表示制御を終了する。
 また、自車両が低速走行でかつ右折または左折しようとしていると判定した場合(右または左オン)、判定部14Bは、サブルーチンA3の処理を実行する。
 サブルーチンA3では、判定部14Bが、検出部13から入力された情報に基づいて、ブレーキペダルに操作があったか否かを判定する。ここで、ブレーキペダルの操作があれば(あり)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していなれば(NO)、サブルーチンA3の処理を終了する。
 また、注意喚起音を発生していれば(YES)、判定部14Bは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を発生させる。この後、サブルーチンA3の処理を終了して図19のフローに戻る。
 一方、最初のステップでブレーキペダルの操作がなければ(なし)、判定部14Bは、音出力部6が注意喚起音を発生中か否かを判定する。
 注意喚起音を発生していれば(YES)、サブルーチンA3の処理を終了する。
 注意喚起音を発生していなければ(NO)、判定部14Bは、ブレーキペダルが操作された時点から所定の時間T4が経過するまで音出力部6に注意喚起音を出力させる。
 次に、判定部14Bは、現在、車載表示器5に表示されている車両前端部の左側方の画像と車両前端部の右側方の画像とにおける各外枠画像(マーカが映った外枠画像領域4D)を、所定の時間T3が経過するまで強調表示させる指令を制御部15Aに出力する。
 制御部15Aは、判定部14Bからの指令に従って、所定の時間T3が経過するまで、車載表示器5の左画面に表示されている車両前端部の左側方の画像の外枠と、車載表示器5の右画面に表示されている車両前端部の右側方の画像の外枠とを強調表示する。
 また、図19に示した表示制御のフローチャートの動作はその時々に当該フローを1回巡る時間が10ミリ秒程度に時間制御されて、定期的に繰り返し動作する。ただし、時間制御は行うが、その動作時間(周期)を制限するものではない。
 なお、上述の説明では、フロントピラー2eによる死角領域を視野に入れる場合を示したが、本発明は、車室内の内装物による死角領域であれば、フロントピラー2eに限定されるものではない。
 図20は、小型ミラーおよび車室内カメラの別の態様を概略的に示す図であり、図20(a)は、車両の内部側面を示しており、図20(b)は、図20(a)の車両の内部上面を示している。車両1Aは、スポーツユーティリティ車(SUV;Sports Utility Vehicle)などの車両長が長い車両である。このような車種の車両では、運転者Aから車両後端部の周辺、特に車両後端部の左右下方および直近後方が死角になりやすい。
 そこで、車両1Aの車両後端部の上部に小型ミラー3eを設ける。この小型ミラー3eは、2つの鏡面を有する三角柱形状のミラーであって、図20(a)および図20(b)に示すように、各鏡面が車両後端部の左右下方を向くように配置されている。
 また、車室内カメラ4dは、図1で示した車室内カメラ4と同様の機能を有する撮影部であり、小型ミラー3eの鏡面が視野に入るように、車室2の後部天面のほぼ中央に搭載される。
 この構成において、車室内カメラ4dにより小型ミラー3eの2つの鏡面に映った鏡面画像を撮影し、この撮影画像を画像処理して車両後端部の左右下方の画像を抽出して、例えば、車載表示器5または車載表示器5B(図15参照)の右画面に右下方の映像を表示し、左画面に左下方の映像を表示する。また、図20では図示を省略したが、車載表示器5Aに表示してもよい。図20に示す構成であれば、車両後端部の左右下方の視野が得られるが、この構成を実施の形態1~3と組み合わせれば、上述の視野に加え、上記実施の形態1~3で示した視野の視認を支援することが可能となる。
 なお、車室内カメラ4dにより撮影された画像から、車両後端部の右下方の画像と左下方の画像を区別するため、図6および図17に示したように、小型ミラー3eにおける車両後端部の左右下方を視野に入れる各鏡面を縁取るようにマーカを設けてもよい。マーカとしては、例えば発光色などに色付けされたテープあるいはLEDテープなどを鏡面の縁に接着したものなどが考えられる。
 図21は、小型ミラーおよび車室内カメラの別の態様を概略的に示す図であり、図21(a)は、車両の内部側面を示しており、図21(b)は、図21(a)の車両の内部上面を示している。車両1Bは、ピックアップトラック車などの荷台を有した車両である。このような車種の車両では、運転者Aから車両後端部の周辺、特に車両後端部の左右下方および直近後方が死角になりやすい。
 そこで、車両1Bの車両後端部における荷台のガード板1dを避けた側方部に小型ミラー3fを設ける。小型ミラー3fは、図20で示した小型ミラー3eと同様に、2つの鏡面を有する三角柱形状のミラーであり、図21(a)および図21(b)に示すように、各鏡面が車両後端部の左右下方を向くように配置される。
 また、車室内カメラ4eは、図1で示した車室内カメラ4と同様の機能を有する撮影部であり、小型ミラー3fの鏡面が視野に入るように、車室2の後部天面の右端部に搭載される。
 この構成において、車室内カメラ4eにより小型ミラー3fの2つの鏡面に映った鏡面画像を撮影し、この撮影画像を画像処理して車両後端部の左右下方の画像を抽出して、例えば、車載表示器5または車載表示器5B(図15参照)の右画面に右下方の映像を表示し、左画面に左下方の映像を表示する。また、図21では図示を省略したが、車載表示器5Aに表示してもよい。図21に示す構成であれば、車両後端部の左右下方および直近後方の視野が得られるが、この構成を実施の形態1~3と組み合わせれば、上述の視野に加え、上記実施の形態1~3で示した視野の視認を支援することが可能となる。
 なお、車室内カメラ4eによって撮影された画像から、車両後端部の右下方の画像と左下方の画像を区別するため、図6および図17に示したように、小型ミラー3fにおける車両後端部の左右下方を視野に入れる各鏡面を縁取るようにマーカを設けてもよい。マーカとしては、例えば発光色などに色付けされたテープあるいはLEDテープなどを鏡面の縁に接着したものなどが考えられる。
 図22は、小型ミラーおよび車室内カメラの別の態様を概略的に示す図であり、図22(a)は、車両の内部側面を示しており、図22(b)は、図22(a)の車両の内部上面を示している。車両1Cは、大型トラックやバスなどの大型のアウトサイドミラー3Bを有した車両である。このような車種の車両では、運転者Aから車両後端部の周辺、特に車両後端部の左右側方および直近後方が死角になりやすい。
 そこで、車両1Cの車両後端部の左側下方に小型ミラー3gを設け、車両1Cの車両後端部の右側上方に小型ミラー3hを設ける。
 図22(a)および図22(b)に示すように、小型ミラー3gは、2つの鏡面を有した小型ミラーであり、2つの鏡面を車両1Cの後端部の左右側方(子供などの高さが低い物体が視野に入る高さ位置)に向けて設置される。
 また、小型ミラー3hは、鏡面が1つの小型ミラーであり、図1に示した小型ミラー3と同様に、曲率半径が50~100mm程度の凸面鏡である。小型ミラー3hは、車両1Cの後端部全体を左側から見た視野を得るため、車両1Cの車両後端部の右側上方(小型ミラー3gよりも高い位置)から鏡面を左側下方に向けて設置される。
 小型ミラー3g,3hの鏡面画像は、図22(a)および図22(b)に示すように、大型のアウトサイドミラー3Bに内蔵した内蔵カメラ4fにより撮影する。
 この構成において、内蔵カメラ4fにより小型ミラー3g,3hの各鏡面に映った鏡面画像を撮影し、この撮影画像を画像処理して車両1Cの後端部全体およびその左右側方の各画像を抽出して、例えば車載表示器5Bに車両1Cの後端部全体の画像を表示し、車載表示器5の右画面に右側方の映像を表示し、左画面に左側方の映像を表示する。また、図22では図示を省略したが、車載表示器5Aに表示してもよい。図22の構成であれば、車両1Cの後端部全体およびその左右側方および直近後方の視野が得られるが、この構成を実施の形態1~3と組み合わせれば、上述の視野に加え、上記実施の形態1~3で示した視野の視認を支援することが可能となる。
 なお、図20から図22までの構成において、判定部が、車両の走行状況を示す情報として、車両のバックギアが入れられたことを示す信号を入力すると、車両後端部の側方の画像を車載表示器5,5A,5Bに表示するようにしてもよい。
 以上のように、この実施の形態3によれば、車室2外の車両前端部1a近傍に搭載され、運転者Aの前方視野を除いた車両1の周囲の一方向の領域または複数の方向の領域を鏡面に映す小型ミラー3dと、車室2内に搭載され、小型ミラー3dの鏡面を含む画像を撮影する車室内カメラ4cと、車室内カメラ4cのズーム動作を制御して、運転者Aの前方視野の車室2内の内装物による死角領域を、小型ミラー3dの鏡面の背景として撮影させる視野切り替え/ズーム動作部16と、車室内カメラ4cにより撮影された画像を画像処理して小型ミラー3dの鏡面に映った画像を抽出する画像処理部11と、車室内カメラ4cにより撮影された画像を画像処理して背景に含まれる死角領域の画像を抽出する画像処理部11Aと、車室2内の運転者が視認可能な位置に表示画面が配置され(ダッシュボード2b上の中央付近など)、表示画面内の左右画面で別々の画像を表示可能な車載表示器5と、死角領域に向いた車室内の運転者が視認可能な位置に表示画面が配置された車載表示器5Aと、車両1の走行状況に応じて、画像処理部11により抽出された画像を車載表示器5に表示させ、画像処理部11Aにより抽出された死角領域の画像を車載表示器5Aに表示させる表示制御部12Bを備える。
 このように構成することで、車体への取り付けの自由度が高く、煩雑なメンテナンス作業が不要であり、車両1の走行状況に応じて、運転者Aに視認させるべき車両前端部の左右側方、車両の左右側方およびフロントピラー2eによる右前方の死角領域の視野を、運転者Aにとって違和感なく表示することができる。
 また、この実施の形態3によれば、表示制御部12Bが、車両1の速度、加減速操作の有無、ブレーキ操作の有無、および車両1の右左折の有無、のいずれかに応じて、画像処理部11により抽出された画像を車載表示器5に表示させ、画像処理部11Aにより抽出された死角領域の画像を車載表示器5Aに表示させるので、車両の左右側方およびフロントピラー2eによる右前方の死角領域の視野を、必要なタイミングで運転者Aにとって違和感なく表示することができる。
 さらに、この実施の形態3によれば、車室2外の1c近傍に搭載され、車両後端部1cの側方の領域を鏡面に映す小型ミラー3e~3fと、車室2内に搭載され、当該小型ミラー3e~3fの鏡面を含む画像を撮影する車室内カメラ4eと、車室2内の運転者Aが視認可能な位置に表示画面が配置され、車両後端部1cの側方の領域の画像を表示する車載表示器5、車載表示器5Aおよび車載表示器5Bのいずれかと、車両1の走行状況に応じて、画像処理部11により抽出された画像のうち、車両後端部1cの側方の領域を映す画像を車載表示器5Bに表示させる表示制御部12を備える。このように構成することで、運転者Aに視認させるべき車両後端部の左右側方の視野を、必要なタイミングで運転者Aにとって違和感なく表示することができる。
 さらに、この実施の形態3によれば、車室2外の車両後端部1c近傍に搭載され、車両後端部1cの側方の領域を鏡面に映す小型ミラー3g,3hと、車室2外のアウトサイドミラー3Bに内蔵され、当該小型ミラー3g,3hの鏡面を含む画像を撮影する内蔵カメラ4fと、車室2内の運転者Aが視認可能な位置に表示画面が配置され、車両後端部1cの側方の領域の画像を表示する車載表示器5、車載表示器5Aおよび車載表示器5Bのいずれかと、車両1の走行状況に応じて、画像処理部11により抽出された画像のうち、車両後端部1cの側方の領域を映す画像を車載表示器5Bに表示させる表示制御部12を備える。このように構成することで、同様に、運転者Aに視認させるべき車両後端部の左右側方の視野を、必要なタイミングで運転者Aにとって違和感なく表示することができる。
 上記実施の形態1~3では、車両1が右ハンドルである場合を例に挙げて説明したが、当然ながら、左ハンドルの車両の場合は、上述した小型ミラー、車室内カメラおよび車載表示器の位置関係を左右逆にすれば、同様の効果を得ることができる。
 なお、本発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
 この発明に係る車両用視認支援装置は、車体への取り付けの自由度が高く、煩雑なメンテナンス作業が不要であり、車両の走行状況に応じて運転者に視認させるべき視野を違和感なく表示することができるので、様々な車種の車両用視認支援装置に好適である。
 1,1A~1C 車両、1a 車両前端部、1b 車両側面部、1c 車両後端部、1d 荷台のガード板、2 車室、2a フロントガラス、2b ダッシュボード、2b-1 ダッシュボード前面、2c メータパネル、2d ステアリングハンドル、2e フロントピラー、2f 車載情報機器、3,3a~3h 小型ミラー、3A サイドミラー、3B アウトサイドミラー、4,4a~4e 車室内カメラ、4f 内蔵カメラ、4A 画像、4B 背景画像領域、4C 鏡面画像領域、4D 外枠画像領域、4CL,4CR 鏡面画像領域、4Ba 死角領域の画像、5,5A,5B 車載表示器、6 音出力部、10,10A,10B 車両用視認支援装置、11,11A 画像処理部、12,12A,12B 表示制御部、13 検出部、14,14A,14B 判定部、15,15A 制御部、16 視野切り替え/ズーム動作部。

Claims (7)

  1.  車室外の車両前端部近傍に搭載され、前記車両前端部の側方の領域および前記車両の側方を前方から後方に見る領域の少なくとも一つの領域を鏡面に映すミラーと、
     車室内に搭載され、前記ミラーの鏡面を含む画像を撮影する撮影部と、
     前記撮影部により撮影された画像を画像処理して前記ミラーの鏡面に映った画像を抽出する画像処理部と、
     車室内の運転者が視認可能な位置に表示画面が配置され、前記表示画面内の左右画面で別々の画像を表示可能な第1の表示器と、
     前記車両の走行状況に応じて、前記画像処理部により抽出された画像のうち、車両前端部の側方の領域を映す画像または前記車両の側方を前方から後方に見た領域を映す画像を前記第1の表示器の対応する方向の画面に表示させる表示制御部を備える車両用視認支援装置。
  2.  車室外の車両前端部近傍に搭載され、運転者の前方視野を除いた車両の周囲の一方向の領域または複数の方向の領域を鏡面に映すミラーと、
     車室内に搭載され、前記ミラーの鏡面を含む画像を撮影する撮影部と、
     前記撮影部のズーム動作を制御して、前記運転者の前方視野の前記車室内の内装物による死角領域を、前記ミラーの鏡面の背景として撮影させるズーム制御部と、
     前記撮影部により撮影された画像を画像処理して前記ミラーの鏡面に映った画像を抽出する第1の画像処理部と、
     前記撮影部により撮影された画像を画像処理して前記背景に含まれる前記死角領域の画像を抽出する第2の画像処理部と、
     車室内の運転者が視認可能な位置に表示画面が配置され、前記表示画面内の左右画面で別々の画像を表示可能な第1の表示器と、
     前記死角領域に向いた車室内の運転者が視認可能な位置に表示画面が配置された第2の表示器と、
     前記車両の走行状況に応じて、前記第1の画像処理部により抽出された画像を前記第1の表示器に表示させ、前記第2の画像処理部により抽出された前記死角領域の画像を前記第2の表示器に表示させる表示制御部を備える車両用視認支援装置。
  3.  前記表示制御部は、前記車両の速度、加減速操作の有無、ブレーキ操作の有無、および前記車両の右左折の有無、のいずれかに応じて、前記画像処理部により抽出された画像のうち、前記車両前端部の左側方の領域を映す画像または前記車両の左側方を前方から後方に見た領域を映す画像を前記第1の表示器の左画面に表示させ、前記車両前端部の右側方の領域を映す画像または前記車両の左側方を前方から後方に見た領域を映す画像を前記第1の表示器の右画面に表示させることを特徴とする請求項1記載の車両用視認支援装置。
  4.  前記表示制御部は、前記車両の速度、加減速操作の有無、ブレーキ操作の有無、および前記車両の右左折の有無、のいずれかに応じて、前記第1の画像処理部により抽出された画像を前記第1の表示器に表示させ、前記第2の画像処理部により抽出された前記死角領域の画像を前記第2の表示器に表示させることを特徴とする請求項2記載の車両用視認支援装置。
  5.  前記車室内の内装物による死角領域は、前記車室内のフロントピラーによる死角領域であることを特徴とする請求項2記載の車両用視認支援装置。
  6.  車室外の車両後端部近傍に搭載され、前記車両後端部の側方の領域を鏡面に映すミラーと、
     車室内に搭載され、当該ミラーの鏡面を含む画像を撮影する撮影部と、
     車室内の運転者が視認可能な位置に表示画面が配置され、前記車両後端部の側方の領域の画像を表示する表示器と、
     前記車両の走行状況に応じて、前記画像処理部により抽出された画像のうち、前記車両後端部の側方の領域を映す画像を前記表示器に表示させる表示制御部を備える車両用視認支援装置。
  7.  車室外の車両後端部近傍に搭載され、前記車両後端部の側方の領域を鏡面に映すミラーと、
     車室外のアウトサイドミラーに内蔵され、当該ミラーの鏡面を含む画像を撮影する撮影部と、
     車室内の運転者が視認可能な位置に表示画面が配置され、前記車両後端部の側方の領域の画像を表示する表示器と、
     前記車両の走行状況に応じて、前記画像処理部により抽出された画像のうち、前記車両後端部の側方の領域を映す画像を前記表示器に表示させる表示制御部を備える車両用視認支援装置。
PCT/JP2012/002111 2012-03-27 2012-03-27 車両用視認支援装置 WO2013144998A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2012/002111 WO2013144998A1 (ja) 2012-03-27 2012-03-27 車両用視認支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2012/002111 WO2013144998A1 (ja) 2012-03-27 2012-03-27 車両用視認支援装置

Publications (1)

Publication Number Publication Date
WO2013144998A1 true WO2013144998A1 (ja) 2013-10-03

Family

ID=49258373

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/002111 WO2013144998A1 (ja) 2012-03-27 2012-03-27 車両用視認支援装置

Country Status (1)

Country Link
WO (1) WO2013144998A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3015939A1 (fr) * 2013-12-30 2015-07-03 Valeo Systemes Thermiques Dispositif et procede de retro-vision a affichage electronique pour vehicule.
WO2015173953A1 (ja) * 2014-05-16 2015-11-19 富士通株式会社 モニタ装置
US20210370773A1 (en) * 2018-05-08 2021-12-02 Sony Semiconductor Solutions Corporation Image processing apparatus, moving apparatus, method, and program
EP3941793A4 (en) * 2019-04-26 2022-12-28 Waymo LLC MIRROR FOR EXPANDING THE SENSOR FIELD OF VIEW IN SELF-DRIVING VEHICLES

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5576722A (en) * 1978-12-01 1980-06-10 Maesato Naoto Multi-directional outside mirror device
JPH07304388A (ja) * 1994-05-10 1995-11-21 Ichikoh Ind Ltd 車両用死角解消装置
JP2000071877A (ja) * 1998-08-26 2000-03-07 Nissan Motor Co Ltd 車両用表示装置
JP2000285393A (ja) * 1999-03-31 2000-10-13 Toshiba Corp 移動体の後方監視装置および後方監視方法
JP2002325249A (ja) * 2001-04-25 2002-11-08 Sumitomo Electric Ind Ltd 車両側方映像生成装置
JP2005193838A (ja) * 2004-01-09 2005-07-21 Clarion Co Ltd 車両周囲表示装置
JP2010030524A (ja) * 2008-07-30 2010-02-12 Toyota Motor Corp 死角表示装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5576722A (en) * 1978-12-01 1980-06-10 Maesato Naoto Multi-directional outside mirror device
JPH07304388A (ja) * 1994-05-10 1995-11-21 Ichikoh Ind Ltd 車両用死角解消装置
JP2000071877A (ja) * 1998-08-26 2000-03-07 Nissan Motor Co Ltd 車両用表示装置
JP2000285393A (ja) * 1999-03-31 2000-10-13 Toshiba Corp 移動体の後方監視装置および後方監視方法
JP2002325249A (ja) * 2001-04-25 2002-11-08 Sumitomo Electric Ind Ltd 車両側方映像生成装置
JP2005193838A (ja) * 2004-01-09 2005-07-21 Clarion Co Ltd 車両周囲表示装置
JP2010030524A (ja) * 2008-07-30 2010-02-12 Toyota Motor Corp 死角表示装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3015939A1 (fr) * 2013-12-30 2015-07-03 Valeo Systemes Thermiques Dispositif et procede de retro-vision a affichage electronique pour vehicule.
WO2015101724A1 (fr) * 2013-12-30 2015-07-09 Valeo Systemes Thermiques Dispositif et procédé de rétro-vision à affichage électronique pour véhicule
CN106458092A (zh) * 2013-12-30 2017-02-22 法雷奥热系统公司 用于车辆的用于借助电子显示器的后视视觉的装置和方法
CN106458092B (zh) * 2013-12-30 2019-05-28 法雷奥热系统公司 用于车辆的用于借助电子显示器的后视视觉的装置和方法
US10994656B2 (en) 2013-12-30 2021-05-04 Valeo Systemes Thermiques Device and method for rear-view vision with electronic display for a vehicle
WO2015173953A1 (ja) * 2014-05-16 2015-11-19 富士通株式会社 モニタ装置
US20210370773A1 (en) * 2018-05-08 2021-12-02 Sony Semiconductor Solutions Corporation Image processing apparatus, moving apparatus, method, and program
US11958358B2 (en) * 2018-05-08 2024-04-16 Sony Semiconductor Solutions Corporation Image processing apparatus, moving apparatus, method, and program
EP3941793A4 (en) * 2019-04-26 2022-12-28 Waymo LLC MIRROR FOR EXPANDING THE SENSOR FIELD OF VIEW IN SELF-DRIVING VEHICLES
US11822011B2 (en) 2019-04-26 2023-11-21 Waymo Llc Mirrors to extend sensor field of view in self-driving vehicles

Similar Documents

Publication Publication Date Title
CN108602465B (zh) 车辆用图像显示系统及搭载了该图像显示系统的车辆
JP6413207B2 (ja) 車両用表示装置
JP6346614B2 (ja) 情報表示システム
US8218007B2 (en) Camera system for a vehicle and method for controlling a camera system
JP5310602B2 (ja) 車両用周辺監視システム
JP5169884B2 (ja) ヘッドアップディスプレイ装置
US9576208B2 (en) Emergency vehicle detection with digital image sensor
JP6014433B2 (ja) 画像処理装置、画像処理方法、及び、画像処理システム
US10919450B2 (en) Image display device
US11601621B2 (en) Vehicular display system
WO2013144998A1 (ja) 車両用視認支援装置
JP6448714B2 (ja) 情報表示システム
JP2008155701A (ja) 車両用視界補助装置
US10836311B2 (en) Information-presenting device
JP5119675B2 (ja) 車両周辺監視装置
JP6573218B2 (ja) 車両用画像表示装置及び設定方法
JP6439233B2 (ja) 車両用画像表示装置及び画像処理方法
JP2021154888A (ja) 車両用表示装置
JP6971087B2 (ja) 視認補助装置
JPH06183298A (ja) 車載用左右確認装置
JP6878109B2 (ja) 画像表示装置
JP2019038372A (ja) 画像表示装置
US20220086368A1 (en) Vehicular display system
US20240123905A1 (en) Display system, vehicle, control method, and storage medium
JP2017213934A (ja) 車両用表示装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12873452

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12873452

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP