WO2014045466A1 - 作業車両用周辺監視システム及び作業車両 - Google Patents

作業車両用周辺監視システム及び作業車両 Download PDF

Info

Publication number
WO2014045466A1
WO2014045466A1 PCT/JP2012/081204 JP2012081204W WO2014045466A1 WO 2014045466 A1 WO2014045466 A1 WO 2014045466A1 JP 2012081204 W JP2012081204 W JP 2012081204W WO 2014045466 A1 WO2014045466 A1 WO 2014045466A1
Authority
WO
WIPO (PCT)
Prior art keywords
alarm
image
work vehicle
area
dump truck
Prior art date
Application number
PCT/JP2012/081204
Other languages
English (en)
French (fr)
Inventor
幸弘 中西
栗原 毅
Original Assignee
株式会社小松製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社小松製作所 filed Critical 株式会社小松製作所
Priority to US13/992,854 priority Critical patent/US9333915B2/en
Priority to CA2817857A priority patent/CA2817857C/en
Priority to CN201280004064.8A priority patent/CN103827943B/zh
Publication of WO2014045466A1 publication Critical patent/WO2014045466A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images

Definitions

  • the present invention relates to a technique for monitoring the periphery of a work vehicle.
  • Patent Document 1 when there are a plurality of objects around the work vehicle, all the objects are displayed on the monitor. As shown in Patent Document 1, in the case of a work vehicle such as a hydraulic excavator, since the work range extends in all directions, it is necessary to display a plurality of objects on the monitor. However, if only a plurality of objects are displayed on the monitor, an operator (a service person when inspecting or repairing the work vehicle) is present around the work vehicle, for example, when there is another target of attention. There is a possibility that the object cannot be sufficiently recognized.
  • An object of the present invention is to make an operator of a work vehicle more surely recognize an object existing around the work vehicle when driving assistance is performed using a bird's-eye view image obtained by combining images taken by a plurality of image pickup devices.
  • the present invention detects a target that is attached to a work vehicle and images the surroundings of the work vehicle and outputs as image information, and an object that is attached to the work vehicle and exists around the work vehicle.
  • a bird's-eye view image for acquiring a plurality of object detection devices and a plurality of pieces of the image information, and combining the acquired image information to display a bird's-eye view image of the work vehicle and its surroundings on a display device
  • a first image obtained by superimposing an index indicating an object detected by the object detection device on the overhead image based on the overhead image information and a second image captured by the imaging device are the same on the display device.
  • a display control unit that displays on the screen, a first alarm that displays the area where the index exists in the first image different from the area where the index does not exist, and the presence of the object are notified by sound 2 based on an alarm release signal from the alarm release command unit that receives an input for releasing the alarm, an alarm notification unit that notifies at least one or both of the two alarms as an alarm, and the object And a warning canceling unit that cancels the warning according to a canceling order based on the position where the vehicle exists.
  • the alarm canceling unit cancels the first alarm by displaying the area where the index exists in the first image in the same manner as the area where the index does not exist, and changes the sound or sounds. It is preferable to cancel the alarm by canceling the second alarm by stopping.
  • the alarm notification unit changes the alarm notification mode in accordance with the release order.
  • the display control unit continues displaying the indicator even after the alarm canceling unit cancels the alarm.
  • the display control unit moves the index in the overhead image according to the movement of the object, It is preferable to notify at least the first alarm.
  • the display control unit displays an index indicating the new object on the first image
  • the alarm notification unit includes at least the first It is preferable to notify 1 alarm.
  • the display control unit is configured such that the alarm canceling unit first selects the alarm among the images captured by the plurality of imaging devices. It is preferable to display an image corresponding to the position where release is performed on the display device as the second image.
  • the display control unit is positioned next to the alarm canceling. It is preferable that the image corresponding to is displayed on the display device as the second image.
  • the alarm release unit changes the release order according to the state of the work vehicle.
  • the display control unit displays a third image indicating at least one of a position targeted for the alarm and a position where the second image is displayed on the display device. It is preferable to display on the same screen.
  • the display control unit stops displaying the first image on the display device, and displays only the second image and the third image on which the index is displayed on the same screen of the display device. It is preferable to display.
  • the display control unit when the work vehicle is moving backward, displays, on the display device, an image behind the work vehicle among the images taken by the plurality of imaging devices as the second image.
  • the display control unit has the largest range of blind spots from the driver's seat of the work vehicle in front of the work vehicle among the images captured by the plurality of imaging devices. It is preferable to display an image of a position on the display device as the second image.
  • the first alarm and the second alarm are simultaneously canceled based on the alarm cancellation signal.
  • a plurality of imaging devices that are attached to a work vehicle to pick up an image of the periphery of the work vehicle and output as image information, and an object that is attached to the work vehicle and exists around the work vehicle are detected.
  • a bird's-eye view image for acquiring a plurality of object detection devices and a plurality of pieces of the image information, and combining the acquired image information to display a bird's-eye view image of the work vehicle and its surroundings on a display device
  • a first image obtained by superimposing an index indicating an object detected by the object detection device on the overhead image based on the overhead image information and a second image captured by the imaging device are the same on the display device.
  • a display control unit to be displayed on the screen, and an area where the index exists in the first image is displayed differently from an area where the index does not exist, and the presence of the object is notified by sound.
  • the alarm cancellation command unit that receives an input for canceling the alarm, and the cancellation based on the position where the object exists
  • An alarm canceling unit that cancels the alarm according to an order, wherein the display control unit includes at least a position where the alarm is notified and a position where the second image is displayed on the display device
  • a third image displaying one is displayed on the same screen of the display device, and the display control unit continues to display the indicator even after the alarm canceling unit cancels the alarm.
  • 1 is a work vehicle periphery monitoring system.
  • the present invention is a work vehicle including the work vehicle periphery monitoring system.
  • the present invention can make an operator of a work vehicle more surely recognize an object existing around the work vehicle when driving assistance is performed with an overhead image obtained by combining images taken by a plurality of image pickup devices.
  • FIG. 1 is a perspective view showing a work vehicle according to the present embodiment.
  • FIG. 2 is a diagram illustrating the structure and the inside of the cab 3 included in the work vehicle according to the present embodiment.
  • FIG. 3 is a diagram illustrating the periphery monitoring system 10 according to the present embodiment.
  • FIG. 4 is a perspective view of the dump truck 1 on which the imaging devices 11 to 16 included in the periphery monitoring system 10 according to the present embodiment are mounted.
  • FIG. 5 is a schematic diagram showing a bird's-eye view image 200 that is generated based on information about the areas imaged by the plurality of imaging devices 11 to 16 and the images imaged by the plurality of imaging devices 11 to 16.
  • FIG. 6 is a perspective view showing the arrangement of the radar devices 21-28.
  • FIG. 1 is a perspective view showing a work vehicle according to the present embodiment.
  • FIG. 2 is a diagram illustrating the structure and the inside of the cab 3 included in the work vehicle according to the present embodiment.
  • FIG. 3
  • FIG. 7 is a diagram showing detection ranges of the radar devices 21 to 28.
  • FIG. 8 is a diagram illustrating an image conversion method using the virtual projection plane VP.
  • FIG. 9 is a flowchart showing a processing procedure of alarm release control of the periphery monitoring system 10.
  • FIG. 10 is a diagram illustrating an example of the first image 202A used for notification of the first alarm.
  • FIG. 11 is a diagram for explaining the alarm sound level.
  • FIG. 12 is a diagram showing an example of the data table 40 describing the level of alarm sound used for notification of the second alarm.
  • FIG. 13 is a diagram illustrating an example of the data table 41 describing the release order.
  • FIG. 10 is a diagram illustrating an example of the first image 202A used for notification of the first alarm.
  • FIG. 11 is a diagram for explaining the alarm sound level.
  • FIG. 12 is a diagram showing an example of the data table 40 describing the level of alarm sound used for notification of the second alarm.
  • FIG. 13 is
  • FIG. 14 is a diagram illustrating an example of the data table 42 in which the alarm sound level in each alarm area is described for each travel mode of the dump truck 1.
  • FIG. 15 is a diagram illustrating an example of a screen on which an alarm is displayed.
  • FIG. 16 is a diagram illustrating an example of a screen on which an alarm is displayed.
  • FIG. 17 is a diagram illustrating an example of a screen on which an alarm is displayed.
  • FIG. 18 is a diagram illustrating an example of a screen on which an alarm is displayed.
  • FIG. 19 is a diagram for explaining a case where the indices MKb and MKd have moved.
  • FIG. 20 is a diagram for explaining a case where the indices MKb and MKd have moved.
  • front, rear, left, and right are terms based on an operator who is an operator seated in a driver's seat (a serviceman instead of an operator when inspecting or repairing a work vehicle).
  • the front is the side where the line of sight of the operator seated in the driver's seat is headed, and the side toward the handle operated by the operator from the driver's seat.
  • the rear is the opposite side of the front and the side facing the driver's seat from the steering wheel.
  • the vehicle width direction of the work vehicle is synonymous with the left-right direction of the work vehicle.
  • FIG. 1 is a perspective view showing a work vehicle according to the present embodiment.
  • FIG. 2 is a diagram illustrating the structure and the inside of the cab 3 included in the work vehicle according to the present embodiment.
  • a dump truck (also referred to as an off-highway truck) 1 as a work vehicle is a self-propelled super large vehicle used for work in a mine.
  • the form of the dump truck is not limited.
  • the dump truck 1 may be, for example, an articulated type.
  • the work vehicle is not limited to the dump truck 1.
  • the dump truck 1 includes a vehicle body portion 2, a cab 3, a vessel 4, a front wheel 5, and a rear wheel 6.
  • the vehicle body part 2 includes an upper deck 2b and a frame 2f arranged along the front-rear direction. Further, the dump truck 1 has a surrounding monitoring system that monitors its surroundings and displays the result. Details of the peripheral monitoring system will be described later.
  • the dump truck 1 drives the rear wheel 6 by driving the electric motor with electric power generated by an internal combustion engine such as a diesel engine driving the generator.
  • an internal combustion engine such as a diesel engine driving the generator.
  • the dump truck 1 is what is called an electric drive system, the drive system of the dump truck 1 is not limited to this.
  • the dump truck 1 may transmit the power of the internal combustion engine to the rear wheel 6 via the transmission and drive it, or drive the electric motor with electric power supplied from the overhead line via the trolley.
  • the rear wheel 6 may be driven by this electric motor.
  • the frame 2f supports a power generation mechanism such as an internal combustion engine and a generator and its accessories.
  • Left and right front wheels 5 (only the right front wheel is shown in FIG. 1) are supported on the front portion of the frame 2f.
  • Left and right rear wheels 6 (only the right rear wheel is shown in FIG. 1) are supported at the rear portion of the frame 2f.
  • the front wheel 5 and the rear wheel 6 have a diameter of about 2 m (meter) to 4 m (meter).
  • the position inside the vehicle width direction of the vessel 4 or the outside in the vehicle width direction of the vessel 4 and the outside in the vehicle width direction of the rear wheel 6 are arranged at substantially the same position.
  • the frame 2f has a lower deck 2a and an upper deck 2b.
  • the dump truck 1 used in the mine has a double deck structure having the lower deck 2a and the upper deck 2b.
  • the lower deck 2a is attached to the lower part of the front surface of the frame 2f.
  • the upper deck 2b is disposed above the lower deck 2a.
  • a movable ladder 2c used for getting on and off the cab 3 is disposed.
  • an oblique ladder 2d for moving between the two is disposed.
  • a radiator is disposed between the lower deck 2a and the upper deck 2b.
  • a rail-shaped handrail 2e is disposed on the upper deck 2b.
  • the ladder 2c and the oblique ladder 2d are assumed to be part of the upper deck 2b and the lower deck 2a.
  • the cab (cab) 3 is arranged on the upper deck 2b.
  • the cab 3 is arranged on the upper deck 2b so as to be shifted to one side in the vehicle width direction from the center in the vehicle width direction.
  • the cab 3 is disposed on the left side of the center in the vehicle width direction on the upper deck 2b.
  • the arrangement of the cab 3 is not limited to the left side of the center in the vehicle width direction.
  • the cab 3 may be disposed on the right side of the center in the vehicle width direction, or may be disposed in the center in the vehicle width direction.
  • operation members such as a driver's seat, a handle, a shift lever, an accelerator pedal, and a brake pedal are arranged.
  • the cab 3 includes a ROPS (Roll-Over Protection System) including a plurality of (four in this embodiment) support columns 3a, 3b, 3c, and 3d.
  • ROPS Roll-Over Protection System
  • the driver of the dump truck 1 travels in a state where the left shoulder of the vehicle body part 2 can be easily confirmed, but in order to check the periphery of the vehicle body part 2, it is necessary to move the head greatly.
  • the upper deck 2b is provided with a plurality of side mirrors (not shown) in order to confirm the periphery of the dump truck 1. Since these side mirrors are arranged at positions away from the cab 3, the driver needs to move his head greatly even when checking the periphery of the vehicle body portion 2 using the side mirrors.
  • a driver's seat 31, a handle 32, a dash cover 33, a radio device 34, a radio receiver 35, a retarder 36, a shift lever 37, a trainer seat 38, are shown in FIG.
  • a controller (details will be described later), a monitor 50, a control panel 51, an accelerator pedal, a brake pedal, and the like as no monitoring control device.
  • the monitor 50 incorporated in the dash cover 33 is shown in FIG.
  • the present invention is not limited to this, and for example, the monitor 50 may be installed on the dash cover 33 or may be installed by being suspended from the ceiling in the cab 3. That is, it is only necessary that the monitor 50 is installed at a position where the operator can visually recognize the monitor 50.
  • the driver's seat 31 is provided on the left side of the cab 3, but the position of the driver's seat 31 is not limited to this.
  • the controller not shown in FIG. 2 is a part of the periphery monitoring system 10 described later.
  • the shift lever 37 is a device for the operator of the dump truck 1 to switch the traveling direction of the dump truck 1 and to switch the speed stage.
  • the vessel 4 shown in FIG. 1 is a container for loading loads such as crushed stones.
  • a rear portion of the bottom surface of the vessel 4 is rotatably connected to a rear portion of the frame 2f via a rotation pin.
  • the vessel 4 can take a loading posture and a standing posture by an actuator such as a hydraulic cylinder.
  • the loading posture is a posture in which the front portion of the vessel 4 is positioned above the cab 3.
  • the standing posture is a posture for discharging the load, and is a posture in which the vessel 4 is inclined rearward and downward.
  • the vessel 4 has a flange portion 4F on the front side.
  • the collar portion 4F is sometimes called a protector, and extends to the upper side of the cab 3 to cover the cab 3.
  • the collar part 4F extended above the cab 3 protects the cab 3 from collision of crushed stones or the like.
  • FIG. 3 is a diagram illustrating the periphery monitoring system 10 according to the present embodiment.
  • FIG. 4 is a perspective view of the dump truck 1 on which the imaging devices 11 to 16 included in the periphery monitoring system 10 according to the present embodiment are mounted.
  • FIG. 5 is a schematic diagram showing a bird's-eye view image 200 that is generated based on information about the areas imaged by the plurality of imaging devices 11 to 16 and the images imaged by the plurality of imaging devices 11 to 16.
  • the area imaged by the plurality of imaging devices shown in FIG. 5 is an area based on the ground. As shown in FIG.
  • the periphery monitoring system 10 includes a plurality (six in this embodiment) of imaging devices 11, 12, 13, 14, 15, and 16 and a plurality (eight in this embodiment) of radar devices. 21, 22, 23, 24, 25, 26, 27, 28, a monitor 50, and a controller 100 as a monitoring control device.
  • the imaging devices 11, 12, 13, 14, 15 and 16 are attached to the dump truck 1.
  • the imaging devices 11, 12, 13, 14, 15, and 16 are, for example, wide dynamic range (WDR) cameras.
  • the wide dynamic range camera is a camera having a function that can be adjusted so that a dark part can be brightly corrected and the whole part can be visually recognized while keeping a bright part at a level where the bright part can be visually recognized.
  • the imaging devices 11, 12, 13, 14, 15, and 16 image the periphery of the dump truck 1 and output it as image information.
  • the imaging device 11 is the first imaging device 11
  • the imaging device 12 is the second imaging device 12
  • the imaging device 13 is the third imaging device 13
  • the imaging device 14 is the fourth imaging device 14, and the imaging device 15 is the first.
  • the fifth imaging device 15 and the imaging device 16 are referred to as a sixth imaging device 16.
  • imaging devices 11 to 16 when it is not necessary to distinguish between these, they are appropriately referred to as imaging devices 11 to 16.
  • each of the imaging devices 11 to 16 has a visual field range of 120 degrees in the left-right direction (60 degrees left and right) and 96 degrees in the height direction, but is limited to such a visual field range. It is not something.
  • FIG. 4 shows arrows from the imaging devices 11 to 16, and the directions of these arrows indicate the directions in which the imaging devices 11 to 16 are facing.
  • the first imaging device 11 is attached to the front surface of the dump truck 1. Specifically, the first imaging device 11 is disposed at the upper end portion of the oblique ladder 2d, more specifically, at the lower portion of the uppermost landing part. The first imaging device 11 is fixed toward the front of the dump truck 1 via a bracket attached to the upper deck 2b. As shown in FIG. 5, the first imaging device 11 captures the first region 11 ⁇ / b> C among regions existing around the dump truck 1 and outputs first image information as image information.
  • the first area 11 ⁇ / b> C is an area that extends in front of the vehicle body portion 2 of the dump truck 1.
  • the second imaging device 12 is attached to one side of the front surface of the dump truck 1. Specifically, the second imaging device 12 is disposed on the right side of the front surface of the upper deck 2b. The second imaging device 12 is fixed toward the right front side of the dump truck 1 via a bracket attached to the upper deck 2b. As shown in FIG. 5, the second imaging device 12 captures the second area 12 ⁇ / b> C among the areas existing around the dump truck 1 and outputs second image information as image information.
  • the second area 12 ⁇ / b> C is an area that spreads diagonally right forward of the vehicle body 2 of the dump truck 1.
  • the third imaging device 13 is attached to the other side of the front surface of the dump truck 1. Specifically, the third imaging device 13 is disposed on the left side of the front surface of the upper deck 2b. The third imaging device 13 is arranged so as to be symmetrical with the second imaging device 12 with respect to an axis passing through the center of the dump truck 1 in the vehicle width direction. The third imaging device 13 is fixed toward the left front side of the dump truck 1 via a bracket attached to the upper deck 2b. As shown in FIG. 5, the third imaging device 13 images the third region 13 ⁇ / b> C among the regions existing around the dump truck 1 and outputs third image information as image information. The third region 13 ⁇ / b> C is a region that extends obliquely to the left of the vehicle body 2 of the dump truck 1.
  • the fourth imaging device 14 is attached to one side surface of the dump truck 1. Specifically, the fourth imaging device 14 is disposed in the front portion of the right side surface of the upper deck 2b. The 4th imaging device 14 is being fixed toward the diagonally right back of the dump truck 1 via the bracket attached to the upper deck 2b. As shown in FIG. 5, the fourth imaging device 14 images the fourth area 14 ⁇ / b> C among the areas existing around the dump truck 1 and outputs fourth image information as image information.
  • the fourth area 14 ⁇ / b> C is an area that extends obliquely to the right rear of the vehicle body portion 2 of the dump truck 1.
  • the fifth imaging device 15 is attached to the other side surface of the dump truck 1. Specifically, the fifth imaging device 15 is disposed in the front portion on the left side surface of the upper deck 2b. The fifth imaging device 15 is arranged to be bilaterally symmetric with the fourth imaging device 14 with respect to an axis passing through the center of the dump truck 1 in the vehicle width direction. As illustrated in FIG. 5, the fifth imaging device 15 captures the fifth area 15 ⁇ / b> C among the areas existing around the dump truck 1 and outputs fifth image information as image information.
  • the fifth area 15 ⁇ / b> C is an area that spreads diagonally to the left of the vehicle body 2 of the dump truck 1.
  • the sixth imaging device 16 is attached to the rear part of the dump truck 1. Specifically, the sixth imaging device 16 is disposed at the rear end of the frame 2 f, above the axle housing connecting the two rear wheels 6, 6 and in the vicinity of the rotation axis of the vessel 4. The sixth imaging device 16 is fixed toward the rear of the dump truck 1 via a bracket attached to a cross bar that connects the left and right frames 2f. As shown in FIG. 5, the sixth imaging device 16 images the sixth area 16 ⁇ / b> C among the areas existing around the dump truck 1 and outputs sixth image information as image information.
  • the sixth region 16 ⁇ / b> C is a region that spreads behind the vehicle body portion 2 of the dump truck 1.
  • the periphery monitoring system 10 captures an image of the entire circumference of the dump truck 1 as shown in the center of FIG. Image information can be acquired.
  • the six imaging devices 11 to 16 transmit first image information to sixth image information as image information captured by each of the imaging devices 11 to 16 to the controller 100 shown in FIG.
  • the first image pickup device 11, the second image pickup device 12, the third image pickup device 13, the fourth image pickup device 14, and the fifth image pickup device 15 are provided on the upper deck 2b at a relatively high position. Therefore, the controller 100 can obtain an image that looks down on the ground from above by the first imaging device 11 to the fifth imaging device 15, and can capture a wide range of objects such as vehicles existing on the ground. Can do. Further, even when the controller 100 executes viewpoint conversion when generating the overhead image 200 shown in FIG. 5 from the first image information to the sixth image information acquired by the first imaging device 11 to the sixth imaging device 16, Of the first image information to the sixth image information, the first image information to the fifth image information are information obtained by imaging from above, so that the degree of deformation of the three-dimensional object is suppressed.
  • FIG. 6 is a perspective view showing the arrangement of the radar devices 21-28.
  • FIG. 7 is a diagram showing detection ranges of the radar devices 21 to 28.
  • radar devices 21, 22, 23, 24, 25, 26, 27, and 28 serving as object detection devices have an azimuth of 80 degrees (40 degrees on the left and right) and detection.
  • This is a UWB (Ultra Wide Band) radar having a maximum distance of 15 m or more.
  • the radar devices 21 to 28 detect the relative position (relative position) between the object existing around the dump truck 1 and the dump truck 1.
  • the respective radar devices 21 to 28 are attached to the outer peripheral portion of the dump truck 1 in the same manner as the imaging devices 11 to 16.
  • FIG. 6 shows arrows from the radar devices 21 to 28. The directions of these arrows indicate the directions of the detection ranges of the radar devices 21 to 28.
  • the radar device 21 (referred to as the first radar device 21 as appropriate) includes a front surface of the vehicle body portion 2 and a center in the width direction of the vehicle body portion 2 in the lower deck 2 a disposed at a height of about 1 m from the ground. It is arranged slightly on the right side.
  • the detection range 21 ⁇ / b> R of the first radar device 21 is a range that extends from the front of the vehicle body portion 2 of the dump truck 1 to the diagonally left front.
  • the radar device 22 (referred to as the second radar device 22 as appropriate) is disposed in front of the vehicle body portion 2 in the lower deck 2 a and slightly to the left of the vehicle width direction center of the vehicle body portion 2. That is, the second radar device 22 is disposed adjacent to the first radar device 21 on the left side of the first radar device 21.
  • the detection range 22 ⁇ / b> R of the second radar device 22 is a range that extends from the front of the vehicle body portion 2 of the dump truck 1 to the diagonally forward right.
  • the radar device 23 (referred to as the third radar device 23 as appropriate) is disposed in the vicinity of the right side front end of the lower deck 2a as shown in FIG. As shown in FIG. 7, the detection range 23 ⁇ / b> R of the third radar device 23 is a range that spreads from the diagonally right front to the right of the vehicle body 2 of the dump truck 1.
  • the radar device 24 (referred to as the fourth radar device 24 as appropriate) is disposed in the vicinity of the right end portion at the intermediate height position between the lower deck 2 a and the upper deck 2 b on the side portion of the vehicle body portion 2. .
  • the detection range 24 ⁇ / b> R of the fourth radar device 24 is a range that extends from the right side to the rear side of the vehicle body 2 of the dump truck 1.
  • the radar device 25 (referred to as the fifth radar device 25 as appropriate) is disposed below the vessel 4 and above the axle that transmits driving force to the left and right rear wheels 6 of the dump truck 1. ing.
  • the detection range 25 ⁇ / b> R of the fifth radar device 25 is a range that extends from the diagonally right rear to the rear of the vehicle body 2 of the dump truck 1.
  • the radar device 26 (referred to as the sixth radar device 26 as appropriate) is disposed above the axle and adjacent to the right side of the fifth radar device 25, as with the fifth radar device 25. ing. As shown in FIG. 7, the detection range 26 ⁇ / b> R of the sixth radar device 26 extends from the diagonally left rear to the rear of the vehicle body 2 of the dump truck 1 so as to intersect the detection range of the fifth radar device 25. It becomes.
  • the radar device 27 (referred to as the seventh radar device 27 as appropriate) is in the vicinity of the left end at the intermediate height position between the lower deck 2 a and the upper deck 2 b on the side surface of the vehicle body 2, that is, the vehicle body 2.
  • the detection range 27 ⁇ / b> R of the seventh radar device 27 is a range that spreads from the left to the rear of the vehicle body 2 of the dump truck 1.
  • the radar device 28 (referred to as an eighth radar device 28 as appropriate) has a third radar device 23 in the vicinity of the front end portion on the left side surface of the lower deck 2 a, that is, with respect to the center axis in the vehicle width direction of the vehicle body 2. Are arranged at symmetrical positions. As shown in FIG. 7, the detection range 28 ⁇ / b> R of the eighth radar device 28 is a range that extends from the left diagonal front of the vehicle body 2 of the dump truck 1 to the left.
  • the eight radar devices 21 to 28 can detect the relative position between the object and the dump truck 1 using the entire circumference of 360 degrees around the dump truck 1 as a detection range.
  • the eight radar devices 21 to 28 each transmit relative position information indicating the relative position between the detected object and the dump truck 1 to the controller 100.
  • the plurality of (eight) radar devices 21 to 28 are provided in the vehicle body 2 and can detect objects existing in the entire circumference range of the vehicle body 2.
  • the controller 100 provided in the periphery monitoring system 10 will be described.
  • the controller 100 shown in FIG. 3 displays the presence or absence of an object around the dump truck 1 on the overhead image 200 (see FIG. 5) using the imaging devices 11 to 16 and the radar devices 21 to 28, and if necessary, The operator is notified of the presence of the object.
  • the controller 100 includes an overhead image synthesis unit 110, a camera image switching / viewpoint conversion unit 120, an object position information generation unit 130, a display control unit 140, an alarm notification unit 150, an alarm release unit 160, an object An object information collecting unit 210 and an object processing unit 220 are included.
  • the overhead image synthesis unit 110 is connected to the imaging devices 11 to 16 as shown in FIG.
  • the overhead image synthesis unit 110 receives a plurality of pieces of image information (first image information to sixth image information) captured by the respective imaging devices 11 to 16.
  • the bird's-eye view image combining unit 110 combines the images corresponding to the received plurality of pieces of image information, and generates the bird's-eye view image 200 including the entire periphery of the dump truck 1.
  • the bird's-eye view image synthesis unit 110 converts the plurality of pieces of image information into coordinates, thereby displaying the bird's-eye view image 200 obtained by projecting the plurality of images on a predetermined projection plane on the monitor 50. Generate information.
  • the overhead image information will be described later.
  • the camera image switching / viewpoint conversion unit 120 is connected to the imaging devices 11 to 16 as shown in FIG. Then, the camera image switching / viewpoint conversion unit 120 captures images by the image capturing devices 11 to 16 displayed on the screen of the monitor 50 together with the overhead image 200 according to, for example, the result of obstacle detection by the radar devices 21 to 28. Switch images. Further, the camera image switching / viewpoint conversion unit 120 converts the image information acquired by each of the imaging devices 11 to 16 into image information from the viewpoint from the upper infinity.
  • the object position information generation unit 130 is connected to the camera image switching / viewpoint conversion unit 120, the display control unit 140, and the object processing unit 220, as shown in FIG.
  • the object position information generation unit 130 combines the position information of the objects acquired by the radar apparatuses 21 to 28 in the overhead image 200 formed by combining the image information acquired by the imaging apparatuses 11 to 16.
  • the object position information to be displayed is generated and transmitted to the camera image switching / viewpoint conversion unit 120 and the display control unit 140.
  • the display control unit 140 is connected to the overhead image synthesis unit 110, the camera image switching / viewpoint conversion unit 120, the object position information generation unit 130, and the alarm notification unit 150, as shown in FIG.
  • the display control unit 140 is based on the bird's-eye view image information around the dump truck 1 generated by the bird's-eye view image synthesis unit 110 and the object position information around the dump truck 1 acquired by the radar devices 21 to 28.
  • the bird's-eye view image 200 including the position of the object is generated. This image is displayed on the monitor 50.
  • the display control unit 140 superimposes an index indicating an object (hereinafter, appropriately referred to as an object) present around the dump truck 1 detected by the radar devices 21 to 28 on the overhead image 200 based on the overhead image information.
  • the first image and the second image captured by the imaging devices 11 to 16 are displayed on the same screen of the monitor 50.
  • the alarm notification unit 150 is connected to the display control unit 140.
  • the alarm notification unit 150 displays the first alarm that displays the area where the index indicating the target object is different from the area where the index does not exist, and the presence of the target by sound. At least one of the second alarm to be notified is notified as an alarm.
  • the sound generation device 52 is connected to the alarm notification unit 150.
  • the sound generator 52 is, for example, a combination of a sound signal generator, an amplifier, and a speaker.
  • the device for the dump truck 1 to notify the operator of various alarms by sound is also used as the sound generator 52 of the periphery monitoring system 10.
  • the alarm notification unit 150 is electrically connected to a shift lever 37, more specifically, a sensor 37 a that detects the position of the shift lever 37.
  • a signal indicating the position of the shift lever 37 corresponds to the traveling mode of the dump truck 1. Therefore, the alarm notification unit 150 can acquire a signal indicating the traveling mode of the dump truck 1 from the shift lever 37.
  • This signal is, for example, a signal indicating the traveling direction of the dump truck 1 or a signal indicating the speed stage.
  • the alarm canceling unit 160 is based on a signal (alarm canceling signal) for canceling the alarm from the alarm canceling switch 53 as an alarm canceling command unit that receives an input for canceling the alarm notified by the alarm notifying unit 150.
  • the alarm is released according to the release order based on the position where the object exists.
  • the alarm release switch 53 is provided on the control panel 51 shown in FIG.
  • the alarm release switch 53 is electrically connected to the alarm release unit 160. Note that a touch panel may be used for the monitor 50 and the function of the alarm release switch 53 may be activated by touching the touch panel with a finger.
  • the alarm release switch 53 transmits an alarm release signal to the alarm release unit 160 when operated by the operator of the dump truck 1 to release the alarm.
  • the alarm release unit 160 receives the alarm release signal described above, the alarm release unit 160 transmits an alarm release command to the alarm notification unit 150.
  • the release order described above will be described later.
  • the alarm release unit 160 changes the release order described above according to the state of the dump truck 1.
  • the shift lever 37 and the vehicle speed sensor 54 as a vehicle state detection sensor for detecting the state of the dump truck 1 are electrically connected to the alarm release unit 160.
  • the alarm canceling unit 160 is at least one of a signal indicating the traveling direction or stop of the dump truck 1 and a signal indicating the speed stage acquired from the shift lever 37, more specifically, a sensor 37a that detects the position of the shift lever 37, or a vehicle speed.
  • the release order is changed based on the traveling speed (vehicle speed) of the dump truck 1 detected by the sensor 54.
  • the sensor 37a can detect the speed stage selected by the shift lever 37, but the alarm canceling unit 160 or the alarm notifying unit 150 uses the signal indicating the speed stage to determine whether the dump truck 1 travels or stops. It can also be determined. In the present embodiment, a case where the release order, that is, the priority is changed based on the signal indicating the traveling direction or stop of the dump truck 1 acquired from the sensor 37a will be described. Note that the vehicle speed sensor 54 shown in FIG. 3 is not necessarily required in the present embodiment.
  • the object information collecting unit 210 is connected to the radar devices 21 to 28 and the object processing unit 220 as shown in FIG.
  • the object information collection unit 210 receives the object detection results in the respective detection ranges from the radar devices 21 to 28 and transmits them to the object processing unit 220.
  • the object processing unit 220 is connected to the object information collecting unit 210 and the object position information generating unit 130 as shown in FIG.
  • the object processing unit 220 transmits the position information of the object received from the object information collecting unit 210 to the object position information generating unit 130.
  • the controller 100 is, for example, a computer that combines a CPU (Central Processing Unit) as a computing device and a memory as a storage device, and an image processing device (for example, an image board) that performs image processing such as synthesis of an overhead image.
  • the image processing device is equipped with a dedicated IC (for example, FPGA: Field-Programmable Gate Array) and a memory (for example, VRAM: Video Random Access Memory) that performs image processing such as combining overhead images. .
  • the imaging devices 11 to 16 are arranged on the front and side surfaces of the upper deck 2b and below the vessel 4.
  • the controller 100 synthesizes the first image information to the sixth image information captured by the imaging devices 11 to 16 to generate an overhead image 200 as shown in FIG. It is displayed on the monitor 50 arranged in front of the seat 31.
  • the monitor 50 displays an image such as the overhead image 200 under the control of the controller 100.
  • the bird's-eye view image 200 is obtained by the controller 100 combining the first image information to the sixth image information corresponding to the first region 11C to the sixth region 16C captured by the imaging devices 11 to 16.
  • the periphery monitoring system 10 displays such a bird's-eye view image 200 on the monitor 50. For this reason, the operator of the dump truck 1 can monitor the entire range of 360 degrees around the dump truck 1 only by visually recognizing the bird's-eye view image 200 displayed on the monitor 50.
  • the overhead image 200 will be described.
  • FIG. 8 is a diagram illustrating an image conversion method using the virtual projection plane VP.
  • the controller 100 creates an overhead image 200 around the dump truck 1 based on the plurality of images indicated by the plurality of first image information to sixth image information. Specifically, the controller 100 performs coordinate conversion of the first image information to the sixth image information using predetermined conversion information.
  • the conversion information is information indicating the correspondence between the position coordinates of each pixel of the input image and the position coordinates of each pixel of the output image.
  • the input image is an image captured by the imaging devices 11 to 16 and is an image corresponding to the first image information to the sixth image information.
  • the output image is an overhead image 200 displayed on the monitor 50.
  • the controller 100 uses the conversion information to convert the images picked up by the image pickup devices 11 to 16 into images seen from a predetermined virtual viewpoint located above the dump truck 1. Specifically, as shown in FIG. 5, the images picked up by the image pickup devices 11 to 16 are projected from a virtual viewpoint VIP located above the dump truck 1 by being projected onto a predetermined virtual projection plane VP. It is converted into an image. The conversion information represents this virtual projection plane VP. The converted image is an overhead image displayed on the monitor 50.
  • the controller 100 projects a plurality of first image information to sixth image information acquired from the plurality of imaging devices 11 to 16 onto a predetermined virtual projection plane VP to synthesize the overhead image 200 around the dump truck 1. Is generated.
  • the controller 100 displays images corresponding to the first image information to the sixth image information from the two imaging devices 11 to 16 adjacent to each other in each of the first overlap area OA1 to the sixth overlap area OA6. Overlapping display.
  • the controller 100 displays the first image information image from the first imaging device 11 and the third image information image from the third imaging device 13 in an overlapping manner.
  • the controller 100 displays the image of the first image information from the first imaging device 11 and the image of the second image information from the second imaging device 12 in an overlapping manner.
  • the controller 100 displays the third image information image from the third imaging device 13 and the fifth image information image from the fifth imaging device 15 in an overlapping manner.
  • the controller 100 displays the second image information image from the second imaging device 12 and the fourth image information image from the fourth imaging device 14 in an overlapping manner.
  • the controller 100 displays the fifth image information image from the fifth imaging device 15 and the sixth image information image from the sixth imaging device 16 in an overlapping manner.
  • the controller 100 displays the fourth image information image from the fourth imaging device 14 and the sixth image information image from the sixth imaging device 16 in an overlapping manner.
  • the composition ratio is a value corresponding to the first image information to the sixth image information, and is stored in the controller 100. For example, the composition ratio is determined for each of the first image information to the sixth image information such that the composition ratio of the first image information is 0.5 and the composition ratio of the second image information is 0.5.
  • the controller 100 can create a natural overhead image 200.
  • the controller 100 generates combined image information for displaying the overhead view image 200 combined as described above, and outputs the combined image information to the monitor 50.
  • the dump truck 1 includes a first imaging device 11, a second imaging device 12, a third imaging device 13, a fourth imaging device 14, and a fifth imaging device 15 arranged on the upper deck 2 b.
  • An imaging device 16 is disposed at the rear end of the frame 2 f and below the vessel 4.
  • the second image pickup device 12 and the third image pickup device 13 cover a region from the left and right diagonally forward to the left and right sides of the vehicle body portion 2 of the dump truck 1 as an imageable region.
  • the fourth imaging device 14 and the fifth imaging device 15 cover as a region capable of imaging from the left and right sides of the vehicle body portion 2 of the dump truck 1 to the diagonally rearward left and right.
  • the controller 100 covers the entire periphery of the dump truck 1 together with the first image information and the sixth image information acquired by the first imaging device 11 and the sixth imaging device 16. It is possible to generate the overhead view image 200 and monitor the periphery of the dump truck 1.
  • the first area 11C to the sixth area 16C which are areas that can be imaged by the respective imaging devices 11 to 16, overlap each other in adjacent portions. Adjacent imaging devices 11 to 16 are arranged.
  • the controller 100 provides a connection line in the overlapping portion of the first area 11C to the sixth area 16C that can be imaged by the respective imaging devices 11 to 16, thereby monitoring the entire circumference of 360 degrees on the plane of the dump truck 1. It becomes possible.
  • the connection line connecting the first region 11C to the sixth region 16C adjacent to each other can be set at an arbitrary position within the overlapping range of the first region 11C to the sixth region 16C.
  • FIG. 9 is a flowchart showing a processing procedure of alarm release control of the periphery monitoring system 10.
  • the alarm cancellation control according to the present embodiment is characterized in that the alarm notified by the alarm notification unit 150 of the controller 100 shown in FIG. 3 is canceled in the cancellation order based on the position where the object exists.
  • the release order can be set around the dump truck 1 in descending order of the priority of the position or direction that the operator of the dump truck 1 should pay attention to.
  • the controller 100 illustrated in FIG. 3 executes each process of alarm release control according to the present embodiment.
  • step S101 when at least one of the plurality of radar apparatuses 21 to 28 detects some object as an object around the dump truck 1 in step S101 (step S101, Yes), The controller 100 advances the process to step S102.
  • the controller 100 ends the alarm release control according to the present embodiment.
  • step S102 the controller 100, more specifically, the alarm release unit 160, selects and sets one of the release orders from the data table 41 described later.
  • step S103 the controller 100, more specifically, the alarm notification unit 150 sets an alarm. Details of setting the alarm in step S103 will be described later.
  • FIG. 10 is a diagram illustrating an example of the first image 202A used for notification of the first alarm.
  • a symbol L in the figure indicates the front of the dump truck 1, and a symbol T indicates the rear of the dump truck 1.
  • the first alarm will be described.
  • the first alarm notified by the alarm notification unit 150 is notified using the first image 202A shown in FIG.
  • reporting part 150 is alert
  • the first image 202A is an image obtained by superimposing an index MK indicating an object detected by at least one of the plurality of radar apparatuses 21 to 28 on the overhead image 200.
  • the first image 202A is displayed on the monitor 50.
  • the first image 202A includes a first alarm region C11, a first region 11C, a second region 12C, a third region 13C, a fourth region 14C, a fifth region 15C, and a sixth region 16C that correspond to the first region 11C, the second region 12C, the third region 13C, and the sixth region 16C, respectively. 2 alarm areas C12, 3rd alarm area C13, 4th alarm area C14, 5th alarm area C15, and 6th alarm area C16.
  • the first warning area C11 to the sixth warning area C16 are areas around the dump truck 1 displayed in the first image 202A.
  • the first warning area C11 is the area in front of the dump truck 1
  • the second warning area C12 is the area in front right of the dump truck 1
  • the third alarm area C13 is the area in front left of the dump truck 1
  • the fourth alarm area C14 is the dump truck.
  • 1 is a right rear area
  • a fifth alarm area C15 is a left rear area of the dump truck 1
  • a sixth alarm area C16 is an area after the dump truck 1.
  • An object such as a vehicle detected by at least one of the plurality of radar devices 21 to 28 is used as the index MK across the one or two regions of the first alarm region C11 to the sixth alarm region C16. It is displayed superimposed on the image 202A.
  • the index MK is displayed in the first alarm area C11 to the sixth alarm area C16 corresponding to the position where the corresponding object exists. That is, when the object is detected in the first area 11C, the index MK is displayed in the first alarm area C11, and when the object is detected in the second area 12C, the index MK is displayed in the second alarm area C12. Is done.
  • the position at which the object (index MK) is displayed in the first image 202A is a position corresponding to the relative distance between the dump truck 1 and the object detected by the radar devices 21 to 28.
  • the case shown in FIG. 10 indicates that the object is located at a relatively close position in front of the dump truck 1.
  • the first alarm notified by the alarm notification unit 150 is displayed in the first image 202A by making the area where the index MK exists different from the area where the index MK does not exist. For example, in the example shown in FIG. 10, the alarm notification unit 150 blinks (blinks) the boundary line of the first alarm region C11 where the index MK exists, for example, in red, and the second alarm region C12 to the sixth alarm region C16. Does not display like this. In this way, the operator of the dump truck 1 can quickly and reliably visually recognize the area where the object is present. As described above, the first warning is to make the operator's vision recognize the warning.
  • the alarm notification unit 150 displays a plurality of indicators MK and blinks the boundary line of the alarm region where each indicator MK exists. Instead of blinking around the alarm area where the index MK exists, the entire alarm area may be blinked.
  • the boundary lines may be blinked for all of the warning areas where the respective indicators MK exist, in this embodiment, the boundary lines are set only for the warning order having the highest priority in the release order according to the travel mode described later.
  • the other alarm areas are merely highlighted (for example, lit in red) in the other alarm areas. That is, it is preferable to distinguish and display a high priority alarm area and other alarm areas among a plurality of alarm areas where a plurality of indicators (objects) exist. That is, when a plurality of objects are present in different alarm areas, the alarm area requiring the most peripheral monitoring can be recognized visually by the operator. Note that instead of blinking only the boundary line of the warning area where the index MK exists, the whole warning area may be blinked.
  • the boundary line of the warning area is highlighted in, for example, red, and the part other than the boundary line of the warning area is displayed in a specific color (for example, a red translucent color), The parts may blink simultaneously.
  • the second alarm will be described.
  • FIG. 11 is a diagram for explaining the alarm sound level.
  • FIG. 12 is a diagram showing an example of the data table 40 describing the level of alarm sound used for notification of the second alarm.
  • the alarm notification unit 150 notifies the presence of an object detected by at least one of the plurality of radar devices 21 to 28 by the sound generator 52 with an alarm sound. For this reason, the second alarm causes the operator's hearing to recognize the alarm.
  • the alarm sound is notified by combining a sound generation time (ON) ta and a sound stop time (OFF) tb.
  • the time (interruption time) ⁇ t for stopping the sound generation is provided during the time ta when the sound is emitted, but the interruption time ⁇ t may not be provided.
  • the manner of notification is changed around the dump truck 1 in descending order of the priority of the position or direction to which the operator of the dump truck 1 should be careful. For example, when the driver's seat is on the left side in the traveling direction of the dump truck 1, before the dump truck 1 moves forward, the position or direction in which the operator should be careful in the order of front, right front, left front, right rear, left rear, and rear. Since the importance becomes lower, the priority becomes lower in this order. The priority may be changed depending on the traveling mode or traveling speed of the dump truck 1.
  • the alarm notification unit 150 differs between the time ta for sound generation and the time tb for sound stop according to the priority described above. Make it. By doing in this way, the alarm sound level according to the priority is set.
  • the alarm sound level is high (H), medium (M), and low (L)
  • the time for emitting each sound is expressed as tah ⁇ tam ⁇ . tal
  • the time to stop each sound is set to be tbh ⁇ tbm ⁇ tbl.
  • the data table 40 is stored in a storage unit included in the controller 100.
  • the alarm notification unit 150 of the controller 100 notifies at least one of a first alarm that causes the operator of the dump truck 1 to recognize the alarm and a second alarm that causes the operator's hearing to recognize the alarm. Good.
  • the inside of the cab 3 can be made a quiet environment.
  • the second alarm is notified, the operator can recognize the presence of the object around the dump truck 1 even in a situation where the operator cannot see the monitor 50.
  • the alarm notification unit 150 notifies the alarm in different forms of the first alarm and the second alarm, so that the operator can more reliably recognize the presence of the object around the dump truck 1.
  • the controller 100 may simultaneously notify both the first alarm (sight) and the second alarm (hearing) as an alarm. If notified at the same time, an alarm is notified to the operator at a high alarm level, and the possibility that the operator may not recognize the object (possibility of oversight of the first alarm or omission of the second alarm) may be reduced. it can. Next, the release order will be described.
  • FIG. 13 is a diagram showing an example of the data table 41 describing the release order.
  • the order of releasing at least one of the alarms is set in the order of higher priority.
  • the priorities are the front, right front, left front, right rear, left rear, It becomes lower in order.
  • the release order when the traveling mode is forward (F) is the order of front, front right, front left, back right, back left, and back. Selected and set.
  • the first alarm region Consider a case where the first alarm is notified as an alarm by blinking around all of C11 to sixth alarm area C16.
  • the operator of the dump truck 1 releases the alarm by operating the alarm release switch 53 shown in FIG.
  • the alarm is released in the order of front, right front, left front, right rear, left rear, and back in accordance with the set release order. That is, the blink is released in the order of the first alarm area C11, the second alarm area C12, the third alarm area C13, the fourth alarm area C14, the fifth alarm area C15, and the sixth alarm area C16.
  • the traveling mode is forward (F) and the dump truck 1 is waiting
  • the front, right front and left front alarm sound levels are high (H)
  • the right rear, left rear and rear alarm sound levels are medium (M). That is, when the index MK is present in at least one of the first alarm area C11, the second alarm area C12, and the third alarm area C13, the alarm sound level is high (H).
  • the alarm sound level is medium (M).
  • the second alarm in the first alarm region C11 is released.
  • the first alarm in each of the alarm areas C12 to 16 is activated by the operator operating the alarm release switch 53. Canceled.
  • the second alarm corresponding to the presence of the index MK in the second alarm area C12 having the next highest priority is notified.
  • an alarm sound having a high (H) alarm sound level is notified as the second alarm.
  • an alarm sound with a medium (M) alarm sound level is notified as the second alarm.
  • M medium
  • the alarm cancel switch 53 When the operator sequentially operates the alarm cancel switch 53 to cancel the second alarm corresponding to the presence of the index MK in the sixth alarm region C16, the alarm sound is stopped. In this way, the second alarm is notified and released.
  • the first alarm is canceled simultaneously with the cancellation of the second alarm, but details of the cancellation of the first alarm will be described later.
  • the release order that is, the priority is changed according to the state of the dump truck 1, specifically, the traveling mode. This change is performed by the alarm release unit 160.
  • the release order that is, the priority when the travel mode is forward (F), neutral (N), stop (P), and reverse (R), for example, is as shown in the data table 41.
  • the traveling mode is switched by the shift lever 37 shown in FIG.
  • the data table 41 is stored in a storage unit (not shown) that includes the memory and the like included in the controller 100.
  • the release order, that is, the priority is not limited to that described in the data table 41.
  • the cancellation order that is, the priority in each travel mode will be described.
  • the release order that is, the priority is the front (first alarm area C11), the front right (second alarm area C12), the left front (third alarm area C13), Rear right (fourth alarm area C14), left rear (fifth alarm area C15), rear (sixth alarm area C16).
  • the position or direction to be noted by the operator of the dump truck 1 is most important.
  • the dump truck 1 is provided with the driver's seat 31 on the left side, the next position or direction that the operator should pay attention to is the right front, which is difficult for the operator to visually recognize the object between the left front and the right front.
  • the driver's seat 31 is provided on the right side, the left front is important next to the front.
  • the cancellation order that is, the priority is the highest in the previous priority, and the order is left front, right rear, left rear, and back.
  • the release order and priority are in the order of front left, front right, back left, back right, and back.
  • the alarm sound levels are high (H) for front, right front, and left front, and middle (M) for right rear, left rear, and rear.
  • the dump truck 1 When the traveling mode is neutral (N), the dump truck 1 may next move forward or backward. For this reason, the order of release, that is, the priority is the front (first alarm area C11), rear (sixth alarm area C16), front right (second alarm area C12), rear right (fourth alarm area C14), front left ( The third alarm area C13) and the rear left (fifth alarm area C15).
  • the alarm sound level is middle (M) before and after, and low (L) before right, right rear, left front, and left rear.
  • the dump truck 1 In the neutral (N) state, the dump truck 1 does not travel unless the operator operates the shift lever 37 to switch the traveling mode to forward (F) or backward (R).
  • the traveling mode is neutral (N)
  • the traveling mode is forward (F).
  • the alarm sound level is lower than in some cases.
  • the release order when the travel mode is stopped (P), that is, the priority is the same as that when the travel mode is neutral (N).
  • the alarm sound level is none (NA) in all cancellation orders, ie priority.
  • the service brake may be a mechanical brake that mechanically brakes the brake disc instead of the hydraulic system.
  • the release order that is, the priority is as follows (sixth alarm area C16), right rear (fourth alarm area C14), left rear (fifth alarm area C15), right front ( Second alarm area C12), front left (third alarm area C13), front (first alarm area C11).
  • the position or direction to be noted by the operator of the dump truck 1 is the most important.
  • the dump truck 1 is provided with the driver's seat 31 on the left side. Therefore, the position or direction to which the operator should be careful next is that the operator visually recognizes the object between the left rear and the right rear. The difficult right rear is important.
  • the release order that is, the priority is in the order of rear left, front right, front left, and front.
  • the left rear is important as the position or direction that the operator should pay attention to next.
  • the order of cancellation that is, the priority
  • the alarm sound levels are high (H) for rear, right rear, and left rear, and middle (M) for front right, front left, and front.
  • the release order that is, the priority is changed according to the state of the dump truck 1.
  • the periphery monitoring system 10 can make the operator of the dump truck 1 recognize in order of importance and can cancel the alarm.
  • the operator of the dump truck 1 can recognize the object existing around the dump truck 1 more reliably, so that the periphery monitoring is more sure.
  • step S102 the alarm canceling unit 160 acquires a signal (traveling mode signal) indicating the traveling mode of the dump truck 1 from the shift lever 37 and gives it to the data table 41 to acquire the corresponding canceling order.
  • the release order is set.
  • the alarm notification unit 150 acquires the cancellation order set in step S102 from the alarm cancellation unit 160. Further, the alarm notification unit 150 acquires the position information of the object detected in step S101 from the object position information generation unit 130 of the controller 100. And the alarm alerting
  • the alarm notification unit 150 determines the alarm area where the object exists from the first alarm area C11 to the sixth alarm area C16 based on the acquired position information of the object. Next, the alarm notification unit 150 generates a signal for emphasizing and displaying the periphery of the alarm area where the object exists, and blinks the alarm area where the object exists based on the acquired release order. Determine the order. In this way, the first alarm is set. Next, an example of setting the second alarm will be described.
  • FIG. 14 is a diagram showing an example of the data table 42 in which the alarm sound level in each alarm area is described for each travel mode of the dump truck 1.
  • FIG. 13 described above shows the release order of the first alarm and the second alarm set according to each driving mode, that is, the priority.
  • FIG. 14 shows the alarm sound level and each alarm area. It is expressed to show the relationship with Therefore, it does not mean a data table in which the contents of FIG. 13 and FIG. 14 are substantially different.
  • the data table 42 illustrated in FIG. 14 is stored in, for example, a storage unit (not illustrated) configured by a memory or the like included in the controller 100 illustrated in FIG.
  • the alarm notification unit 150 acquires a travel mode signal from the shift lever 37 and gives it to the data table 42 to acquire an alarm sound level corresponding to each alarm area.
  • the alarm notification unit 150 selects from the data table 42 and assigns the acquired alarm sound level to the alarm area where the object exists among the first alarm area C11 to the sixth alarm area C16. In this way, the second alarm is set.
  • the alarm notification unit 150 emits an alarm sound from the sound generator 52 at the set alarm sound level when notifying the second alarm to the alarm region where the object exists.
  • step S104 the controller 100, more specifically, the alarm release unit 160, sets the number of inputs n to zero.
  • the number n of inputs is the number of times that the alarm notification unit 150 has received an alarm release signal from the alarm release switch 53 shown in FIG.
  • step S105 the controller 100 advances the process to step S105.
  • the traveling mode of the dump truck 1 is forward (F). Accordingly, the release order is the order of front, right front, left front, right rear, left rear, and back.
  • step S105 the controller 100, more specifically, the alarm notification unit 150 notifies the alarm.
  • the alarm notification unit 150 since both the first alarm and the second alarm are notified as alarms, the alarm notification unit 150 notifies the first alarm and the second alarm set in step S103.
  • the display control unit 140 acquires overhead image information from the overhead image synthesis unit 110 and acquires position information of the object from the object position information generation unit 130.
  • the display control unit 140 corresponds to the detected object based on the obtained bird's-eye view image information and the position information of the object, and in the first image 202A displayed on the monitor 50 as shown in FIG.
  • the indicator MKa is displayed in the first alarm region C11
  • the indicator MKb is displayed in the fourth alarm region C14
  • the indicator MKc is displayed in the sixth alarm region C16.
  • the alarm notifying unit 150 displays the area where the indicators MKa, MKb, and MKc exist in the first image 202A different from the area where the indicators MKa, MKb, and MKc do not exist.
  • the alarm notification unit 150 includes the boundary line OL1 of the first alarm area C11 where the index MKa exists, the boundary line OL4 of the fourth alarm area C14 where the index MKb exists, and the sixth alarm area where the index MKc exists.
  • the boundary line OL6 of C16 is highlighted and displayed. For example, as described above, the boundary lines OL1, OL4, OL6 are displayed in a highlighted manner by displaying them with red lines.
  • the alarm notification unit 150 emphasizes and does not display the boundary lines OL2, OL3, OL5 of the second alarm area C12, the third alarm area C13, and the fifth alarm area C15. Further, the alarm notification unit 150 blinks around the alarm region that is initially released based on the release order set by the alarm release unit 160 in step S102. In this example, the release order is higher (in this example, first), and the alarm area in which the alarm is first released is the first alarm area C11. Therefore, the boundary line OL1 of the first alarm area C11 is blinked. .
  • reports about an alarm area
  • the periphery monitoring system 10 can make the operator of the dump truck 1 check the alarm area having a higher priority with priority. Further, when a plurality of objects are present in different alarm areas, the periphery monitoring system 10 can make the operator visually recognize the alarm area that most requires the periphery monitoring.
  • the alarm notifying unit 150 In notifying the second alarm, the alarm notifying unit 150 generates an alarm sound from the sound generating device 52 at the alarm sound level corresponding to the alarm area to be canceled first based on the alarm sound level assigned to each alarm area in step S103. To emit.
  • the alarm notification unit 150 since the alarm area where the alarm is first released is the first alarm area C11, the alarm notification unit 150 emits an alarm sound from the sound generator 52 at an alarm level corresponding to the first alarm area C11.
  • the release order is changed according to the state of the dump truck 1, more specifically, the traveling mode, and the alarm sound level of each alarm region is also changed correspondingly. As shown in the data table 41 of FIG.
  • the traveling mode of the dump truck 1 is forward (F)
  • the alarm sound level in the first alarm region C11 is high (H)
  • the traveling mode is neutral In the case of N
  • the alarm sound level of the first alarm region C11 is medium (M).
  • the travel mode is stopped (P)
  • the alarm sound level of the first alarm region C11 is none (NA)
  • the first alarm region C11 The alarm sound level is medium (M).
  • the alarm notification unit 150 changes the notification mode of the second alarm by changing the alarm sound level according to the release order. Since the release order is equivalent to the priority level, the warning sound level can be increased when the priority level is high, and the operator of the dump truck 1 can surely recognize the presence of the object. it can.
  • the second alarm has a lower priority in the order of high (H), medium (M), and low (L) alarm sound levels.
  • the order of releasing the second alarm is the order of the alarm sound level from high (H), medium (M), and low (L).
  • the monitor 50 displays the first image 202A, the second image 202B, and the third image 202C on the same screen.
  • the alarm is notified, it is only necessary that at least one of the first image 202A, the second image 202B, and the third image 202C is displayed on the monitor 50.
  • dotted lines RL1, RL2, and RL3 are displayed around the dump truck 1.
  • the dotted line RL1 is displayed at a position closest to the dump truck 1
  • the dotted line RL3 is displayed at a position farthest from the dump truck 1.
  • the dotted line RL2 is displayed between the dotted line RL1 and the dotted line RL3.
  • Dotted lines RL1, RL2, and RL3 indicate positions separated from the dump truck 1 by a predetermined distance.
  • the operator of the dump truck 1 can grasp the distances between the indicators MKa, MKb, and MKc displayed on the first image 202A and the dump truck 1 by dotted lines RL1, RL2, and RL3.
  • the second image 202B is an image captured by at least one of the plurality of imaging devices 11-16.
  • the periphery monitoring system 10 displays the images captured by the imaging devices 11 to 16 as the second image 202B on the monitor 50, so that the operator of the dump truck 1 can visually recognize the situation around the dump truck 1.
  • the display control unit 140 before the alarm release switch 53 receives an input for releasing the alarm from the operator, the display control unit 140 includes the alarm release unit 160 among the images captured by the plurality of imaging devices 11 to 16. Displays the image corresponding to the position where the alarm is first canceled on the monitor 50 as the second image 202B. In the example shown in FIG. 15, the position where the alarm cancellation unit 160 first cancels the alarm is the first alarm region C11 where the object exists.
  • the second image 202B is an image corresponding to the first alarm region C11, that is, the image of the first region 11C shown in FIG. 5 among the images captured by the plurality of imaging devices 11 to 16.
  • the vehicle 80 is displayed as the object corresponding to the index MKa. If the target object (index MKa) in front of the dump truck 1 does not exist and the existing objects are the index MKb and the index MKc, the second image 2B is an image corresponding to the alarm region whose release order is higher. That is, the image of the fourth region 14C shown in FIG.
  • the alarm cancel unit 160 inputs an alarm cancel signal from the alarm cancel switch 53 in one processing routine of the alarm cancel control. It is before receiving.
  • the third image 202C is a schematic representation of the dump truck 1 and the first alarm area C11 to the sixth alarm area C16, which are displayed in a simplified manner.
  • the third image 202C indicates at least one of the position of the alarm area that is the target of the alarm and the position of the alarm area displayed by the second image 202B. Due to such an image structure, the third image 202C has a function indicating a correspondence relationship between the first image 202A and the second image 202B.
  • the position of the alarm area that is the target of the alarm is an area where the indicators MKa, MKb, and MKc exist. In this example, they are the first alarm area C11, the fourth alarm area C14, and the sixth alarm area C16. In the example shown in FIG.
  • the positions of the other second alarm region C12, third alarm region C13, and fifth alarm region C15 are shown in colorless or single color.
  • the position of the alarm area displayed by the second image 202B is the first alarm area C11.
  • a mesh pattern is shown.
  • the third image 202C includes the position of the alarm area (in the example of FIG. 15, the second alarm area C12, the third alarm area C13, and the fifth alarm area C15) that are not the target of the alarm and the target of the alarm.
  • the positions of the alarm areas in the example of FIG.
  • the first alarm area, the fourth alarm area C14, and the sixth alarm area C16 are displayed in a different manner. Further, an aspect (a mesh pattern in this example) indicating the position of an alarm area (the first alarm area C11 in the example of FIG. 15) in which images captured by the imaging devices 11 to 16 are displayed as the second image 202B. However, it is displayed in a mode different from the mode (hatching in this example) indicating the position of the alarm region (the fourth alarm region C14 and the sixth alarm region C16 in the example of FIG. 15) that is the target of other alarms.
  • the operator of the dump truck 1 can intuitively recognize the area where the object exists and the alarm area displayed as the second image 202B by visually recognizing the third image 202C displayed on the monitor 50. . For this reason, it becomes easy for an operator to grasp the positional relationship between the dump truck 1 and the object more reliably and accurately.
  • step S106 when the controller 100 shown in FIG. 3, more specifically, the alarm canceling unit 160 receives an alarm canceling signal from the alarm canceling switch 53 (step S106, Yes), the controller 100 performs the processing step. Proceed to S107.
  • the alarm release signal is not input from the alarm release switch 53 (No at Step S106)
  • the controller 100 returns the process to Step S105.
  • the alarm notification unit 150 continues alarm notification.
  • the alarm release signal is generated by the alarm release switch 53 when the operator of the dump truck 1 operates the alarm release switch 53.
  • step S107 the alarm release unit 160 releases the alarm. Specifically, the alarm release unit 160 releases the alarm according to the release order set in step S102. Since the release order in this example is the order of front, right front, left front, right rear, left rear, and rear, the alarm release unit 160 first releases the alarm in the first alarm region C11. As shown in FIG. 16, the blink of the boundary line OL1 of the first alarm region C11 in the first image 202A is stopped, and the display highlighting the boundary line OL1 is stopped, whereby the first alarm is released.
  • the first alarm is canceled by displaying the area where the index MKa exists in the first image 202A, that is, the first alarm area C11, in the same manner as the area where there is no other index including the index MKa.
  • the second alarm is canceled when the alarm sound in the first alarm area C11 is stopped.
  • the second alarm may be canceled by changing the sound, for example, changing the alarm sound level.
  • the first alarm and the second alarm are simultaneously released according to a preset release order based on the alarm release signal when at least one object is detected. As shown in FIG. 14, the second alarm has an alarm area having the same alarm sound level. For this reason, when the first alarm and the second alarm are released across the alarm area of the same alarm sound level, the first alarm is released and the display of the monitor 50 is changed, but the second alarm is released. However, the alarm sound level may not change.
  • the periphery monitoring system 10 does not release the alarm unless the operator of the dump truck 1 operates the alarm release switch 53. Therefore, the periphery monitoring system 10 can make the operator more surely recognize an object as a target existing around the dump truck 1 when assisting the operator with the bird's-eye view image 200.
  • the alarm notification unit 150 As shown in FIG. 16, the alarm notification unit 150, as long as an object exists in a place where the radar devices 21 to 28 can detect even after the alarm cancellation unit 160 cancels the alarm in the first alarm region C11, 1
  • the display of the indicator MKa existing in the alarm area C11 is continued. By doing so, the operator of the dump truck 1 can recognize that there is an object around the dump truck 1 even after the alarm is released. Note that, when the object no longer exists in the first area 11C corresponding to the first alarm area C11, the alarm notification unit 150 does not display the index MKa in the first alarm area C11.
  • step S108 the controller 100, specifically, the alarm notification unit 150, changes the alarm notification mode for the alarm area corresponding to the next release order, and the alarm area is different from the other alarm areas. Display.
  • the alarm area where the alarm is released next to the first alarm area C11 is the fourth alarm area C14.
  • the alarm notification unit 150 highlights and displays the periphery of the fourth alarm region C14 and the boundary lines OL4 and OL6 of the sixth alarm region C16, and the boundary of the fourth alarm region C14.
  • the first alarm is notified by blinking the line OL4.
  • the alarm notification unit 150 does not blink the boundary line OL6 of the sixth alarm region C16, and only displays the highlighted line. Moreover, the warning alerting
  • step S109 the controller 100, specifically, the display control unit 140 displays, on the monitor 50, the second image 202B as an image corresponding to the position where the alarm is released next.
  • the alarm cancel switch 53 receives an input for canceling the alarm from the operator of the dump truck 1
  • the alarm canceling unit 160 cancels the alarm
  • the alarm cancel switch 53 is in a position where the alarm is canceled next.
  • the corresponding image is displayed on the monitor 50 as the second image 202B.
  • the alarm release unit 160 inputs an alarm release signal from the alarm release switch 53 in one processing routine of the alarm release control. After receiving.
  • the second image 202B is an image corresponding to the fourth alarm region C14, that is, the image of the fourth region 14C shown in FIG. 5 among the images captured by the plurality of imaging devices 11 to 16 (step S109).
  • FIG. 16 shows the screen of the monitor 50 after the alarm in the first alarm area C11 is released.
  • the fourth area 14C corresponding to the fourth alarm area C14 is imaged.
  • An image is displayed.
  • a part of the vehicle 81 is displayed as an object corresponding to the index MKb.
  • the display control unit 140 when the alarm notification mode is changed for the alarm area corresponding to the next release order, the display control unit 140, as shown in FIG. Then, the fourth alarm area C14 and the sixth alarm area C16 are displayed on the third image 202C (in this example, these alarm areas are indicated by a mesh pattern or hatching).
  • the first alarm area C11 from which the alarm has been released is not already displayed as an alarm target, and therefore is not displayed on the third image 202C (in this example, the first alarm area C11 is shown in a colorless or single color).
  • the display control unit 140 displays the fourth alarm area C14 in which the images captured by the imaging devices 11 to 16 are displayed as the second image 202B in a manner different from the sixth alarm area C16 (mesh in FIG. 16).
  • the three images 202C are displayed. By doing so, the operator of the dump truck 1 can intuitively recognize the alarm area displayed as the second image 202B by visually recognizing the third image 202C displayed on the monitor 50. .
  • the process for the third image 202C described above is not executed.
  • step S110 the controller 100, more specifically, the alarm release unit 160, sets a value obtained by adding 1 to the input number n as a new input number n.
  • step S111 the controller 100, more specifically, the alarm release unit 160, compares the number of inputs n with the number of alarms N.
  • the alarm number N is the number of areas where the object is present in the first area 11C to the sixth area 16C, and is the number of alarm areas where the indicators MKa, MKb, and MKc are displayed. In this example, N is 3.
  • the controller 100 executes the process of step S107, the alarm in the fourth alarm region C14 in which the alarm is canceled next to the next alarm order, that is, the first alarm region C11 is canceled.
  • the monitor 50 displays the first image 202A in which the blinking and the emphasized display of the fourth alarm region C14 are stopped.
  • the indices MKa and MKb are maintained in the state displayed in the first image 202A.
  • the alarm release mode is changed in the next release order, that is, in the sixth alarm area C16 where the alarm is released after the fourth alarm area C14.
  • the boundary line OL6 of the sixth alarm region C16 is highlighted with a specific color (red in this example) and blinked.
  • the display of the second image 202B is switched to an image in which the sixth area 16C corresponding to the sixth alarm area C16 is captured.
  • the vehicle 82 existing in the sixth area 16C after the dump truck 1 is displayed in the second image 202B as an object corresponding to the index MKc displayed in the sixth alarm area C16 of the first image 202A.
  • the third image 202C displays the position that is the target of the alarm, in this example, the sixth alarm area C16 (in this example, the sixth alarm area C16 has a mesh pattern). Indicated by).
  • the sixth alarm region C16 corresponds to a position where an image captured by the imaging devices 11 to 16 is displayed as the second image 202B.
  • step S110 the alarm canceling unit 160 sets a value obtained by adding 1 to the input number n as a new input number n.
  • n 2 (the value of n is equal to 2).
  • step S111 the alarm cancellation
  • release part 160 compares the number n of inputs with the number N of alarms. Since n 2, n ⁇ N (relationship between the value of n and the value of N) (No in step S111). Therefore, the controller 100 executes steps S106 to S110.
  • step S106 When the third alarm release signal is input from the alarm release switch 53 to the alarm release unit 160 (step S106, Yes), the controller 100 executes the process of step S107, so that the next release order, i.e., the first release order.
  • the alarm in the sixth alarm area C16 where the alarm is released next to the fourth alarm area C14 is released.
  • the monitor 50 displays the first image 202A in which the blinking and the highlighted display of the sixth alarm region C16 are stopped.
  • the indices MKa, MKb, MKc are maintained in the state displayed in the first image 202A.
  • step S108 the alarm notification mode is changed in the sixth alarm region C16 corresponding to the next release order.
  • the alarm in the sixth alarm region C16 corresponding to the last release order is released, so step S108 is skipped.
  • step S109 the display of the second image 202B is an image corresponding to a position where the alarm is released next among images captured by at least one of the imaging devices 11 to 16. Can be switched to.
  • the alarm in the sixth alarm region C16 whose release order is the lowest is released. For this reason, since there is no alarm area where the alarm is released next, the second image 202B cannot be switched to a captured image corresponding to the alarm area where the alarm is released next.
  • the second image 202B is maintained as the latest image. That is, an image of the sixth area C16 corresponding to the sixth alarm area C16, which is captured by at least one of the imaging devices 11 to 16, is displayed as the second image 202B.
  • the third image 202C displays the position of the alarm area displayed as the second image 202B in the periphery of the dump truck 1, as shown in FIG. To do.
  • the display control unit 140 shows an object around the dump truck 1 captured by at least one of the imaging devices 11 to 16. Any one of the images may be displayed as the second image 202B.
  • the display control unit 140 may display, on the monitor 50, the second image 202B as an image showing an object that exists in the position or direction corresponding to the alarm area with the highest priority.
  • the alarm region with the first release order specifically, an image showing an object that exists in the position or direction corresponding to the first alarm region C11 is displayed.
  • Two images 202B are displayed on the monitor 50.
  • the display control unit 140 determines which one of the images showing the objects existing around the dump truck 1 based on the state of the dump truck 1. One of them may be displayed as the second image 202B. For example, when the traveling mode of the dump truck 1 is forward (F), the display control unit 140 has an object in the first area 11C, the second area 12C, or the third area 13C that is in front of the dump truck 1. The area to be displayed is displayed as the second image 202B according to the priority (that is, the release order). When the traveling mode of the dump truck 1 is reverse (R), the display control unit 140 has an object in the sixth area 16C, the fourth area 14C, or the fifth area 15C that is behind the dump truck 1. The area to be displayed is displayed as the second image 202B according to the priority (that is, the release order).
  • the display control unit 140 corresponds to the alarm region with the first release order in the alarm region of the first image 202A in which the index MK exists after releasing the alarm in the alarm region with the lowest release order.
  • An image in which an object existing in a position or direction is reflected may be displayed on the monitor 50 as the second image 202B.
  • step S110 the alarm canceling unit 160 sets a value obtained by adding 1 to the input number n as a new input number n.
  • n 3 (the value of n is equal to 3).
  • step S111 the alarm cancellation
  • a case where the object around the dump truck 1 moves and the index MK corresponding to the object moves in the first image 202A will be described.
  • the indices MKb and MKd are moved.
  • the index MKb existing in the fourth alarm area C14 of the first image 202A may move.
  • a new object may approach the dump truck 1 and a new indicator MKd may be displayed in the alarm area (the fifth alarm area C15 in the examples shown in FIGS. 19 and 20) of the first image 202A.
  • the controller 100 more specifically, the display control unit 140 notifies at least the first alarm to the alarm area where the indicators MKb and MKd exist.
  • the arrows shown in the first image 2A in FIG. 19 indicate the movement of the index MKb or the index MKd for convenience of explanation, and these arrows are not displayed in the first image 2A.
  • the object position information generation unit 130 detects the movement of the object corresponding to the index MKb existing in the fourth alarm region C14 via the radar devices 21 to 28.
  • the controller 100 more specifically, the display control unit 140 moves and displays the indicator MKb in the first image 202A including the overhead image 200 according to the movement of the object, as shown in FIGS.
  • the controller 100 specifically, the alarm notification unit 150, at least outputs the first alarm. Inform.
  • the alarm notification unit 150 displays the boundary line OL2 of the second alarm area C12 in red or the like. Highlight and display. In the example shown in FIG. 20, after the indicator MKb moves to the second alarm region C12, there is no other indicator in the fourth alarm region C14 where the initial indicator MKb existed, so the alarm notification unit 150 displays the fourth alarm. Display highlighting the boundary line OL4 of the region C14 is stopped.
  • the second image 202B is an image corresponding to the position where the alarm is first canceled among the images captured by the plurality of imaging devices 11 to 16, that is, the position where the cancellation order is first.
  • the traveling mode of the dump truck 1 is forward (F)
  • the alarm area corresponding to the position in which the release order is first is the first alarm area C11 as shown in the data table 41 of FIG. Therefore, in the example shown in FIG. 20, the display control unit 140 monitors the image of the first area 11C corresponding to the first alarm area C11 as the second image 202B even after the index MKb moves to the second alarm area C12. 50.
  • the display of at least one of the first image 202A and the second image 202B is changed by the movement of the index MKb
  • the display of the third image 202C is changed according to this change.
  • the second image 202B is displayed according to the changed release order.
  • the traveling mode of the dump truck 1 is forward (F) and the object exists only in the fourth region 14C and the sixth region 16C.
  • the alarm area corresponding to the first position in the release order is the fourth alarm area C14, so the second image 202B corresponds to the fourth alarm area C14.
  • the image of the four areas 14C is displayed on the monitor 50.
  • the alarm area corresponding to the first position in the release order is the first as shown in the data table 41 of FIG. 2 becomes the alarm area C12. Therefore, an image of the second area 12C corresponding to the second alarm area C12 is displayed on the monitor 50 as the second image 202B.
  • the second alarm is also notified according to the release order after the change when the release order is changed as a result of the movement from the warning area where the index MKb corresponding to the object originally exists to another warning area.
  • the traveling mode of the dump truck 1 is forward (F) and the object exists only in the fourth region 14C and the sixth region 16C.
  • the alarm area corresponding to the first position in the release order is the fourth alarm area C14, so that the alarm sound with the medium (M) alarm sound level as the second alarm Is notified.
  • the controller 100 shown in FIG. 3 specifically, the object position information generating unit 130 detects a new object moving toward the dump truck 1 via the radar devices 21 to 28, the controller 100 Specifically, as illustrated in FIGS. 19 and 20, the display control unit 140 displays the index MKd in the first image 202A including the overhead image 200 according to the movement of the target object.
  • the controller 100 specifically the alarm notification unit 150, notifies at least the first alarm. Since the first alarm displays the area where the index MKd exists differently from the area where no other index exists, for example, the alarm notification unit 150 includes the boundary line OL5 of the fifth alarm area C15 where the index MKd exists. Is highlighted in red or the like.
  • the second image 202B is an image corresponding to the position where the alarm is first canceled among the images captured by the plurality of imaging devices 11 to 16, that is, the position where the release order is the first position.
  • the mode is forward (F)
  • it is the first alarm region C11. Therefore, in the example illustrated in FIG. 20, the display control unit 140 monitors the image of the first area 11C corresponding to the first alarm area C11 as the second image 202B even after the index MKd exists in the fifth alarm area C15. 50.
  • the display of at least one of the first image 202A and the second image 202B is changed by the movement of the index MKd, the display of the third image 202C is changed according to this change.
  • the second image 202B is displayed according to the release order after the change and the second alarm
  • the point to be notified is the same as the case where the above-described index MKb moves to another alarm area.
  • the controller of the periphery monitoring system 10 100 notifies at least the first alarm.
  • the periphery monitoring system 10 can cause the operator of the dump truck 1 to reliably recognize an object existing around the dump truck 1.
  • the alarm release control shown in FIG. 9 is executed as follows. In this case, the index has moved during the processing of any step after step S101, but depending on the detection of the object by the radar devices 21 to 28 (in this case, the movement of the object has been detected). Then, the controller 100 returns the alarm release control to step S101 and newly sets the release order.
  • the alarm release control shown in FIG. 9 is executed from step S101.
  • the alarm release control shown in FIG. 9 is executed as follows. In this case, the index has entered during processing of any step after step S101, but depending on the detection of the object by the radar devices 21 to 28 (in this case, the entry of the object has been detected). Then, the controller 100 returns the alarm release control to step S101, and newly sets the release order.
  • the alarm cancellation control shown in FIG. 9 is a situation in which the index is moved during the processing of any step after step S101.
  • the controller 100 returns the control process of the alarm release control to step S101 in response to the detection of the object by the radar devices 21 to 28 (in this case, the object is no longer detected).
  • a new release order is set corresponding to the detected object.
  • the first image 202A, the second image 202B, and the third image 202C are displayed on the same screen of the monitor 50.
  • the display control unit 140 stops displaying the first image 202A and displays it. Instead, only the second image 202B and the third image 202C may be displayed on the same screen of the monitor 50. For example, when an operator operates an operation switch (not shown), an operation signal is generated, and the display control unit 140 receives the operation signal, so that only the second image 2B and the third image 2C can be displayed on the monitor 50. .
  • the display control unit 140 When the operator operates the shift lever 37 to switch the traveling mode to reverse (R), the display control unit 140 receives a signal from the sensor 37a that detects the position of the shift lever 37, and the monitor 50 receives the second signal. Only the image 2B and the third image 2C can be displayed. In these cases, it is preferable that the display control unit 140 displays the second image 202B using the area where the first image 202A of the monitor 50 was displayed. By doing so, the operator of the dump truck 1 can visually recognize the details of the object around the dump truck 1 on a large screen, so the situation around the dump truck 1, the size of the object, and its It becomes easy to confirm the position. In particular, it is preferable to display only the second image 2B and the third image 2C when the dump truck 1 moves forward or backward at a low speed.
  • the alarm notification unit 150 may notify the first alarm using the third image 202C. For example, the alarm notification unit 150 blinks a portion with the first release order, or displays an indicator on a portion corresponding to a region where the object exists. In this way, the function of the first image 202A can be supplemented with the third image 202C. Further, the alarm notification unit 150 may display an index corresponding to the object on the second image 202B. By doing in this way, the operator of dump truck 1 can confirm a subject more certainly.
  • the periphery monitoring system 10 allows the operator to check the surrounding objects before the dump truck 1 starts, as a general rule, while the dump truck 1 is traveling at a certain traveling speed, Display of the monitor 50 as described may be executed.
  • This display control is executed when the dump truck 1 is traveling at a certain traveling speed, in other words, when the operator is traveling after recognizing that no object is approaching. Also good.
  • the display control unit 140 receives the signal from the sensor 37a that detects the position of the shift lever 37 as described above, and the plurality of imaging devices 11 to 16 are operated. Of the captured images, an image behind the dump truck 1 may be displayed on the monitor 50 as the second image 202B regardless of the presence or absence of an object.
  • the display control unit 140 receives a signal from the sensor 37a that detects the position of the shift lever 37 as described above, and images captured by the plurality of imaging devices 11 to 16. Among them, regardless of the presence or absence of an object, an image at a position where the range of the blind spot from the driver seat 31 of the dump truck 1 is the largest in front of the dump truck 1 may be displayed on the monitor 50 as the second image 202B. In this way, when the dump truck 1 moves backward, it is the blind spot of the operator, and the rear side that should be most carefully observed can be confirmed on the second image 202B of the monitor 50.
  • the periphery monitoring system 10 executes the alarm release control described above when the traveling speed of the dump truck 1 is low (for example, the threshold for determining low speed is 5 km / h). It is preferable to do.
  • the controller 100 receives the signal indicating the magnitude of the traveling speed detected by the vehicle speed sensor 54, so that the alarm cancellation control functions only when the dump truck 1 is stopped. It may be controlled.
  • the present invention is not limited to this, and it is preferable that the alarm release control described above can be executed even when the traveling speed of the dump truck 1 is low (for example, the threshold for determining low speed is 5 km / h). . That is, it is excellent in convenience if the alarm canceling control functions even if the operator does not completely stop the dump truck 1 by the brake operation.
  • the dump truck 1 when traveling at a certain traveling speed (for example, when exceeding the threshold of 5 km / h for determining the low speed), the power supplied to the radar devices 21 to 28 is shut off, and the target An object is not detected so that the alarm release control itself is not executed.
  • a certain traveling speed for example, when exceeding the threshold of 5 km / h for determining the low speed
  • the second alarm is described as a sound, but a sound may be used instead of the sound.
  • the voice is stored in advance in a storage unit (not shown) of the controller 100.
  • a plurality of types of voices are set as shown in FIGS. 12 to 14, and the voices are stored as a data table according to the travel mode and the release order. For example, when the warning sound level is high (H), a sound meaning “high risk level” is set, and when the warning sound level is medium (M), “risk level is low”.
  • a voice meaning “medium level” is set, and a voice meaning “a low risk level” is set for a low (L) alarm sound level.
  • the voice is used in this way, the operator has to understand the language of the voice. Therefore, it is preferable to be able to switch to the local language of the site where the dump truck 1 operates or the native language of the operator.
  • the periphery monitoring system 10 includes the first image 202A in which the index indicating the object detected around the dump truck 1 is superimposed on the overhead image, and the second image captured by the imaging devices 11 to 16. 202B is displayed on the same screen of the monitor 50, and the first alarm that displays the area where the index exists in the first image 202A differently from the others, and the second alarm that notifies the presence of the object by sound Is reported as an alarm. And the periphery monitoring system 10 cancels
  • the operator of dump truck 1 can be made sure of the object which exists in the circumference of dump truck 1 with an alarm. Further, since the alarm is released according to the release order as the operator operates the alarm release switch 53, the operator can reliably and sequentially recognize the object. That is, the operation of the alarm release switch 53 is effective for causing the operator to recognize the object because the operator recognizes the presence of the object.
  • the periphery monitoring system 10 provides driving assistance with the bird's-eye view image 200 obtained by combining the images captured by the plurality of imaging devices, the object as an object existing around the dump truck 1 is more surely displayed to the operator. Can be recognized.
  • the periphery monitoring system 10 continues to display the index on the monitor 50 as long as the object exists around the dump truck 1 even after the alarm is released. For this reason, the operator can recognize the movement and occurrence of the object existing around the dump truck 1 by checking the monitor 50.
  • the perimeter monitoring system 10 uses the blink as the first alarm and the sound as the second alarm when notifying the alarm. That is, the periphery monitoring system 10 uses both visual and auditory means. And the periphery monitoring system 10 alert
  • the periphery monitoring system 10 changes the case of releasing the warning from a high level to a low level, the operator can recognize the level of attention to be paid to the object. Furthermore, since the first alarm and the second alarm are canceled at the same time, it is possible to reduce the possibility that the alarm sounds and the operator feels bothered. Moreover, even if the first alarm and the second alarm are canceled at the same time, since the index is displayed on the monitor 50, it is possible to make the operator recognize that the surrounding object exists.
  • the periphery monitoring system 10 uses wide dynamic range cameras for the imaging devices 11-16. Therefore, the imaging devices 11 to 16 can brightly correct a dark part such as a shadowed part of the dump truck 1 while keeping the bright part at a level where the bright part can be visually recognized. Therefore, the images captured by the image capturing devices 11 to 16 are less likely to be crushed black and blown out, and as a whole are more easily understood. As a result, the periphery monitoring system 10 including the imaging devices 11 to 16 can display an overhead image 200 on the monitor 50 in which an object such as a vehicle existing in the shadowed area of the dump truck 1 is easily visible. .
  • the periphery monitoring system 10 monitors the periphery of the dump truck 1 using the images captured by the imaging devices 11 to 16, objects in the vicinity of the dump truck 1 are obtained even in an environment where the contrast difference between light and dark is large. Can be displayed on the bird's-eye view image 200. As a result, the operator of the dump truck 1 can surely visually recognize an object existing around the dump truck 1, particularly in a shadow area, regardless of the environment.
  • the periphery monitoring system 10 can generate the bird's-eye view image 200 that reliably displays the objects around the dump truck 1 even in an environment where the contrast difference between light and dark is large, and therefore exists in the blind spot of the operator.
  • the object can be surely visually recognized by the bird's-eye view image 200. Therefore, the periphery monitoring system 10 is very effective in monitoring the periphery of the very large dump truck 1 used in the mine as described above.
  • the dump truck 1 may form a very large shadow area, move while creating the shadow area itself, and the shadow area greatly changes as the vessel 4 moves up and down. The area that becomes a blind spot is large.
  • the periphery monitoring system 10 In such a dump truck 1, the periphery monitoring system 10 generates a bird's-eye view image 200 that reliably displays objects around the dump truck 1, and provides the operator of the dump truck 1 with accurate information around the dump truck 1. Can provide. In addition, the periphery monitoring system 10 provides an operator of the dump truck 1 around the dump truck 1 with respect to the dump truck 1 operating in a place where the illuminance difference between the sun and the shade is very large, such as immediately below the equator. Provide accurate information.

Landscapes

  • Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)

Abstract

 コントローラ100は、作業車両及びその周辺の俯瞰画像を表示装置に表示するための俯瞰画像情報を生成する俯瞰画像合成部110と、レーダ装置21~28が検出した対象物を示す指標を俯瞰画像に重ねた第1画像と、撮像装置11~16が撮像した第2画像とをモニタ50の同一の画面に表示する表示制御部140と、第1画像において指標が存在する領域を指標が存在しない領域とは異ならせて表示する第1警報と、対象物の存在を音で報知する第2警報との少なくとも一方を警報として報知する警報報知部150と、警報解除スイッチ53からの警報解除信号に基づき、対象物が存在する位置に基づいた解除順序にしたがって警報を解除する警報解除部160と、を含む。

Description

作業車両用周辺監視システム及び作業車両
 本発明は、作業車両の周辺を監視する技術に関する。
 土木作業現場又は鉱山の採石現場では、ダンプトラック、油圧ショベル等といった様々な作業車両が稼働する。特に鉱山においては、超大型の作業車両が用いられる。このような作業車両は、一般的な車両と比較して著しく車幅及び車高、さらには前後長さが大きいため、サイドミラー等によって周辺の状況をオペレータが確認し、把握することが困難である。車両周辺の状況をオペレータに簡易に把握させ、運転支援をする技術として、車両の周辺を監視する装置が提案されている。例えば、作業機の動作位置範囲内に障害物の危険度を提示する装置が示されている(特許文献1)。
特開2010-198519号公報
 特許文献1の技術は、作業車両の周囲に複数の物体が存在する場合は、すべての物体がモニタに表示されるようになっている。特許文献1に示されるように、油圧ショベルのような作業車両の場合は、作業範囲が全方位にわたるので、複数の物体をモニタに表示する必要がある。しかし、複数の物体をモニタに表示するのみでは、オペレータ(作業車両を点検又は修理する際はサービスマン)は、例えば、他に注意の対象がある場合等には、作業車両の周囲に存在する物体を十分に認識できない可能性もある。
 本発明は、複数の撮像装置が撮像した画像を合成した俯瞰画像によって運転支援をするにあたって、作業車両の操作者に作業車両の周囲に存在する物体をより確実に認識させることを目的とする。
 本発明は、作業車両に取り付けられて前記作業車両の周囲を撮像し、画像情報として出力する複数の撮像装置と、前記作業車両に取り付けられて前記作業車両の周囲に存在する対象物を検出する複数の物体検出装置と、複数の前記画像情報を取得し、取得した前記画像情報を合成して前記作業車両及びその周辺の俯瞰画像を表示装置に表示するための俯瞰画像情報を生成する俯瞰画像合成部と、前記物体検出装置が検出した対象物を示す指標を前記俯瞰画像情報に基づく前記俯瞰画像に重ねた第1画像と、前記撮像装置が撮像した第2画像とを表示装置の同一の画面に表示する表示制御部と、前記第1画像において前記指標が存在する領域を前記指標が存在しない領域とは異ならせて表示する第1警報と、前記対象物の存在を音で報知する第2警報との少なくとも一方又は両方を警報として報知する警報報知部と、前記警報を解除するための入力を受け付ける警報解除指令部と、前記警報解除指令部からの警報解除信号に基づき、前記対象物が存在する位置に基づいた解除順序にしたがって前記警報を解除する警報解除部と、を含むことを特徴とする作業車両用周辺監視システムである。
 本発明において、前記警報解除部は、前記第1画像において前記指標が存在する領域を前記指標が存在しない領域と同様に表示することで前記第1警報を解除し、前記音を変更又は音を停止することで前記第2警報を解除することで前記警報を解除することが好ましい。
 本発明において、前記警報報知部は、前記解除順序に対応して前記警報の報知の態様を異ならせることが好ましい。
 本発明において、前記表示制御部は、前記警報解除部が前記警報を解除した後も、前記表示制御部は前記指標の表示を継続することが好ましい。
 本発明において、前記物体検出装置が前記対象物の移動を検出した場合、前記表示制御部は、前記対象物の移動に応じて前記俯瞰画像中の前記指標を移動させ、前記警報報知部は、少なくとも前記第1警報を報知することが好ましい。
 本発明において、前記物体検出装置が新たな対象物を検出した場合、前記表示制御部は、前記新たな対象物を示す指標を前記第1画像に表示し、前記警報報知部は、少なくとも前記第1警報を報知することが好ましい。
 本発明において、前記警報解除指令部が前記警報を解除するための入力を受け付ける前において、前記表示制御部は、前記複数の撮像装置が撮像した画像のうち、前記警報解除部が最初に前記警報を解除する位置に対応した画像を前記第2画像として前記表示装置に表示することが好ましい。
 本発明において、前記警報解除指令部が前記警報を解除するための入力を受け付けた後に前記警報解除部が前記警報を解除した後において、前記表示制御部は、次に前記警報が解除される位置に対応した画像を前記第2画像として前記表示装置に表示することが好ましい。
 本発明において、前記警報解除部は、前記作業車両の状態に応じて前記解除順序を変更することが好ましい。
 本発明において、前記表示制御部は、前記警報の対象となっている位置と、前記第2画像が前記表示装置に表示されている位置との少なくとも一方を示す第3画像を、前記表示装置の同一の画面に表示することが好ましい。
 本発明において、前記表示制御部は、前記表示装置への前記第1画像の表示を停止し、かつ前記指標を表示した前記第2画像及び前記第3画像のみを前記表示装置の同一の画面に表示することが好ましい。
 本発明において、前記作業車両が後進している場合、前記表示制御部は、前記複数の撮像装置が撮像した画像のうち、前記作業車両の後方の画像を前記第2画像として前記表示装置に表示し、前記作業車両が前進している場合、前記表示制御部は、前記複数の撮像装置が撮像した画像のうち、前記作業車両の前方において前記作業車両の運転席から死角となる範囲が最も大きい位置の画像を前記第2画像として前記表示装置に表示することが好ましい。
 本実施形態において、少なくとも一つの前記対象物が検出された場合、前記第1警報と前記第2警報とは、前記警報解除信号に基づき同時に解除されることが好ましい。
 本発明において、作業車両に取り付けられて前記作業車両の周囲を撮像し、画像情報として出力する複数の撮像装置と、前記作業車両に取り付けられて前記作業車両の周囲に存在する対象物を検出する複数の物体検出装置と、複数の前記画像情報を取得し、取得した前記画像情報を合成して前記作業車両及びその周辺の俯瞰画像を表示装置に表示するための俯瞰画像情報を生成する俯瞰画像合成部と、前記物体検出装置が検出した対象物を示す指標を前記俯瞰画像情報に基づく前記俯瞰画像に重ねた第1画像と、前記撮像装置が撮像した第2画像とを表示装置の同一の画面に表示する表示制御部と、前記第1画像において前記指標が存在する領域を前記指標が存在しない領域とは異ならせて表示し、かつ前記対象物の存在を音で報知することにより警報を報知する警報報知部と、前記警報を解除するための入力を受け付ける警報解除指令部と、前記警報解除指令部からの警報解除信号に基づき、前記対象物が存在する位置に基づいた解除順序にしたがって前記警報を解除する警報解除部と、を含み、前記表示制御部は、前記警報が報知される対象の位置と、前記第2画像が前記表示装置に表示されている位置との少なくとも一方を表示する第3画像を、前記表示装置の同一の画面に表示し、かつ前記警報解除部が前記警報を解除した後も、前記表示制御部は前記指標の表示を継続することを特徴とする作業車両用周辺監視システムである。
 本発明は、前記作業車両用周辺監視システムを備えたことを特徴とする作業車両である。
 本発明は、複数の撮像装置が撮像した画像を合成した俯瞰画像によって運転支援をするにあたって、作業車両の操作者に作業車両の周囲に存在する物体をより確実に認識させることができる。
図1は、本実施形態に係る作業車両を示す斜視図である。 図2は、本実施形態に係る作業車両が有するキャブ3の構造及び内部を示す図である。 図3は、本実施形態に係る周辺監視システム10を示す図である。 図4は、本実施形態に係る周辺監視システム10が有する撮像装置11~16を搭載したダンプトラック1の斜視図である。 図5は、複数の撮像装置11~16によって撮像される領域及び複数の撮像装置11~16によって撮像された画像の情報に基づいて生成された俯瞰画像200を示す模式図である。 図6は、レーダ装置21~28の配置を示す斜視図である。 図7は、レーダ装置21~28の検出範囲を示す図である。 図8は、仮想投影面VPを用いた画像変換の手法を示す図である。 図9は、周辺監視システム10の警報解除制御の処理手順を示すフローチャートである。 図10は、第1警報の報知に用いられる第1画像202Aの一例を示す図である。 図11は、警報音レベルを説明するための図である。 図12は、第2警報の報知に用いられる警報音のレベルを記述したデータテーブル40の一例を示す図である。 図13は、解除順序を記述したデータテーブル41の一例を示す図である。 図14は、各警報領域における警報音レベルを、ダンプトラック1の走行モード毎に記述したデータテーブル42の一例を示す図である。 図15は、警報が表示された画面の一例を示す図である。 図16は、警報が表示された画面の一例を示す図である。 図17は、警報が表示された画面の一例を示す図である。 図18は、警報が表示された画面の一例を示す図である。 図19は、指標MKb、MKdが移動した場合を説明するための図である。 図20は、指標MKb、MKdが移動した場合を説明するための図である。
 本発明を実施するための形態(実施形態)につき、図面を参照しつつ詳細に説明する。以下の実施形態に記載した内容により本発明が限定されるものではない。以下の説明において、前、後、左及び右は、運転席に着座した操作者であるオペレータ(作業車両を点検又は修理する際は、オペレータではなくサービスマン)を基準とする用語である。例えば、前は、運転席に着座したオペレータの視線が向かう側であり、運転席からオペレータによって操作されるハンドルに向かう側である。後は、前の反対側であり、ハンドルから運転席に向かう側である。作業車両の車幅方向は、作業車両の左右方向と同義である。
<作業車両>
 図1は、本実施形態に係る作業車両を示す斜視図である。図2は、本実施形態に係る作業車両が有するキャブ3の構造及び内部を示す図である。本実施形態において、作業車両としてのダンプトラック(オフハイウェイトラックともいう)1は、鉱山での作業等に用いられる自走式の超大型の車両である。ダンプトラックの形式は限定されるものではない。ダンプトラック1は、例えば、アーティキュレーテッド式等であってもよい。また、作業車両は、ダンプトラック1に限定されるものではない。ダンプトラック1は、車体部2と、キャブ3と、ベッセル4と、前輪5と、後輪6とを含む。車体部2は、アッパデッキ2b及び前後方向に沿って配置されたフレーム2fを含む。また、ダンプトラック1は、自身の周囲を監視して、その結果を表示する周辺監視システムを有する。周辺監視システムの詳細は後述する。
 本実施形態において、ダンプトラック1は、ディーゼルエンジン等の内燃機関が発電機を駆動することによって発生した電力で電動機を駆動し、後輪6を駆動する。このように、ダンプトラック1は、いわゆる電気駆動方式であるが、ダンプトラック1の駆動方式はこれに限定されるものではない。例えば、ダンプトラック1は、内燃機関の動力を、トランスミッションを介して後輪6へ伝達し、これを駆動するものであってもよいし、架線からトロリーを介して供給された電力で電動機を駆動し、この電動機によって後輪6を駆動するものであってもよい。
 フレーム2fは、内燃機関及び発電機等の動力発生機構とその補機類とを支持している。フレーム2fの前部には、左右の前輪5(図1では右前輪のみを示している)が支持されている。フレーム2fの後部には、左右の後輪6(図1では右後輪のみを示している)が支持されている。前輪5及び後輪6は、直径が2m(メートル)~4m(メートル)程度である。後輪6は、ベッセル4の車幅方向内側の位置又はベッセル4の車幅方向外側と後輪6の車幅方向外側とがほぼ同じ位置に配置される。フレーム2fは、ロアデッキ2aと、アッパデッキ2bとを有する。このように、鉱山で用いられるダンプトラック1は、ロアデッキ2aとアッパデッキ2bとを有する二重デッキ構造となっている。
 ロアデッキ2aは、フレーム2fの前面の下部に取り付けられる。アッパデッキ2bは、ロアデッキ2aの上方に配置されている。ロアデッキ2aの下方には、例えば、キャブ3への乗降用に用いられる可動式のラダー2cが配置されている。ロアデッキ2aとアッパデッキ2bとの間には、両者の間を行き来するための斜めラダー2dが配置されている。また、ロアデッキ2aとアッパデッキ2bとの間には、ラジエーターが配置されている。アッパデッキ2bの上には、柵状の手すり2eが配置されている。本実施形態において、ラダー2c及び斜めラダー2dは、アッパデッキ2b及びロアデッキ2aの一部であるものとする。
 図1に示すように、キャブ(運転室)3は、アッパデッキ2b上に配置されている。キャブ3は、アッパデッキ2b上において、車幅方向の中央よりも車幅方向における一方側にずらされて配置されている。具体的には、キャブ3は、アッパデッキ2b上において車幅方向の中央よりも左側に配置されている。キャブ3の配置は、車幅方向の中央よりも左側に限定されるものではない。例えば、キャブ3は、車幅方向の中央よりも右側に配置されていてもよいし、車幅方向の中央に配置されていてもよい。キャブ3内には、運転席、ハンドル、シフトレバー、アクセルペダル及びブレーキペダル等の操作部材が配置されている。
 図2に示すように、キャブ3は、複数本(本実施形態では4本)の支柱3a、3b、3c、3dを含むROPS(Roll-Over Protection System:転倒時保護構造)を備えている。ROPSは、万一ダンプトラック1が転倒した場合、キャブ3内のオペレータを保護する。ダンプトラック1の運転者は、車体部2の左側の路肩を容易に確認できる状態で走行するが、車体部2の周囲を確認するためには、頭を大きく動かす必要がある。また、アッパデッキ2bには、ダンプトラック1の周囲を確認するために、図示しないサイドミラーが複数設けられている。これらのサイドミラーは、キャブ3から離れた位置に配置されているので、運転者は、サイドミラーを用いて車体部2の周辺を確認する場合にも、頭を大きく動かす必要がある。
 図2に示すように、キャブ3内には、運転席31、ハンドル32、ダッシュカバー33、無線装置34、ラジオ受信機35、リターダ36、シフトレバー37、トレーナー席38、図2には示していない監視制御装置としてのコントローラ(詳細は後述する)、モニタ50、コントロールパネル51、アクセルペダル及びブレーキペダル等が設けられている。モニタ50は、ダッシュカバー33に組み込まれたものを図2に示している。しかし、これに限定されず、例えば、モニタ50は、ダッシュカバー33の上に設置されたものでもよいし、キャブ3内の天井から吊り下げて設置されたものでもよい。つまり、オペレータがモニタ50を視認できる位置にモニタ50が設置されていればよい。本実施形態において、運転席31はキャブ3の左側に設けられているが、運転席31の位置はこれに限定されない。なお、図2には示していないコントローラは、後述する周辺監視システム10の一部である。シフトレバー37は、ダンプトラック1のオペレータが、ダンプトラック1の進行方向を切り替えたり、速度段を切り替えたりするための装置である。
 図1に示すベッセル4は、砕石等の積荷を積載するための容器である。ベッセル4の底面の後部は、回転ピンを介してフレーム2fの後部に回動可能に連結されている。ベッセル4は、油圧シリンダ等のアクチュエータによって、積載姿勢と起立姿勢とを取ることができる。積載姿勢は、図1に示すように、ベッセル4の前部がキャブ3の上部に位置する姿勢である。起立姿勢は、積荷を排出する姿勢であり、ベッセル4が後方かつ下方へ向かって傾斜した状態となる姿勢である。ベッセル4の前部が上方に回動することによってベッセル4は積載姿勢から起立姿勢に変化する。ベッセル4は、前方に鍔部4Fを有している。鍔部4Fは、プロテクターとも呼ばれることがあり、キャブ3の上方まで延出してキャブ3を覆っている。キャブ3の上方に延出した鍔部4Fは、砕石等の衝突からキャブ3を保護する。
<周辺監視システム>
 図3は、本実施形態に係る周辺監視システム10を示す図である。図4は、本実施形態に係る周辺監視システム10が有する撮像装置11~16を搭載したダンプトラック1の斜視図である。図5は、複数の撮像装置11~16によって撮像される領域及び複数の撮像装置11~16によって撮像された画像の情報に基づいて生成された俯瞰画像200を示す模式図である。図5に示す、複数の撮像装置によって撮像される領域は、地面を基準とした領域である。図3に示すように、周辺監視システム10は、複数(本実施形態では6台)の撮像装置11、12、13、14、15、16と、複数(本実施形態では8台)のレーダ装置21、22、23、24、25、26、27、28と、モニタ50と、監視制御装置としてのコントローラ100とを有している。
<撮像装置>
 撮像装置11、12、13、14、15、16は、ダンプトラック1に取り付けられる。撮像装置11、12、13、14、15、16は、例えば、ワイドダイナミックレンジ(WDR:Wide Dynamic Range)カメラである。ワイドダイナミックレンジカメラは、明るい部分を視認できるレベルに保ちながら、暗い部分を明るく補正し、全体をくまなく視認できるように調整可能な機能を有したカメラである。
 撮像装置11、12、13、14、15、16は、ダンプトラック1の周囲を撮像し、画像情報として出力する。以下において、適宜、撮像装置11を第1撮像装置11、撮像装置12を第2撮像装置12、撮像装置13を第3撮像装置13、撮像装置14を第4撮像装置14、撮像装置15を第5撮像装置15、撮像装置16を第6撮像装置16という。また、これらを区別する必要がない場合、適宜、撮像装置11~16という。
 図4に示すように、6台の撮像装置11~16は、ダンプトラック1の周囲360度の範囲における画像を撮像するために、ダンプトラック1の外周部分にそれぞれ取り付けられている。本実施形態において、それぞれの撮像装置11~16は、左右方向において120度(左右60度ずつ)、高さ方向において96度の視野範囲を有しているが、このような視野範囲に限定されるものではない。また、図4には各撮像装置11~16から矢印を示しているが、これら矢印の向きは各撮像装置11~16が向いている方向を表している。
 図4に示すように、第1撮像装置11は、ダンプトラック1の前面に取り付けられる。具体的には、第1撮像装置11は、斜めラダー2dの上端部、より具体的には、最上段の踊り場部分の下部に配置される。第1撮像装置11は、アッパデッキ2bに取り付けられたブラケットを介して、ダンプトラック1の前方に向かって固定されている。図5に示すように、第1撮像装置11は、ダンプトラック1の周囲に存在する領域のうち第1領域11Cを撮像して画像情報としての第1画像情報を出力する。第1領域11Cは、ダンプトラック1の車体部2の前方に広がる領域である。
 図4に示すように、第2撮像装置12は、ダンプトラック1の前面における一方の側部に取り付けられる。具体的には、第2撮像装置12は、アッパデッキ2bの前面の右側部に配置される。第2撮像装置12は、アッパデッキ2bに取り付けられたブラケットを介して、ダンプトラック1の右斜め前方に向かって固定されている。図5に示すように、第2撮像装置12は、ダンプトラック1の周囲に存在する領域のうち第2領域12Cを撮像して画像情報としての第2画像情報を出力する。第2領域12Cは、ダンプトラック1の車体部2の右斜め前方に広がる領域である。
 図4に示すように、第3撮像装置13は、ダンプトラック1の前面における他方の側部に取り付けられる。具体的には、第3撮像装置13は、アッパデッキ2bの前面の左側部に配置される。そして、第3撮像装置13は、ダンプトラック1の車幅方向中央を通る軸に対して第2撮像装置12と左右対称となるように配置される。第3撮像装置13は、アッパデッキ2bに取り付けられたブラケットを介して、ダンプトラック1の左斜め前方に向かって固定されている。図5に示すように、第3撮像装置13は、ダンプトラック1の周囲に存在する領域のうち第3領域13Cを撮像して画像情報としての第3画像情報を出力する。第3領域13Cは、ダンプトラック1の車体部2の左斜め前方に広がる領域である。
 図4に示すように、第4撮像装置14は、ダンプトラック1の一方の側面に取り付けられる。具体的には、第4撮像装置14は、アッパデッキ2bの右側面の前部に配置される。第4撮像装置14は、アッパデッキ2bに取り付けられたブラケットを介して、ダンプトラック1の右斜め後方に向かって固定されている。図5に示すように、第4撮像装置14は、ダンプトラック1の周囲に存在する領域のうち第4領域14Cを撮像して画像情報としての第4画像情報を出力する。第4領域14Cは、ダンプトラック1の車体部2の右斜め後方に広がる領域である。
 図4に示すように、第5撮像装置15は、ダンプトラック1の他方の側面に取り付けられる。具体的には、第5撮像装置15は、アッパデッキ2bの左側面の前部に配置される。そして、第5撮像装置15は、ダンプトラック1の車幅方向中央を通る軸に対して第4撮像装置14と左右対称となるように配置される。図5に示すように、第5撮像装置15は、ダンプトラック1の周囲に存在する領域のうち第5領域15Cを撮像して画像情報としての第5画像情報を出力する。第5領域15Cは、ダンプトラック1の車体部2の左斜め後方に広がる領域である。
 図4に示すように、第6撮像装置16は、ダンプトラック1の後部に取り付けられる。具体的には、第6撮像装置16は、フレーム2fの後端であって、2個の後輪6、6を連結するアクスルハウジングの上方、かつベッセル4の回動軸付近に配置される。第6撮像装置16は、左右のフレーム2fを連結するクロスバーに取り付けられたブラケットを介して、ダンプトラック1の後方に向かって固定されている。図5に示すように、第6撮像装置16は、ダンプトラック1の周囲に存在する領域のうち第6領域16Cを撮像して画像情報としての第6画像情報を出力する。第6領域16Cは、ダンプトラック1の車体部2の後方に広がる領域である。
 上述した6台の撮像装置11~16を用いることにより、本実施形態に係る周辺監視システム10は、図5の中央に示すように、ダンプトラック1の全周360度の画像を撮像し、その画像情報を取得することができる。6台の撮像装置11~16は、それぞれが撮像した画像情報としての第1画像情報~第6画像情報を、図3に示すコントローラ100に送信する。
 第1撮像装置11、第2撮像装置12、第3撮像装置13、第4撮像装置14及び第5撮像装置15は、比較的高い位置にあるアッパデッキ2bに設けられている。このため、コントローラ100は、第1撮像装置11~第5撮像装置15によって上方から地面を見下ろすような画像を得ることができ、また、地面に存在する車両等の対象物を広範囲に撮像することができる。また、第1撮像装置11~第6撮像装置16が取得した第1画像情報~第6画像情報から、コントローラ100が図5に示す俯瞰画像200を生成する際に視点変換を実行した場合でも、第1画像情報~第6画像情報のうち第1画像情報~第5画像情報は上方から撮像されて得られた情報なので、立体物の変形の程度が抑制される。
<レーダ装置>
 図6は、レーダ装置21~28の配置を示す斜視図である。図7は、レーダ装置21~28の検出範囲を示す図である。本実施形態において、物体検出装置としてのレーダ装置21、22、23、24、25、26、27、28(以下、適宜レーダ装置21~28という)は、方位80度(左右40度)、検出距離が最大15m以上のUWB(Ultra Wide Band)レーダ(超広域帯レーダ)である。レーダ装置21~28は、ダンプトラック1の周囲に存在する対象物とダンプトラック1との相対的な位置(相対位置)を検出する。それぞれのレーダ装置21~28は、撮像装置11~16と同様に、ダンプトラック1の外周部分に取り付けられる。また、図6には各レーダ装置21~28から矢印を示しているが、これら矢印の向きは各レーダ装置21~28の検出範囲の方向を表している。
 レーダ装置21(適宜第1レーダ装置21という)は、図6に示すように、地上から1m程度の高さに配置されているロアデッキ2aにおける車体部2の正面、かつ車体部2の幅方向中心よりもやや右側に配置されている。図7に示すように、第1レーダ装置21の検出範囲21Rは、ダンプトラック1の車体部2の前方から左斜め前方に広がる範囲となる。
 レーダ装置22(適宜第2レーダ装置22という)は、図6に示すように、ロアデッキ2aにおける車体部2の正面、かつ車体部2の車幅方向中心よりもやや左側に配置されている。すなわち、第2レーダ装置22は、第1レーダ装置21の左側に、第1レーダ装置21と隣接して配置されている。図7に示すように、第2レーダ装置22の検出範囲22Rは、ダンプトラック1の車体部2の前方から右斜め前方に広がる範囲となる。
 レーダ装置23(適宜第3レーダ装置23という)は、図6に示すように、ロアデッキ2aの右側面前端部付近に配置されている。図7に示すように、第3レーダ装置23の検出範囲23Rは、ダンプトラック1の車体部2の右斜め前方から右方に広がる範囲となる。
 レーダ装置24(適宜第4レーダ装置24という)は、図6に示すように、車体部2の側部におけるロアデッキ2aとアッパデッキ2bとの中間の高さ位置における右側端部近傍に配置されている。図7に示すように、第4レーダ装置24の検出範囲24Rは、ダンプトラック1の車体部2の右方から後方に広がる範囲となる。
 レーダ装置25(適宜第5レーダ装置25という)は、図6に示すように、ベッセル4の下方であって、ダンプトラック1の左右の後輪6に駆動力を伝達するアクスルの上方に配置されている。図7に示すように、第5レーダ装置25の検出範囲25Rは、ダンプトラック1の車体部2の右斜め後方から後方に向かって広がる範囲となる。
 レーダ装置26(適宜第6レーダ装置26という)は、図6に示すように、第5レーダ装置25と同様に、アクスルの上方であって、第5レーダ装置25の右側に隣接して配置されている。図7に示すように、第6レーダ装置26の検出範囲26Rは、第5レーダ装置25の検知範囲と交差するように、ダンプトラック1の車体部2の左斜め後方から後方に向かって広がる範囲となる。
 レーダ装置27(適宜第7レーダ装置27という)は、図6に示すように、車体部2の側面におけるロアデッキ2aとアッパデッキ2bとの中間の高さ位置における左側端部近傍、すなわち、車体部2の車幅方向中心軸に対して第4レーダ装置24と左右対称の位置に配置されている。図7に示すように、第7レーダ装置27の検出範囲27Rは、ダンプトラック1の車体部2の左方から後方に広がる範囲となる。
 レーダ装置28(適宜第8レーダ装置28という)は、図6に示すように、ロアデッキ2aの左側面における前端部近傍、すなわち、車体部2の車幅方向中心軸に対して第3レーダ装置23と左右対称の位置に配置されている。図7に示すように、第8レーダ装置28の検出範囲28Rは、ダンプトラック1の車体部2の左斜め前方から左方に広がる範囲となる。
 8台のレーダ装置21~28は、図7に示すように、ダンプトラック1の周囲360度全周を検出範囲として、対象物とダンプトラック1との相対位置を検出することができる。8台のレーダ装置21~28は、それぞれ検出した対象物とダンプトラック1との相対位置を示す相対位置情報をコントローラ100に送信する。このように、複数(8台)のレーダ装置21~28は、車体部2に設けられて、車体部2の全周範囲に存在する物体を検出可能である。次に、周辺監視システム10が備えるコントローラ100について説明する。
<コントローラ>
 図3に示すコントローラ100は、撮像装置11~16及びレーダ装置21~28を用いて、ダンプトラック1の周囲における対象物の有無を俯瞰画像200(図5参照)に表示し、必要に応じて対象物の存在をオペレータに報知する。コントローラ100は、図3に示すように、俯瞰画像合成部110、カメラ画像切替・視点変換部120、対象物位置情報生成部130、表示制御部140、警報報知部150、警報解除部160、対象物情報収集部210及び対象物処理部220を有している。
 俯瞰画像合成部110は、図3に示すように、撮像装置11~16に接続されている。俯瞰画像合成部110は、それぞれの撮像装置11~16が撮像し、生成した複数の画像情報(第1画像情報~第6画像情報)を受信する。そして、俯瞰画像合成部110は、受信した複数の画像情報に対応した画像を合成して、ダンプトラック1の全周囲を含む俯瞰画像200を生成する。具体的には、俯瞰画像合成部110は、複数の画像情報をそれぞれ座標変換することによって、複数の画像を所定の投影面上に投影させた俯瞰画像200をモニタ50に表示するための俯瞰画像情報を生成する。俯瞰画像情報については後述する。
 カメラ画像切替・視点変換部120は、図3に示すように、撮像装置11~16に接続されている。そして、カメラ画像切替・視点変換部120は、例えば、レーダ装置21~28による障害物検出の結果等に応じて、俯瞰画像200とともにモニタ50の画面に表示される各撮像装置11~16による撮像画像を切り替える。また、カメラ画像切替・視点変換部120は、各撮像装置11~16によって取得された画像情報を、上方無限遠からの視点からの画像情報に変換する。
 対象物位置情報生成部130は、図3に示すように、カメラ画像切替・視点変換部120、表示制御部140及び対象物処理部220に接続されている。対象物位置情報生成部130は、各撮像装置11~16によって取得された画像情報を合成して形成される俯瞰画像200中に、レーダ装置21~28によって取得された対象物の位置情報を合成して表示させるための対象物位置情報を生成し、カメラ画像切替・視点変換部120及び表示制御部140に対して送信する。
 表示制御部140は、図3に示すように、俯瞰画像合成部110、カメラ画像切替・視点変換部120、対象物位置情報生成部130及び警報報知部150に接続されている。表示制御部140は、俯瞰画像合成部110が生成したダンプトラック1の全周囲における俯瞰画像情報と、レーダ装置21~28によって取得されたダンプトラック1の全周囲における対象物位置情報とに基づいて、対象物の位置が含まれた俯瞰画像200を生成する。この画像は、モニタ50に表示される。また、表示制御部140は、レーダ装置21~28が検出した、ダンプトラック1の周囲に存在する物体(以下、適宜対象物という)を示す指標を、俯瞰画像情報に基づく俯瞰画像200に重ねた第1画像と、撮像装置11~16が撮像した第2画像とをモニタ50の同一の画面に表示する。
 図3に示すように、警報報知部150は、表示制御部140に接続されている。警報報知部150は、上述した第1画像において、上述した対象物を示す指標が存在する領域を、指標が存在しない領域とは異ならせて表示する第1警報と、対象物の存在を音で報知する第2警報との少なくとも一方を警報として報知する。本実施形態において、警報報知部150は、第1警報と第2警報との両方を報知するので、警報報知部150には音発生装置52が接続されている。音発生装置52は、例えば、音信号生成装置と、増幅装置と、スピーカーとを組み合わせたものである。本実施形態では、ダンプトラック1がオペレータに音で各種の警報を知らせるための装置を、周辺監視システム10の音発生装置52として兼用している。このようにすることで、周辺監視システム10専用のスピーカー等が不要になるので、周辺監視システム10の製造コストを低減できる。さらに、警報報知部150には、シフトレバー37、より具体的にはシフトレバー37の位置を検出するセンサ37aが電気的に接続されている。シフトレバー37の位置を示す信号は、ダンプトラック1の走行モードに対応する。したがって、警報報知部150は、シフトレバー37から、ダンプトラック1の走行モードを示す信号を取得することができる。この信号は、例えば、ダンプトラック1の進行方向を示す信号又は速度段を示す信号である。
 警報解除部160は、警報報知部150が報知した警報を解除するための入力を受け付ける警報解除指令部としての警報解除スイッチ53からの警報を解除する旨の信号(警報解除信号)に基づき、対象物が存在する位置に基づいた解除順序にしたがって警報を解除する。警報解除スイッチ53は、図2に示すコントロールパネル51に設けられている。警報解除スイッチ53は、警報解除部160と電気的に接続されている。なお、モニタ50にタッチパネルを用い、タッチパネルを指で触れることで警報解除スイッチ53の機能が働くようにしてもよい。このような構造により、警報解除スイッチ53は、警報を解除するためにダンプトラック1のオペレータによって操作されると、警報解除信号を警報解除部160に送信する。警報解除部160は、前述した警報解除信号を受信すると、警報報知部150に警報解除指令を発信する。前述した解除順序については、後述する。
 本実施形態において、警報解除部160は、ダンプトラック1の状態に応じて上述した解除順序を変更する。このため、ダンプトラック1の状態を検出する車両状態検出センサとしてのシフトレバー37及び車速センサ54が警報解除部160に電気的に接続されている。警報解除部160は、シフトレバー37、より具体的にはシフトレバー37の位置を検出するセンサ37aから取得したダンプトラック1の進行方向又は停止を示す信号及び速度段を示す信号の少なくとも一方又は車速センサ54が検出したダンプトラック1の走行速度(車速)等に基づいて、解除順序を変更する。センサ37aは、シフトレバー37により選択された速度段を検出することができるが、警報解除部160又は警報報知部150は、速度段を示す信号を用いて、ダンプトラック1の進行方向あるいは停止を判別することもできる。本実施形態においては、センサ37aから取得したダンプトラック1の進行方向又は停止を示す信号に基づいて、解除順序、すなわち優先度を変更する場合について説明する。なお、図3に示した車速センサ54は、本実施形態においては必ずしも必要ではない。
 対象物情報収集部210は、図3に示すように、レーダ装置21~28と対象物処理部220とに接続されている。対象物情報収集部210は、レーダ装置21~28からそれぞれの検出範囲における対象物検出結果を受信し、対象物処理部220へ送信する。
 対象物処理部220は、図3に示すように、対象物情報収集部210と対象物位置情報生成部130とに接続されている。対象物処理部220は、対象物情報収集部210から受信した対象物の位置情報を、対象物位置情報生成部130へ送信する。
 コントローラ100は、例えば、演算装置としてのCPU(Central Processing Unit)と記憶装置としてのメモリとを組み合わせたコンピュータと、俯瞰画像の合成等といった画像処理を実行する画像処理用デバイス(例えば、画像ボード)とを組み合わせたものである。画像処理用デバイスは、例えば、俯瞰画像を合成する等の画像処理を実行する専用のIC(例えばFPGA:Field-Programmable Gate Array)及びメモリ(例えばVRAM:Video Random Access Memory)等を搭載している。
 本実施形態において、図4に示すように、撮像装置11~16がアッパデッキ2bの正面及び側面並びにベッセル4の下方に配置されている。そして、コントローラ100は、撮像装置11~16が撮像し、取得した第1画像情報~第6画像情報を合成して、図5に示すような俯瞰画像200を生成して、キャブ3内における運転席31の前方に配置されるモニタ50に表示させる。このとき、モニタ50は、コントローラ100の制御に応じて、俯瞰画像200等の画像を表示する。俯瞰画像200は、撮像装置11~16が撮像した第1領域11C~第6領域16Cに対応する第1画像情報~第6画像情報をコントローラ100が合成することによって得られる。周辺監視システム10は、このような俯瞰画像200をモニタ50に表示する。このため、ダンプトラック1のオペレータは、モニタ50に表示された俯瞰画像200を視認するだけで、ダンプトラック1の周囲360度の全範囲を監視することができる。次に、俯瞰画像200について説明する。
<俯瞰画像の生成>
 図8は、仮想投影面VPを用いた画像変換の手法を示す図である。コントローラ100は、複数の第1画像情報~第6画像情報によって示される複数の画像に基づいて、ダンプトラック1の周囲の俯瞰画像200を作成する。具体的には、コントローラ100は、所定の変換情報を用いて第1画像情報~第6画像情報の座標変換を実行する。変換情報は、入力画像の各画素の位置座標と出力画像の各画素の位置座標との対応を示す情報である。本実施形態において、入力画像は、撮像装置11~16によって撮像された画像であり、第1画像情報~第6画像情報に対応する画像である。出力画像は、モニタ50に表示される俯瞰画像200である。
 コントローラ100は、変換情報を用いて、撮像装置11~16によって撮像された画像を、ダンプトラック1の上方に位置する所定の仮想視点から見た画像に変換する。具体的には、図5に示すように、撮像装置11~16によって撮像された画像は、所定の仮想投影面VPに投影されることにより、ダンプトラック1の上方に位置する仮想視点VIPから見た画像に変換される。変換情報は、この仮想投影面VPを表している。変換後の画像がモニタ50に表示される俯瞰画像である。コントローラ100は、複数の撮像装置11~16から取得した複数の第1画像情報~第6画像情報を所定の仮想投影面VPに投影して合成することにより、ダンプトラック1の周囲の俯瞰画像200を生成する。
 図5に示すように、それぞれの撮像装置11~16が撮像したダンプトラック1の周囲の領域は、第1重複領域OA1~第6重複領域OA6において重複している。コントローラ100は、俯瞰画像200において、それぞれの第1重複領域OA1~第6重複領域OA6において互いに隣接する2個の撮像装置11~16からの第1画像情報~第6画像情報に対応する画像を重ねて表示する。
 具体的には、コントローラ100は、第1重複領域OA1では、第1撮像装置11からの第1画像情報の画像と、第3撮像装置13からの第3画像情報の画像とを重ねて表示する。また、コントローラ100は、第2重複領域OA2では、第1撮像装置11からの第1画像情報の画像と、第2撮像装置12からの第2画像情報の画像とを重ねて表示する。また、コントローラ100は、第3重複領域OA3では、第3撮像装置13からの第3画像情報の画像と、第5撮像装置15からの第5画像情報の画像とを重ねて表示する。また、コントローラ100は、第4重複領域OA4では、第2撮像装置12からの第2画像情報の画像と、第4撮像装置14からの第4画像情報の画像とを重ねて表示する。また、コントローラ100は、第5重複領域OA5では、第5撮像装置15からの第5画像情報の画像と、第6撮像装置16からの第6画像情報の画像とを重ねて表示する。また、コントローラ100は、第6重複領域OA6では、第4撮像装置14からの第4画像情報の画像と、第6撮像装置16からの第6画像情報の画像とを重ねて表示する。
 このように、第1重複領域OA1~第6重複領域OA6において、2個の画像情報を重ねて合成する場合には、第1画像情報~第6画像情報の値に合成比率を乗じた値が加算される。合成比率は、第1画像情報~第6画像情報に対応した値であり、コントローラ100が記憶している。例えば、第1画像情報の合成比率が0.5であり、第2画像情報の合成比率が0.5である等、第1画像情報~第6画像情報毎に合成比率が定められている。合成比率が用いられることにより、第1重複領域OA1~第6重複領域OA6において複数の画像情報が平均化されて表示される。その結果、色及びコントラストの急激な変化が抑えられ、コントローラ100は、自然な俯瞰画像200を作成することができる。コントローラ100は、上述のように合成された俯瞰画像200を表示するためのす合成画像情報を生成して、モニタ50に出力する。
<それぞれの撮像装置の撮像範囲>
 図4に示すように、ダンプトラック1は、第1撮像装置11、第2撮像装置12、第3撮像装置13、第4撮像装置14及び第5撮像装置15がアッパデッキ2bに配置され、第6撮像装置16がフレーム2fの後端であってベッセル4の下方に配置されている。特に、第2撮像装置12と第3撮像装置13とは、ダンプトラック1の車体部2の左右斜め前方から左右側方までを撮像可能な領域としてカバーしている。また、第4撮像装置14と第5撮像装置15とは、ダンプトラック1の車体部2の左右側方から左右斜め後方までを撮像可能な領域としてカバーしている。このようにすることで、コントローラ100は、第1撮像装置11及び第6撮像装置16によって撮像され、取得された第1画像情報及び第6画像情報と合わせて、ダンプトラック1の全周囲をカバーした俯瞰画像200を生成して、ダンプトラック1の周辺を監視することができる。
 また、本実施形態では、図5に示すように、それぞれの撮像装置11~16が撮像可能な領域である第1領域11C~第6領域16Cが、互いの隣接部分において重複するように、互いに隣接する撮像装置11~16が配置されている。コントローラ100は、それぞれの撮像装置11~16が撮像可能な第1領域11C~第6領域16Cの重複した部分において接続線を設けることで、ダンプトラック1の平面上における360度全周囲の監視が可能となる。なお、俯瞰画像200において、互いに隣接する第1領域11C~第6領域16Cを接続する接続線は、第1領域11C~第6領域16Cの重複範囲内における任意の位置に設定することができる。次に、周辺監視システム10が報知した警報を解除する制御(適宜、警報解除制御という)について説明する。
<警報解除制御>
 図9は、周辺監視システム10の警報解除制御の処理手順を示すフローチャートである。本実施形態に係る警報解除制御は、対象物が存在する位置に基づいた解除順序で、図3に示すコントローラ100の警報報知部150が報知する警報を解除する点に特徴がある。解除順序は、例えば、ダンプトラック1の周囲において、ダンプトラック1のオペレータが注意すべき位置又は方向の優先度が高い順に設定することができる。図3に示すコントローラ100は、本実施形態に係る警報解除制御の各処理を実行する。
 本実施形態に係る警報解除制御を実行するにあたり、ステップS101において、複数のレーダ装置21~28の少なくとも1つがダンプトラック1の周囲に対象物として何らかの物体を検出した場合(ステップS101、Yes)、コントローラ100は、処理をステップS102に進める。ダンプトラック1の周囲に対象物が検出されなかった場合(ステップS101、No)、コントローラ100は、本実施形態に係る警報解除制御を終了する。ステップS102において、コントローラ100、より具体的には警報解除部160は、後述するデータテーブル41からいずれかの解除順序を選択して設定する。次に、ステップS103において、コントローラ100、より具体的には警報報知部150は、警報を設定する。ステップS103の警報を設定することについての詳細は後述する。
(警報及び解除順序)
 図10は、第1警報の報知に用いられる第1画像202Aの一例を示す図である。図中の符号Lはダンプトラック1の前方を示し、符号Tはダンプトラック1の後方を示す。まず、第1警報について説明する。本実施形態において、警報報知部150が報知する第1警報は、図10に示す第1画像202Aを用いて報知される。また、警報報知部150が報知する第2警報は、図3に示す音発生装置52が発生する音としての警報音を用いて報知される。
 第1画像202Aは、俯瞰画像200に、複数のレーダ装置21~28の少なくとも1つが検出した対象物を示す指標MKを重ねた画像である。第1画像202Aは、モニタ50に表示される。第1画像202Aは、図5に示す第1領域11C、第2領域12C、第3領域13C、第4領域14C、第5領域15C、第6領域16Cにそれぞれ対応する第1警報領域C11、第2警報領域C12、第3警報領域C13、第4警報領域C14、第5警報領域C15、第6警報領域C16を有している。第1警報領域C11~第6警報領域C16は、第1画像202Aに表示されるダンプトラック1の周囲の領域である。第1警報領域C11はダンプトラック1の前の領域、第2警報領域C12はダンプトラック1の右前の領域、第3警報領域C13はダンプトラック1の左前の領域、第4警報領域C14はダンプトラック1の右後の領域、第5警報領域C15はダンプトラック1の左後の領域、第6警報領域C16はダンプトラック1の後の領域である。以下において、第1警報領域C11~第6警報領域C16を区別する必要がない場合は、適宜警報領域と表現する。
 複数のレーダ装置21~28の少なくとも1つが検出した車両等の対象物は、指標MKとして、第1警報領域C11~第6警報領域C16のいずれか1つ又は2つの領域にまたがって、第1画像202Aに重ねて表示される。指標MKは、これに対応する対象物が存在する位置に対応した第1警報領域C11~第6警報領域C16に表示される。すなわち、対象物が第1領域11Cに検出された場合、指標MKは第1警報領域C11に表示され、対象物が第2領域12Cに検出された場合、指標MKは第2警報領域C12に表示される。また、対象物(指標MK)が第1画像202Aに表示される位置は、レーダ装置21~28によって検出されたダンプトラック1と対象物との相対距離に応じた位置である。例えば、図10に示すような場合は、ダンプトラック1の前の比較的近い位置に対象物が位置していることを表している。
 警報報知部150が報知する第1警報は、第1画像202Aにおいて、指標MKが存在する領域を、指標MKが存在しない領域とは異ならせて表示されるものである。例えば、図10に示す例では、警報報知部150は、指標MKが存在する第1警報領域C11の境界線を、例えば赤色で明滅(ブリンク)させ、第2警報領域C12~第6警報領域C16はこのような表示をしない。このようにすることで、ダンプトラック1のオペレータは、対象物が存在する領域を迅速かつ確実に視認することができる。このように、第1警報は、オペレータの視覚に警報を認識させるものである。指標MKが複数存在する場合、警報報知部150は、例えば、複数個の指標MKを表示させるとともに、それぞれの指標MKが存在する警報領域の境界線をブリンクさせる。なお、指標MKが存在する警報領域の周囲をブリンクさせるのではなく、警報領域の全体をブリンクさせてもよい。
 それぞれの指標MKが存在する警報領域のすべてについて境界線をブリンクさせてもよいが、本実施形態では、後述する走行モードに応じた解除順序、すなわち優先度が最も高い警報領域についてのみ境界線をブリンクさせ、他の警報領域は境界線を強調表示(例えば赤色で点灯)するだけとする。すなわち、複数個の指標(対象物)が存在する複数の警報領域のうち、優先度が高い警報領域とその他の警報領域とを区別して表示することが好ましい。つまり、複数の対象物が異なる警報領域に存在している場合に、最も周辺監視が必要な警報領域をオペレータの視覚に認識させることができるからである。なお、指標MKが存在する警報領域の境界線のみをブリンクさせるのではなく、警報領域の全体をブリンクさせてもよい。あるいは、指標MKが存在する警報領域の境界線及び全体(境界線以外の部分)を区別して表示しつつ同時にブリンクさせてもよい。つまり、警報領域の境界線を例えば赤色で強調して表示するとともに、警報領域の境界線以外の部分を特定の色(例えば赤色の半透明色)で表示させて、境界線と境界線以外の部分を同時にブリンクさせてもよい。次に、第2警報について説明する。
 図11は、警報音レベルを説明するための図である。図12は、第2警報の報知に用いられる警報音のレベルを記述したデータテーブル40の一例を示す図である。第2警報は、複数のレーダ装置21~28の少なくとも1つが検出した対象物の存在を、警報報知部150が音発生装置52により警報音で報知するものである。このため、第2警報は、オペレータの聴覚に警報を認識させるものである。本実施形態において、警報音は、図11に示すように、音を発する時間(ON)taと音を停止する時間(OFF)tbとを組み合わせて報知される。本実施形態においては、音を発する時間ta中に発音を停止させる時間(中断時間)Δtを設けているが、中断時間Δtは設けなくてもよい。
 本実施形態において、警報音を用いた第2警報は、ダンプトラック1の周囲において、ダンプトラック1のオペレータが注意すべき位置又は方向の優先度が高い順に報知の態様が変更されている。例えば、運転席がダンプトラック1の進行方向左側にある場合、ダンプトラック1が前進する前においては、前、右前、左前、右後、左後、後の順にオペレータが注意すべき位置又は方向の重要度が低くなるので、優先度はこの順に低くなる。優先度は、ダンプトラック1の走行モード又は走行速度等の状態によって変更され得る。
 第2警報の報知の態様、すなわち警報音の発音の態様を異ならせる場合、例えば、警報報知部150は、前述した優先度に応じて音を発する時間taと音を停止する時間tbとを異ならせる。このようにすることで、優先度に応じた警報音レベルが設定される。本実施形態においては、例えば、図12のデータテーブル40に示すように、警報音レベルが高(H)、中(M)、低(L)において、それぞれの音を発する時間をtah<tam<tal、それぞれの音を停止する時間をtbh<tbm<tblとなるようにする。このようにすることで、前述した優先度に応じて警報音レベルを変更することができる。また、警報音の音程及び音量を変更せずに警報音レベルを異ならせることができるので、高度な音処理が不要になる。データテーブル40は、コントローラ100が備える記憶部に保存されている。
 本実施形態において、コントローラ100の警報報知部150は、ダンプトラック1のオペレータの視覚に警報を認識させる第1警報と、オペレータの聴覚に警報を認識させる第2警報との少なくとも一方を報知すればよい。第1警報のみを報知する場合、音がないため、キャブ3内を静粛な環境とすることができる。第2警報のみを報知する場合、オペレータがモニタ50を見ることができない状況でも、オペレータにダンプトラック1の周囲における対象物の存在を認識させることができる。警報報知部150が第1警報と第2警報という異なる形態によって警報を報知することにより、オペレータに対してより確実にダンプトラック1の周囲における対象物の存在を認識させることができる。コントローラ100は、少なくとも一つの対象物を検知した場合、第1警報(視覚)と第2警報(聴覚)との両方を警報として同時に報知してもよい。同時に報知すれば、高い警報レベルでオペレータに警報を報知し、オペレータが対象物を認識欠如してしまう可能性(第1警報の見落とし又は第2警報の聞き漏れの可能性)を低減することができる。次に、解除順序について説明する。
 図13は、解除順序を記述したデータテーブル41の一例を示す図である。本実施形態において、警報、すなわち第1警報と第2警報との少なくとも一方の解除順序は、上述した優先度が高い順に設定されている。例えば、上述したように、ダンプトラック1が前進する前、すなわち、走行モードが前進(F)で待機しているような場合においては、優先度は前、右前、左前、右後、左後、後の順に低くなる。このため、図13のデータテーブル41に示すように、走行モードが前進(F)である場合の解除順序は、前、右前、左前、右後、左後、後の順になり、この解除順序が選択され設定される。
 例えば、走行モードが前進(F)であり、さらに、図10に示す第1画像202Aにおいて、第1警報領域C11~第6警報領域C16のすべてに指標MKが存在するために、第1警報領域C11~第6警報領域C16すべての周囲がブリンクすることにより第1警報が警報として報知されている場合を考える。この場合、ダンプトラック1のオペレータが図3に示す警報解除スイッチ53を操作することによって警報を解除する。オペレータが警報解除スイッチ53を操作する毎に、設定された解除順序にしたがって、前、右前、左前、右後、左後、後の順に警報が解除される。すなわち、第1警報領域C11、第2警報領域C12、第3警報領域C13、第4警報領域C14、第5警報領域C15、第6警報領域C16の順に、ブリンクが解除される。
 本実施形態において、走行モードが前進(F)でダンプトラック1が待機しているような場合においては、図13のデータテーブル41の走行モードが前進(F)の場合の解除順序、すなわち優先度で警報音が選択され設定され、第2警報は、前、右前、左前の警報音レベルが高(H)、右後、左後、後の警報音レベルが中(M)となっている。すなわち、指標MKが第1警報領域C11、第2警報領域C12及び第3警報領域C13の少なくとも1つに存在する場合、警報音レベルは高(H)である。また、指標MKが第4警報領域C14、第5警報領域C15、第6警報領域C16の少なくとも1つに存在する場合、警報音レベルは中(M)である。
 図10に示す第1画像202Aにおいて、第1警報領域C11~第6警報領域C16のすべてに指標MKが存在する場合を考える。この場合、最も優先度の高い第1警報領域C11に指標MKが存在することを優先し、第2警報として、第1警報領域C11に対応する警報音レベルで警報音が報知される。すなわち、警報音レベルは高(H)である。オペレータが警報解除スイッチ53を操作する毎に第2警報が解除される。ここで、第2警報の解除と同時に第1警報も解除してもよい。つまり、オペレータが警報解除スイッチ53を操作する毎に第1警報が解除されてもよい。オペレータが警報解除スイッチ53を操作すると、まず第1警報領域C11に指標MKが存在することに対応した第2警報が解除される。ここで、第1警報も同時に解除する場合は、第1警報領域C11の第2警報が解除される。以下、各警報領域C12~16の第2警報の解除と同時に第1警報も解除される場合も同様に、オペレータが警報解除スイッチ53を操作することにより各警報領域C12~16の第1警報は解除される。すると、次に優先度の高い第2警報領域C12に指標MKが存在することに対応した第2警報が報知される。この場合、図13のデータテーブル41に示すように、警報音レベルが高(H)の警報音が第2警報として報知される。次に、オペレータが警報解除スイッチ53を操作すると、第2警報領域C12に指標MKが存在することに対応した第2警報が解除され、次に優先度の高い第3警報領域C13に指標MKが存在することに対応した第2警報が報知される。この場合、図13のデータテーブル41に示すように、警報音レベルが高(H)の警報音が第2警報として報知される。そして、オペレータが警報解除スイッチ53を操作し、第3警報領域C13に指標MKが存在することに対応した第2警報が解除されると、次に優先度の高い第4警報領域C14に指標MKが存在することに対応した第2警報が報知される。この場合、図13のデータテーブル41に示すように、警報音レベルが中(M)の警報音が第2警報として報知される。オペレータが警報解除スイッチ53を順次操作して、第6警報領域C16に指標MKが存在することに対応した第2警報を解除すると、警報音は停止される。このようにして、第2警報は報知され、解除される。ここでは、第2警報の解除と同時に第1警報が解除されることを述べたが、第1警報の解除についての詳細は後述する。
 本実施形態においては、データテーブル41に示すように、ダンプトラック1の状態、具体的には走行モードに応じて解除順序、すなわち優先度が変更される。この変更は、警報解除部160が行う。走行モードが前進(F)、中立(N)、停止(P)及び後進(R)それぞれの場合の解除順序、すなわち優先度は、例えば、データテーブル41に示すようになる。走行モードは、図3に示すシフトレバー37によって切り替えられる。データテーブル41は、コントローラ100が備える、メモリ等で構成される図示しない記憶部に保存されている。解除順序、すなわち優先度は、データテーブル41に記述されたものに限定されない。次に、各走行モードにおける解除順序、すなわち優先度について説明する。
 走行モードが前進(F)である場合、上述したように解除順序、すなわち優先度は、前(第1警報領域C11)、右前(第2警報領域C12)、左前(第3警報領域C13)、右後(第4警報領域C14)、左後(第5警報領域C15)、後(第6警報領域C16)の順になる。この場合、ダンプトラック1が前進しようとしている状態なので、ダンプトラック1のオペレータが注意すべき位置又は方向は、前が最も重要になる。また、本実施形態において、ダンプトラック1は左側に運転席31が設けられているので、次にオペレータが注意すべき位置又は方向は、左前と右前のうち、オペレータが対象物を視認しにくい右前が重要、すなわち前の次に優先度が高いことになる。ここで、右側に運転席31が設けられていれば、前の次に左前が重要になる。以下、解除順序、すなわち優先度は、前の優先度を最も高くし、左前、右後、左後、後の順になる。仮に右側に運転席31が設けられていれば、解除順序及び優先度は、左前、右前、左後、右後、後の順になる。警報音レベルは、前、右前、左前が高(H)であり、右後、左後、後が中(M)である。ダンプトラック1の前側における警報音レベルを後側よりも高くすることにより、ダンプトラック1が前進する前において重要な前方の対象物の存在を、オペレータに対してより確実に認識させることができる。
 走行モードが中立(N)である場合、ダンプトラック1は、次に前進又は後進のいずれかを行う可能性がある。このため、解除順序、すなわち優先度は、前(第1警報領域C11)、後(第6警報領域C16)、右前(第2警報領域C12)、右後(第4警報領域C14)、左前(第3警報領域C13)、左後(第5警報領域C15)の順になる。警報音レベルは、前、後が中(M)であり、右前、右後、左前、左後が低(L)である。中立(N)である場合、オペレータがシフトレバー37を操作して走行モードを前進(F)又は後進(R)に切り替えないとダンプトラック1は走行しない。また、走行モードが中立(N)である場合、オペレータは待機中であると考えられることから、本実施形態において、走行モードが中立(N)である場合は、走行モードが前進(F)である場合と比較して警報音レベルを低くしている。このようにすることで、待機中と考えられるオペレータに対して警報音が耳障りとなることを緩和しつつ、ダンプトラック1の周囲に存在する対象物を、オペレータに対して認識させることができる。
 走行モードが停止(P)である場合の解除順序、すなわち優先度は、走行モードが中立(N)である場合と同様である。警報音レベルは、すべての解除順序、すなわち優先度において、なし(NA)である。本実施形態において、走行モードが停止(P)である場合とは、シフトレバー37がパーキングの位置であり、かつ図示しない油圧システムによって後輪6のサービスブレーキがロック(ブレーキによる制動)されている状態である。サービスブレーキは油圧システムではなく、機械的にブレーキディスクを制動するメカニカルブレーキであってもよい。走行モードが停止(P)である場合、ダンプトラック1を走行可能な状態とするには、オペレータがシフトレバー37を操作して、走行モードを停止(P)から中立(N)を経て前進(F)又は後進(R)に切り替えて、さらに後輪のサービスブレーキのロックを解除する必要がある。また、走行モードが停止(P)である場合、走行モードが中立(N)である場合と同様に、オペレータは待機中であると考えられる。このため、本実施形態において、走行モードが停止(P)である場合は、警報音レベルをなしとして、警報音を報知しないようにしている。このようにすることで、待機中と考えられるオペレータに対して警報音が耳障りとなることを緩和しつつ、ダンプトラック1の周囲に存在する対象物を、オペレータに対して認識させることができる。
 走行モードが後進(R)である場合、解除順序、すなわち優先度は、後(第6警報領域C16)、右後(第4警報領域C14)、左後(第5警報領域C15)、右前(第2警報領域C12)、左前(第3警報領域C13)、前(第1警報領域C11)の順になる。この場合、ダンプトラック1が後進しようとしている状態なので、ダンプトラック1のオペレータが注意すべき位置又は方向は、後が最も重要になる。また、本実施形態において、ダンプトラック1は左側に運転席31が設けられているので、次にオペレータが注意すべき位置又は方向は、左後と右後のうち、オペレータが対象物を視認しにくい右後が重要になる。以下、解除順序、すなわち優先度は、左後、右前、左前、前の順になる。仮に右側に運転席31が設けられていれば、後の次にオペレータが注意すべき位置又は方向は、左後が重要になる。以下、右側に運転席31が設けられている場合の解除順序、すなわち優先度は、仮に右側に運転席31が設けられていれば、右後、左前、右前、前の順になる。警報音レベルは、後、右後、左後が高(H)であり、右前、左前、前、が中(M)である。ダンプトラック1の後側における警報音レベルを前側よりも高くすることにより、ダンプトラック1が後進する前において重要な後方の対象物の存在を、オペレータに対してより確実に認識させることができる。
 本実施形態では、上述したように、ダンプトラック1の状態に応じて解除順序、すなわち優先度を変更する。このため、周辺監視システム10は、ダンプトラック1のオペレータに対して重要度の高い順に認識させて、警報を解除させることができる。その結果、ダンプトラック1のオペレータは、ダンプトラック1の周辺に存在する対象物をより確実に認識することができるので、より周辺監視が確実となる。
 ステップS102において、警報解除部160は、シフトレバー37からダンプトラック1の走行モードを示す信号(走行モード信号)等を取得してデータテーブル41に与えて、対応する解除順序を取得する。このようにして、解除順序が設定される。本実施形態において、解除順序は優先度が高い順に設定されるので、解除順序と優先度とは同等である。このため、ステップS103において、警報報知部150は、ステップS102で設定された解除順序を警報解除部160から取得する。また、警報報知部150は、コントローラ100の対象物位置情報生成部130からステップS101で検出された対象物の位置情報を取得する。そして、警報報知部150は、取得した解除順序及び対象物の位置情報に基づいて警報を設定する。
 第1警報が設定される場合、例えば、警報報知部150は、取得した対象物の位置情報により、第1警報領域C11~第6警報領域C16のうち対象物が存在する警報領域を決定する。次に、警報報知部150は、対象物が存在する警報領域の周囲を強調して表示するための信号を生成し、かつ取得した解除順序に基づいて、対象物が存在する警報領域をブリンクさせる順序を決定する。このようにして、第1警報が設定される。次に、第2警報の設定の一例について説明する。
 図14は、各警報領域における警報音レベルを、ダンプトラック1の走行モード毎に記述したデータテーブル42の一例を示す図である。上述した図13は、走行モード毎に応じて設定されている第1警報及び第2警報の解除順序、すなわち優先度を示したものであったが、図14は、警報音レベルと各警報領域との関係を一覧で示すために表現したものである。したがって、図13と図14の内容が実質的に異なるデータテーブルを意味するものではない。図14に示すデータテーブル42は、例えば、図1に示すコントローラ100が備える、メモリ等で構成される図示しない記憶部に保存されている。第2警報が設定される場合、例えば、警報報知部150は、シフトレバー37から走行モード信号を取得してデータテーブル42に与えて、それぞれの警報領域に対応する警報音レベルを取得する。警報報知部150は、第1警報領域C11~第6警報領域C16のうち対象物が存在する警報領域に対して、データテーブル42から選択し、取得した警報音レベルを割り付ける。このようにして第2警報が設定される。警報報知部150は、対象物が存在する警報領域に対して第2警報を報知する場合、設定された警報音レベルで音発生装置52から警報音を発する。
 警報報知部150が警報を設定したら、コントローラ100は、処理をステップS104に進める。ステップS104において、コントローラ100、より具体的には警報解除部160は、入力数nを0とする。入力数nは、警報報知部150が図3に示す警報解除スイッチ53から警報解除信号を入力された回数である。次に、コントローラ100は、処理をステップS105に進める。次の説明においては、原則として、ダンプトラック1の走行モードは前進(F)であるものとする。したがって、解除順序は、前、右前、左前、右後、左後、後の順になる。
 図15~図18は、警報が表示された画面の一例を示す図である。ステップS105において、コントローラ100、より具体的には警報報知部150は、警報を報知する。本実施形態においては、第1警報及び第2警報の両方が警報として報知されるので、警報報知部150は、ステップS103で設定した第1警報及び第2警報を報知する。本例においては、図5に示す第1領域11C、第4領域14C及び第6領域16Cにそれぞれ1個ずつ、計3個の対象物が検知されたとする。このため、表示制御部140は、俯瞰画像合成部110から俯瞰画像情報を取得し、対象物位置情報生成部130から対象物の位置情報を取得する。そして、表示制御部140は、取得した俯瞰画像情報及び対象物の位置情報に基づいて、検出された対象物に対応して、図15に示すようにモニタ50に表示された第1画像202A中の第1警報領域C11に指標MKaを、第4警報領域C14に指標MKbを、第6警報領域C16に指標MKcを表示する。
 第1警報を報知するにあたり、警報報知部150は、第1画像202Aにおける指標MKa、MKb、MKcが存在する領域を、指標MKa、MKb、MKcが存在しない領域とは異ならせて表示する。具体的には、警報報知部150は、指標MKaが存在する第1警報領域C11の境界線OL1、指標MKbが存在する第4警報領域C14の境界線OL4及び指標MKcが存在する第6警報領域C16の境界線OL6を強調して表示する。例えば、前述したように、境界線OL1、OL4、OL6を赤色の線で表示する等することで、これらが強調して表示される。このとき、警報報知部150は、第2警報領域C12、第3警報領域C13及び第5警報領域C15の境界線OL2、OL3、OL5は強調して表示しない。また、警報報知部150は、ステップS102で警報解除部160が設定した解除順序に基づき、最初に解除される警報領域の周囲をブリンクさせる。本例において、解除順序が上位(この例では第一位)であって、警報が最初に解除される警報領域は第1警報領域C11なので、第1警報領域C11の境界線OL1がブリンクされる。このように、本実施形態において、警報報知部150は、解除順序が上位の警報領域について、解除順序がより下位の警報領域とは異なる態様で報知する。すなわち、警報報知部150は、解除順序に対応して第1警報の報知の態様を異ならせる。このようにすることで、周辺監視システム10は、ダンプトラック1のオペレータに、優先度がより高い警報領域を優先して確認させることができる。また、周辺監視システム10は、複数の対象物が異なる警報領域に存在している場合に、最も周辺監視が必要な警報領域をオペレータの視覚に認識させることができるのである。
 第2警報を報知するにあたり、警報報知部150は、ステップS103で各警報領域に割り付けた警報音レベルに基づき、最初に解除される警報領域に対応する警報音レベルで音発生装置52から警報音を発する。本例において、警報が最初に解除される警報領域は第1警報領域C11なので、警報報知部150は、第1警報領域C11に対応した警報レベルで音発生装置52から警報音を発する。本実施形態においては、ダンプトラック1の状態、より具体的には走行モードに応じて解除順序が変更され、これに対応して各警報領域の警報音レベルも変更される。図13のデータテーブル41に示すように、ダンプトラック1の走行モードが前進(F)である場合には、第1警報領域C11の警報音レベルは高(H)であり、走行モードが中立(N)である場合には、第1警報領域C11の警報音レベルは中(M)である。また、走行モードが停止(P)である場合には、第1警報領域C11の警報音レベルはなし(NA)であり、走行モードが後進(R)である場合には、第1警報領域C11の警報音レベルは中(M)である。
 また、図13のデータテーブル41に示すように、ダンプトラック1の走行モードが前進(F)である場合、解除順序が3番目と4番目との間で警報音レベルが高(H)から中(M)に変更されている。さらに、ダンプトラック1の走行モードが中立(N)である場合、解除順序が2番目と3番目との間で警報音レベルが中(M)から低(L)に変更されている。このように、本実施形態において、警報報知部150は、解除順序に対応して警報音レベルを異ならせることにより、第2警報の報知の態様を異ならせている。解除順序は優先度と同等なので、前述のようにすることで、優先度が高い場合は警報音レベルを高くすることができ、ダンプトラック1のオペレータにより確実に対象物の存在を認識させることができる。なお、本実施形態において、第2警報は、警報音レベルが高(H)、中(M)、低(L)の順に優先度が低くなる。第2警報の解除順序は、警報音レベルが高(H)、中(M)、低(L)の順である。次に、モニタ50の画面に表示される画像について説明する。
(モニタに表示される画像)
 本実施形態において、モニタ50には、第1画像202A、第2画像202B及び第3画像202Cが同一の画面に表示される。警報を報知する際には、第1画像202A、第2画像202B及び第3画像202Cの少なくとも1つがモニタ50に表示されていればよい。第1画像202Aは、ダンプトラック1の周囲に、点線RL1、RL2、RL3が表示されている。点線RL1はダンプトラック1に最も近い位置に表示され、点線RL3はダンプトラック1から最も遠い位置に表示される。点線RL2は、点線RL1と点線RL3との間に表示される。点線RL1、RL2、RL3は、それぞれダンプトラック1から所定の距離だけ離れた位置を示している。ダンプトラック1のオペレータは、点線RL1、RL2、RL3によって、第1画像202Aに表示された指標MKa、MKb、MKcとダンプトラック1との距離を把握することができる。
 第2画像202Bは、複数の撮像装置11~16のうち少なくとも1つが撮像した画像である。周辺監視システム10は、撮像装置11~16が撮像した画像を第2画像202Bとしてモニタ50に表示することにより、ダンプトラック1のオペレータは、ダンプトラック1の周囲の状況を視認することができる。本実施形態において、警報解除スイッチ53が、オペレータからの警報を解除するための入力を受け付ける前において、表示制御部140は、複数の撮像装置11~16が撮像した画像のうち、警報解除部160が最初に警報を解除する位置に対応した画像を第2画像202Bとしてモニタ50に表示する。図15に示す例において、警報解除部160が最初に警報を解除する位置は、対象物が存在する第1警報領域C11である。したがって、第2画像202Bは、第1警報領域C11に対応した画像、すなわち、複数の撮像装置11~16が撮像した画像のうち、図5に示す第1領域11Cの画像となる。図15に示す例では、指標MKaに対応する対象物として、車両80が表示されている。仮に、ダンプトラック1の前の対象物(指標MKa)が存在せず、存在する対象物が指標MKb及び指標MKcである場合、第2画像2Bは、解除順序が上位の警報領域に対応した画像、すなわち、図5に示す第4領域14Cの画像となる。なお、警報解除スイッチ53が、オペレータからの警報を解除するための入力を受け付ける前とは、警報解除制御の1回の処理ルーチンにおいて、警報解除部160が警報解除スイッチ53から警報解除信号の入力を受ける前である。
 第3画像202Cは、ダンプトラック1と、第1警報領域C11~第6警報領域C16を模式化し、簡略化して表示したものである。第3画像202Cは、警報の対象となっている警報領域の位置と、第2画像202Bが表示している警報領域の位置との少なくとも一方を示す。このような画像の構造により、第3画像202Cは、第1画像202Aと第2画像202Bとの対応関係を示す機能を有している。警報の対象となっている警報領域の位置は、指標MKa、MKb、MKcが存在する領域である。この例では、第1警報領域C11、第4警報領域C14及び第6警報領域C16である。図15に示す例では、網目模様又はハッチングで示してある。図15に示す例において、他の第2警報領域C12、第3警報領域C13及び第5警報領域C15の位置は、無色又は単一色で示される。この例で、第2画像202Bが表示している警報領域の位置は、第1警報領域C11である。図15に示す例では、網目模様で示してある。このように、第3画像202Cは、警報の対象となっていない警報領域(図15の例では、第2警報領域C12、第3警報領域C13及び第5警報領域C15)の位置と警報の対象となっている警報領域(図15の例では、第1警報領域、第4警報領域C14及び第6警報領域C16)の位置とを異なる態様で表示する。さらに、そのうち撮像装置11~16によって撮像された画像が第2画像202Bとして表示されている警報領域(図15の例では、第1警報領域C11)の位置を示す態様(この例では網目模様)が、他の警報の対象となっている警報領域(図15の例では、第4警報領域C14及び第6警報領域C16)の位置を示す態様(この例ではハッチング)とは異なる態様で表示される。ダンプトラック1のオペレータは、モニタ50に表示された第3画像202Cを視認することにより、対象物が存在する領域及び第2画像202Bとして表示されている警報領域を直感的に認識することができる。このため、オペレータは、ダンプトラック1と対象物との位置関係をより確実かつ正確に把握しやすくなる。
 ステップS105において警報報知部150が警報を報知したら、コントローラ100は、処理をステップS106に進める。ステップS106において、図3に示すコントローラ100、より具体的には警報解除部160は、警報解除スイッチ53から警報解除信号の入力があった場合(ステップS106、Yes)、コントローラ100は、処理をステップS107に進める。警報解除スイッチ53から警報解除信号の入力がなかった場合(ステップS106、No)、コントローラ100は、処理をステップS105に戻す。ステップS105において、警報報知部150は、警報の報知を継続する。警報解除信号は、ダンプトラック1のオペレータが警報解除スイッチ53を操作することにより、警報解除スイッチ53によって生成される。
 ステップS107において、警報解除部160は警報を解除する。具体的には、警報解除部160は、ステップS102で設定した解除順序にしたがって警報を解除する。本例における解除順序は、前、右前、左前、右後、左後、後の順なので、警報解除部160は、最初に第1警報領域C11の警報を解除する。図16に示すように、第1画像202Aにおける第1警報領域C11の境界線OL1のブリンクが停止され、かつ境界線OL1を強調した表示が停止されることにより、第1警報が解除される。すなわち、第1警報は、第1画像202Aにおいて指標MKaが存在する領域、すなわち第1警報領域C11を、指標MKaを含めた他の指標が存在しない領域と同様に表示することで解除される。第2警報は、第1警報領域C11の警報音が停止されることにより解除される。第2警報は、音を変更、例えば、警報音レベルを変更することにより解除されてもよい。本実施形態において、第1警報と第2警報とは、少なくとも一つの対象物が検出された場合、警報解除信号に基づき、予め設定された解除順序にしたがって同時に解除される。なお、図14に示すように、第2警報は、同じ警報音レベルの警報領域を有している。このため、同じ警報音レベルの警報領域にまたがって第1警報及び第2警報が解除された場合、第1警報は解除されてモニタ50の表示が変更されるが、第2警報は解除されても警報音レベルは変化しないことがある。
 上述したように、周辺監視システム10は、ダンプトラック1のオペレータが警報解除スイッチ53を操作しないと警報を解除しない。このため、周辺監視システム10は、俯瞰画像200によってオペレータの運転支援をするにあたって、オペレータにダンプトラック1の周囲に存在する対象物としての物体をより確実に認識させることができる。
 警報報知部150は、警報解除部160が第1警報領域C11の警報を解除した後も、レーダ装置21~28が検出可能な場所に対象物が存在する限り、図16に示すように、第1警報領域C11に存在する指標MKaの表示を継続する。このようにすることで、警報が解除された後においてもダンプトラック1のオペレータに対して、ダンプトラック1の周囲には対象物が存在することを認識させることができる。なお、第1警報領域C11に対応する第1領域11Cに対象物が存在しなくなった場合、警報報知部150は、第1警報領域C11に指標MKaを表示しない。
 第1警報領域C11の警報が解除されると、コントローラ100は、処理をステップS108に進める。ステップS108において、コントローラ100、具体的には警報報知部150は、次の解除順序に対応する警報領域について、警報の報知の態様を変更し、かつ、その警報領域を他の警報領域とは異ならせて表示する。本例において、第1警報領域C11の次に警報が解除される警報領域は、第4警報領域C14である。このため、警報報知部150は、図16に示すように、第4警報領域C14の周囲及び第6警報領域C16の境界線OL4、OL6を強調して表示し、かつ第4警報領域C14の境界線OL4をブリンクすることで、第1警報を報知する。このとき、警報報知部150は、第6警報領域C16の境界線OL6はブリンクせず、強調した表示のみとする。また、警報報知部150は、第4警報領域C14に対応した警報音レベルで音発生装置52に警報音を出させることで、第2警報を報知する。この例において、第4警報領域C14に対応した警報音レベルは中(M)である。解除順序は優先度と同等なので、周辺監視システム10は、次の解除順序に対応する警報領域について警報の報知の態様が変更されることにより、ダンプトラック1のオペレータが次に注意すべき警報領域をより確実にオペレータに認識させることができる。
 次の解除順序に対応する警報領域について、警報の報知の態様が変更されたら、コントローラ100は、処理をステップS109に進める。ステップS109において、コントローラ100、具体的には表示制御部140は、次に警報が解除される位置に対応した画像を第2画像202Bとしてモニタ50に表示する。この処理により、警報解除スイッチ53が、ダンプトラック1のオペレータからの警報を解除するための入力を受け付けた後、かつ警報解除部160が警報を解除した後に、次に警報が解除される位置に対応した画像が、第2画像202Bとしてモニタ50に表示される。警報解除スイッチ53が、オペレータからの警報を解除するための入力を受け付けた後とは、警報解除制御の1回の処理ルーチンにおいて、警報解除部160が警報解除スイッチ53から警報解除信号の入力を受けた後である。
 本例において、次に警報が解除される位置は、第4警報領域C14である。したがって、第2画像202Bは、第4警報領域C14に対応した画像、すなわち、複数の撮像装置11~16が撮像した画像のうち、図5に示す第4領域14Cの画像となる(ステップS109)。図16には、第1警報領域C11の警報が解除された後におけるモニタ50の画面を示しているが、第2画像202Bは、第4警報領域C14に対応する第4領域14Cが撮像された画像が表示されている。この第2画像202Bには、指標MKbに対応する対象物として車両81の一部が表示されている。
 本実施形態において、次の解除順序に対応する警報領域について、警報の報知の態様が変更されたら、表示制御部140は、図16に示すように、警報の対象となっている位置、本例では第4警報領域C14及び第6警報領域C16を第3画像202Cに表示する(本例において、それらの警報領域が網目模様又はハッチングで示される)。警報が解除された第1警報領域C11は、既に警報の対象とはなっていないので、第3画像202Cには表示されない(本例において、第1警報領域C11は、無色あるいは単一色で示される)。表示制御部140は、撮像装置11~16によって撮像された画像が第2画像202Bとして表示されている第4警報領域C14を、第6警報領域C16とは異なる態様(図16では網目)で第3画像202Cに表示する。このようにすることで、ダンプトラック1のオペレータは、モニタ50に表示された第3画像202Cを視認することにより、第2画像202Bとして表示されている警報領域を直感的に認識することができる。第3画像202Cが表示されない場合、上述した第3画像202Cに対する処理は実行されない。
 第2画像202Bが切り替えられたら、次に、ステップS110において、コントローラ100、より具体的には警報解除部160は、入力数nに1を加算した値を新たな入力数nとする。次に、ステップS111に進み、コントローラ100、より具体的には警報解除部160は、入力数nと警報数Nとを比較する。警報数Nは、第1領域11C~第6領域16Cのうち対象物が存在する領域の数であり、指標MKa、MKb、MKcが表示されている警報領域の数である。本例において、Nは3である。
 ステップS111において、n≠N(nの値がNの値と等しくない関係)である場合(ステップS111、No)、コントローラ100はn=N(nの値とNの値とが等しい関係)になるまでステップS106からステップS110を繰り返す。本例において、ダンプトラック1のオペレータが第4警報領域C14の警報を解除するために警報解除スイッチ53を操作すると、警報解除スイッチ53から警報解除部160に対して2回目の警報解除信号の入力が発生する(ステップS106、Yes)。すると、コントローラ100がステップS107の処理を実行することにより、次の解除順序、すなわち第1警報領域C11の次に警報が解除される第4警報領域C14の警報が解除される。その結果、モニタ50には、図17に示すように、第4警報領域C14のブリンク及び強調した表示が停止された第1画像202Aが表示される。レーダ装置21~28が検出可能な場所に対象物(本例では、指標MKa、MKb)が存在する限り、指標MKa、MKbは、第1画像202Aに表示された状態が維持される。
 コントローラ100がステップS108を実行することにより、次の解除順序、すなわち第4警報領域C14の次に警報が解除される第6警報領域C16は、警報の報知の態様が変更される。具体的には、図17に示すように、第6警報領域C16の境界線OL6が特定の色(本例では赤色)で強調して表示され、かつブリンクされる。また、コントローラ100がステップS109を実行することにより、図17に示すように、第2画像202Bの表示が、第6警報領域C16に対応する第6領域16Cが撮像された画像に切り替えられる。この例では、第1画像202Aの第6警報領域C16に表示されている指標MKcに対応する対象物として、ダンプトラック1の後である第6領域16Cに存在する車両82が第2画像202Bに表示されている。さらに、第3画像202Cには、図17に示すように、警報の対象となっている位置、本例では第6警報領域C16が表示される(本例において、第6警報領域C16が網目模様で示される)。第6警報領域C16は、撮像装置11~16によって撮像された画像が第2画像202Bとして表示されている位置に対応している。
 次に、ステップS110において、警報解除部160は、入力数nに1を加算した値を新たな入力数nとする。本例ではn=2(nの値が2に等しい関係)となる。次に、ステップS111に進み、警報解除部160は、入力数nと警報数Nとを比較する。n=2なので、n≠N(nの値がNの値と等しくない関係)である(ステップS111、No)。したがって、コントローラ100はステップS106からステップS110を実行する。
 警報解除スイッチ53から警報解除部160に対して3回目の警報解除信号の入力が発生すると(ステップS106、Yes)、コントローラ100がステップS107の処理を実行することにより、次の解除順序、すなわち第4警報領域C14の次に警報が解除される第6警報領域C16の警報が解除される。その結果、モニタ50には、図18に示すように、第6警報領域C16のブリンク及び強調した表示が停止された第1画像202Aが表示される。レーダ装置21~28が検出可能な場所に対象物(本例では、指標MKa、MKb、MKc)が存在する限り、指標MKa、MKb、MKcは、第1画像202Aに表示された状態が維持される。
 コントローラ100がステップS108を実行することにより、次の解除順序に対応した第6警報領域C16は警報の報知の態様が変更される。しかし、本例では、最後の解除順序に対応する第6警報領域C16の警報が解除されるので、ステップS108はスキップされる。また、コントローラ100がステップS109を実行することにより、第2画像202Bの表示は、撮像装置11~16の少なくとも1つで撮像された画像のうち、次に警報が解除される位置に対応した画像に切り替えられる。しかし、本例では、解除順序が最下位である第6警報領域C16の警報が解除される。このため、次に警報が解除される警報領域は存在しないので、第2画像202Bは、次に警報が解除される警報領域に対応した、撮像された画像には切り替えられない。この場合、例えば、図18に示すように、第2画像202Bは、直近の画像のまま維持される。すなわち、撮像装置11~16の少なくとも1つで撮像された、第6警報領域C16に対応する第6領域C16の画像が第2画像202Bとして表示される。次に警報が解除される警報領域が存在しない場合、第3画像202Cは、図18に示すように、ダンプトラック1の周囲のうち、第2画像202Bとして表示されている警報領域の位置を表示する。
 また、次に警報が解除される警報領域が存在しない場合、表示制御部140は、撮像装置11~16の少なくとも1つで撮像された、ダンプトラック1の周囲に存在する対象物が写っている画像のうち、いずれか1つを第2画像202Bとして表示してもよい。この場合、表示制御部140は、優先度が最も高い警報領域に対応する位置又は方向に存在する対象物が写っている画像を第2画像202Bとしてモニタ50に表示してもよい。本例では、優先度は解除順序と同等なので、解除順序が第一位の警報領域、具体的には第1警報領域C11に対応する位置又は方向に存在する対象物が写っている画像を第2画像202Bとしてモニタ50に表示することになる。
 また、次に警報が解除される警報領域が存在しない場合、表示制御部140は、ダンプトラック1の状態に基づいて、ダンプトラック1の周囲に存在する対象物が写っている画像のうち、いずれか1つを第2画像202Bとして表示してもよい。例えば、ダンプトラック1の走行モードが前進(F)である場合、表示制御部140は、ダンプトラック1の前方である第1領域11C、第2領域12C又は第3領域13Cのうち対象物が存在する領域を、優先度(すなわち解除順序)に応じて第2画像202Bとして表示する。また、ダンプトラック1の走行モードが後進(R)である場合、表示制御部140は、ダンプトラック1の後方である第6領域16C、第4領域14C又は第5領域15Cのうち対象物が存在する領域を、優先度(すなわち解除順序)に応じて第2画像202Bとして表示する。
 さらに、警報の解除中に、対象物がダンプトラック1から離れて移動し、第1画像202Aに表示されていた指標MKが表示されなくなることがある。この場合、表示制御部140は、解除順序が最下位の警報領域における警報を解除した後において指標MKが存在する第1画像202Aの警報領域中、解除順序が第一位の警報領域に対応する位置又は方向に存在する対象物が写っている画像を、第2画像202Bとしてモニタ50に表示してもよい。
 次に、ステップS110において、警報解除部160は、入力数nに1を加算した値を新たな入力数nとする。本例ではn=3(nの値が3に等しい関係)となる。次に、ステップS111に進み、警報解除部160は、入力数nと警報数Nとを比較する。n=3なので、n=N(nの値とNの値が等しい関係)である(ステップS111、Yes)。この場合、すべての警報が解除されるので、コントローラ100は、本実施形態に係る警報解除制御を終了させる。次に、ダンプトラック1の周囲の対象物が移動して、第1画像202Aにおいて対象物に対応する指標MKが移動した場合を説明する。
<指標が移動した場合>
 図19、図20は、指標MKb、MKdが移動した場合を説明するための図である。例えば、第1画像202Aの第4警報領域C14に存在する指標MKbが移動することがある。また、ダンプトラック1に新たな対象物が接近し、第1画像202Aの警報領域(図19、図20に示す例では第5警報領域C15)に新たな指標MKdが表示されることがある。このような場合、コントローラ100、より具体的には表示制御部140は、指標MKb、MKdが存在する警報領域に対して、少なくとも第1警報を報知する。なお、図19の第1画像2Aに示す矢印は、説明の都合上、指標MKbあるいは指標MKdの移動を示すものであり、第1画像2Aにこれらの矢印が表示されるものではない。
 図3に示すコントローラ100、具体的には対象物位置情報生成部130が、レーダ装置21~28を介して、第4警報領域C14に存在する指標MKbに対応する対象物の移動を検出した場合、コントローラ100、より具体的には表示制御部140は、図19、図20に示すように、対象物の移動に応じて俯瞰画像200を含む第1画像202A中の指標MKbを移動させ、表示させる。図20に示すように、指標MKbが当初存在していた第4警報領域C14を超えて他の警報領域に入った場合、コントローラ100、具体的には警報報知部150は、少なくとも第1警報を報知する。第1警報は、指標MKbが存在する領域を、他の指標が存在しない領域とは異ならせて表示するので、例えば、警報報知部150は、第2警報領域C12の境界線OL2を赤色等で強調して表示する。図20に示す例では、指標MKbが第2警報領域C12へ移動した後は、当初指標MKbが存在した第4警報領域C14に他の指標は存在しないので、警報報知部150は、第4警報領域C14の境界線OL4を強調した表示を停止する。
 第2画像202Bは、複数の撮像装置11~16が撮像した画像のうち、最初に警報が解除される位置、すなわち解除順序が第一位の位置に対応した画像である。ダンプトラック1の走行モードが前進(F)である場合、解除順序が第一位の位置に相当する警報領域は、図13のデータテーブル41に示すように第1警報領域C11である。したがって、図20に示す例では、表示制御部140は、指標MKbが第2警報領域C12へ移動した後も、第1警報領域C11に対応する第1領域11Cの画像を第2画像202Bとしてモニタ50に表示している。第3画像202Cは、指標MKbの移動によって第1画像202Aと第2画像202Bとの少なくとも一方の表示が変更されると、この変更にしたがって表示が変更される。
 対象物に相当する指標MKbが当初存在していた警報領域から他の警報領域へ移動した結果、解除順序に変更があった場合は、変更後の解除順序にしたがって第2画像202Bが表示される。例えば、ダンプトラック1の走行モードが前進(F)であり、かつ第4領域14C及び第6領域16Cにのみ対象物が存在する場合を考える。この場合、図13のデータテーブル41に示すように、解除順序が第一位の位置に相当する警報領域は第4警報領域C14なので、第2画像202Bとして、第4警報領域C14に対応する第4領域14Cの画像がモニタ50に表示される。第4領域14Cの対象物の移動により、指標MKbが第2警報領域C12へ移動した場合、図13のデータテーブル41に示すように、解除順序が第一位の位置に相当する警報領域は第2警報領域C12になる。したがって、第2画像202Bとして、第2警報領域C12に対応する第2領域12Cの画像がモニタ50に表示される。
 第2警報も、対象物に相当する指標MKbが当初存在していた警報領域から他の警報領域へ移動した結果、解除順序に変更があった場合は、変更後の解除順序にしたがって報知される。例えば、ダンプトラック1の走行モードが前進(F)であり、かつ第4領域14C及び第6領域16Cにのみ対象物が存在する場合を考える。この場合、図13のデータテーブル41に示すように、解除順序が第一位の位置に相当する警報領域は第4警報領域C14なので、第2警報として警報音レベルが中(M)の警報音が報知される。第4領域14Cの対象物の移動により、指標MKbが第2警報領域C12へ移動した場合、図13のデータテーブル41に示すように、解除順序が第一位の位置に相当する警報領域は第2警報領域C12になる。したがって、第2警報として警報音レベルが高(H)の警報音が報知される。次に、第1画像202Aの警報領域に新たな指標MKdが表示される場合について説明する。
 図3に示すコントローラ100、具体的には対象物位置情報生成部130が、レーダ装置21~28を介して、ダンプトラック1に向かって移動する新たな対象物を検出した場合、コントローラ100、より具体的には表示制御部140は、図19、図20に示すように、対象物の移動に応じて俯瞰画像200を含む第1画像202A中に指標MKdを表示させる。コントローラ100、具体的には警報報知部150は、少なくとも第1警報を報知する。第1警報は、指標MKdが存在する領域を他の指標が存在しない領域とは異ならせて表示するので、例えば、警報報知部150は、指標MKdが存在する第5警報領域C15の境界線OL5を赤色等で強調して表示する。
 第2画像202Bは、複数の撮像装置11~16が撮像した画像のうち、最初に警報が解除される位置、すなわち解除順序が第一位の位置に対応した画像であり、ダンプトラック1の走行モードが前進(F)である場合は、第1警報領域C11である。したがって、図20に示す例では、表示制御部140は、指標MKdが第5警報領域C15に存在した後も、第1警報領域C11に対応する第1領域11Cの画像を第2画像202Bとしてモニタ50に表示する。第3画像202Cは、指標MKdの移動によって第1画像202Aと第2画像202Bとの少なくとも一方の表示が変更されると、この変更にしたがって表示が変更される。指標MKdが当初存在していた警報領域から他の警報領域へ移動した結果、解除順序に変更があった場合、変更後の解除順序にしたがって第2画像202Bが表示される点及び第2警報が報知される点は、上述した指標MKbが他の警報領域へ移動した場合と同様である。
 上述したように、対象物の移動により当初の警報領域から他の警報領域へ指標が移動した場合又は対象物の侵入によって警報領域に指標が新たに表示された場合は、周辺監視システム10のコントローラ100は、少なくとも第1警報を報知する。その結果、周辺監視システム10は、ダンプトラック1のオペレータに、ダンプトラック1の周辺に存在する対象物を確実に認識させることができる。
 なお、対象物の移動により当初の警報領域から他の警報領域へ指標が移動した場合、図9に示した警報解除制御は以下のように実行される。この場合は、ステップS101以降のいずれかのステップを処理中に指標が移動した状況であるが、レーダ装置21~28による対象物の検出(この場合、対象物の移動を検出したこと)に応じてコントローラ100は、警報解除制御をステップS101に戻し、新たに解除順序を設定する。
 一方、ダンプトラックの1の周辺に何も対象物がない状態で、対象物の侵入があった場合、図9に示した警報解除制御は、ステップS101から実行されるが、すでにいずれかの警報領域に対象物が存在している状態で、新たな対象物の進入があった場合、図9に示した警報解除制御は以下のように実行される。この場合は、ステップS101以降のいずれかのステップを処理中に指標が進入した状況であるが、レーダ装置21~28による対象物の検出(この場合、対象物の進入を検出したこと)に応じてコントローラ100は、警報解除制御を制御処理をステップS101に戻し、新たに解除順序を設定する。
 また、すでにいずれかの警報領域に対象物が存在している状態で、その対象物のいずれか一つがダンプトラック1から離れるように移動して警報の対象とならなくなった場合も考えられる。この場合も、図9に示した警報解除制御は、ステップS101以降のいずれかのステップを処理中に指標が移動した状況である。このような状況である場合、コントローラ100は、レーダ装置21~28による対象物の検出(この場合、対象物を検出しなくなったこと)に応じて警報解除制御の制御処理をステップS101に戻し、検出されている対象物に対応して新たに解除順序を設定する。
<他の制御例>
 上述した例では、モニタ50の同一の画面に第1画像202A、第2画像202B及び第3画像202Cを表示したが、表示制御部140は、第1画像202Aの表示を停止してこれを表示せず、第2画像202B及び第3画像202Cのみをモニタ50の同一の画面に表示してもよい。例えば、図示しない操作スイッチをオペレータが操作することで操作信号が生成され、その操作信号を表示制御部140が受けて、モニタ50に第2画像2B及び第3画像2Cのみを表示させることができる。また、オペレータがシフトレバー37を操作して走行モードを後進(R)に切り替えた際、シフトレバー37の位置を検出するセンサ37aからの信号を表示制御部140が受けて、モニタ50に第2画像2B及び第3画像2Cのみを表示させることもできる。これらの場合、表示制御部140は、モニタ50の第1画像202Aが表示されていた領域を利用して第2画像202Bを表示することが好ましい。このようにすることで、ダンプトラック1のオペレータは、ダンプトラック1の周囲における対象物の詳細を大きな画面で視認することができるので、ダンプトラック1の周囲の状況、対象物の大きさ及びその位置を確認しやすくなる。特に、ダンプトラック1が低速で前進又は後進している場合に第2画像2B及び第3画像2Cのみを表示することが好ましい。
 第2画像202B及び第3画像202Cのみをモニタ50の同一の画面に表示する場合、警報報知部150は、第3画像202Cを用いて第1警報を報知してもよい。例えば、警報報知部150は、解除順序が第一位の部分をブリンクさせたり、対象物が存在する領域に対応する部分に指標を表示したりする。このようにすることで、第1画像202Aの機能を第3画像202Cで補うことができる。また、警報報知部150は、第2画像202Bに対象物に相当する指標を表示してもよい。このようにすることで、ダンプトラック1のオペレータは、より確実に対象物を確認することができる。
 また、周辺監視システム10は、原則としてダンプトラック1が発進する前にオペレータに対して周辺の対象物を確認させるものであるが、ダンプトラック1が、ある程度の走行速度で走行中に、次に説明するようなモニタ50の表示を実行してもよい。ダンプトラック1がある程度の走行速度で走行している状態、言い換えればオペレータが周囲に対象物が接近していないことを認識した上で走行している状態のときに、この表示制御を実行してもよい。この場合、例えば、ダンプトラック1が後進しているときには、表示制御部140は、上述のようにシフトレバー37の位置を検出するセンサ37aからの信号を受けて、複数の撮像装置11~16が撮像した画像のうち、対象物の有無に関わらず、ダンプトラック1の後方の画像を第2画像202Bとしてモニタ50に表示してもよい。また、ダンプトラック1が前進している場合、表示制御部140は、上述のようにシフトレバー37の位置を検出するセンサ37aからの信号を受けて、複数の撮像装置11~16が撮像した画像のうち、対象物の有無に関わらず、ダンプトラック1の前方においてダンプトラック1の運転席31から死角となる範囲が最も大きい位置の画像を第2画像202Bとしてモニタ50に表示してもよい。このようにすることで、ダンプトラック1の後進時は、オペレータの死角であり、かつ最も注意すべき後側をモニタ50の第2画像202Bで確認できる。また、ダンプトラック1の前進時は、オペレータの死角となる範囲をモニタ50の第2画像202Bで確認できる。その結果、より周辺監視が確実となる。なお、ダンプトラック1の走行中において、周辺監視システム10は、ダンプトラック1の走行速度が低速(例えば、低速と判定するための閾値は5km/h)である場合に上述した警報解除制御を実行することが好ましい。
 なお、周辺監視システム10は、車速センサ54が検出した走行速度の大きさを示す信号を警報解除部160が受けて、ダンプトラック1が停止時にのみに警報解除制御が機能するようにコントローラ100が制御するようなものであってもよい。これに限定されず、ダンプトラック1の走行速度が低速(例えば、低速と判定するための閾値は5km/h)である場合にも上述した警報解除制御を実行することが可能であることが好ましい。つまり、オペレータがブレーキ操作により、完全にダンプトラック1を停止させなくても警報解除制御が機能するようにしていれば利便性に優れるからである。一方、ダンプトラック1がある程度の走行速度で走行している場合(例えば、低速と判定するための閾値5km/hを超えている場合)、レーダ装置21~28へ供給する電源を遮断し、対象物を検出しないようにして、警報解除制御そのものが実行不用となるようにする。
 なお、上述したように本実施形態においては、第2警報は、音であると説明したが、音に変えて、音声を用いてもよい。この場合、例えば、予めコントローラ100の図示しない記憶部に音声を記憶させておく。その音声は、図12~図14に示したように複数の種類が設定されており、走行モードと解除順序とに応じて音声をデータテーブルとして記憶させておく。例えば、警報音レベルが高(H)に対しては、「危険度が高いレベルである」ことを意味する音声を設定し、警報音レベルが中(M)に対しては、「危険度が中程度のレベルである」ことを意味する音声を設定し、警報音レベルが低(L)に対しては、「危険度が低いレベルである」ことを意味する音声を設定する。このように音声を用いる場合、オペレータが音声の言語を理解しなければならないため、ダンプトラック1が稼働する現場の現地語又はオペレータの母国語に切り替える設定が可能なようにすることが好ましい。
 以上、本実施形態において、周辺監視システム10は、ダンプトラック1の周囲に検出された対象物を示す指標を俯瞰画像に重ねた第1画像202Aと、撮像装置11~16が撮像した第2画像202Bとをモニタ50の同一の画面に表示し、第1画像202Aにおいて指標が存在する領域を他とは異ならせて表示する第1警報と、対象物の存在を音で報知する第2警報とを警報として報知する。そして、周辺監視システム10は、警報解除スイッチ53からの警報解除信号に基づき、対象物が存在する位置に基づいた解除順序にしたがって警報を解除する。このようにすることで、ダンプトラック1のオペレータに対して、警報によってダンプトラック1の周辺に存在する対象物を確実に把握させることができる。また、オペレータが警報解除スイッチ53を操作するにしたがい、解除順序にしたがって警報が解除されるので、オペレータは、対象物を確実、かつ逐次に認識することができる。すなわち、警報解除スイッチ53の操作は、オペレータが対象物の存在を認識した上での操作になるので、オペレータに対象物を認識させるために有効である。
 このように、周辺監視システム10は、複数の撮像装置が撮像した画像を合成した俯瞰画像200によって運転支援をするにあたって、オペレータにダンプトラック1の周囲に存在する対象物としての物体をより確実に認識させることができる。また、周辺監視システム10は、警報が解除された後も、対象物がダンプトラック1の周囲に存在する限りモニタ50に指標を表示し続ける。このため、オペレータはモニタ50を確認することにより、ダンプトラック1の周囲に存在する対象物の移動及び発生を認識することができる。
 周辺監視システム10は、警報を報知する際、第1警報としてのブリンク及び第2警報としての音を用いる。すなわち、周辺監視システム10は、視覚と聴覚との両方の手段を用いる。そして、周辺監視システム10は、警報の報知を開始する当初は高いレベルで報知し、警報を解除する際には第1警報及び第2警報を同時に解除する。ただし、指標は表示したままとする。このように、周辺監視システム10は、視覚と聴覚とに訴える警報によって、ダンプトラック1のオペレータに対して、ダンプトラック1の周辺に存在する対象物を確実に把握させることができる。また、周辺監視システム10は、警告を解除する場合を高いレベルから低いレベルに変化させるので、オペレータに対して対象物に払うべき注意のレベルを認識させることができる。さらに、第1警報と第2警報とが同時に解除されるので、警報音が鳴り続けてオペレータに煩わしさを感じさせる可能性を低減できる。また、第1警報と第2警報とを同時に解除しても、モニタ50に指標が表示されるので、オペレータに対して周囲対象物が存在することを認識させることができる。
 周辺監視システム10は、撮像装置11~16にワイドダイナミックレンジカメラを用いる。このため、撮像装置11~16は、明るい部分を視認できるレベルに保ちながら、ダンプトラック1の影になった部分のような暗い部分を明るく補正できる。したがって、撮像装置11~16が撮像した画像は、黒潰れ及び白飛びが起きにくくなり、全体としてより分かりやすい画像となる。その結果、撮像装置11~16を備える周辺監視システム10は、ダンプトラック1の影となる領域に存在する車両等の対象物が視認しやすくなった俯瞰画像200をモニタ50に表示することができる。このように、周辺監視システム10は、撮像装置11~16が撮像した画像を用いてダンプトラック1の周辺を監視するにあたって、明暗のコントラスト差が大きい環境においても、ダンプトラック1の周囲の対象物を俯瞰画像200に表示することができる。その結果、ダンプトラック1のオペレータは、ダンプトラック1の周囲、特に影となる領域に存在する対象物を、環境によらず、確実に視認することができる。
 このように、周辺監視システム10は、明暗のコントラスト差が大きい環境においても、ダンプトラック1の周囲の対象物を確実に表示する俯瞰画像200を生成することができるので、オペレータの死角に存在する対象物を、俯瞰画像200によって確実に視認できるようにすることができる。したがって、周辺監視システム10は、上述したような、鉱山で用いられる非常に大型のダンプトラック1の周辺を監視する際に非常に有効である。すなわち、ダンプトラック1は、非常に大きい影となる領域を形成する場合があり、かつ影となる領域を自身で作りながら移動し、さらにベッセル4の昇降によって影となる領域が大きく変化し、また、死角となる領域が大きい。周辺監視システム10は、このようなダンプトラック1において、ダンプトラック1の周囲の対象物を確実に表示する俯瞰画像200を生成して、ダンプトラック1のオペレータにダンプトラック1の周囲の正確な情報を提供できる。また、周辺監視システム10は、赤道直下のような日向と日陰との照度差が非常に大きくなるような場所で稼働するダンプトラック1に対して、ダンプトラック1のオペレータにダンプトラック1の周囲の正確な情報を提供できる。
 以上、本実施形態を説明したが、上述した内容により本実施形態が限定されるものではない。また、上述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、上述した構成要素は適宜組み合わせることが可能である。さらに、本実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換又は変更を行うことができる。
1 ダンプトラック
2 車体部
2a ロアデッキ
2b アッパデッキ
2f フレーム
2c、2d ラダー
3 キャブ
3a 支柱
4 ベッセル
4F 鍔部
5 前輪
6 後輪
10 周辺監視システム(作業車両用周辺監視システム)
11~16 撮像装置
21~28 レーダ装置
31 運転席
32 ハンドル
33 ダッシュカバー
34 無線装置
35 ラジオ受信機
36 リターダ
37 シフトレバー
37a センサ
38 トレーナー席
40、41、42 データテーブル
50 モニタ
51 コントロールパネル
52 音発生装置
53 警報解除スイッチ(警報解除指令部)
54 車速センサ
100 コントローラ
110 俯瞰画像合成部
120 カメラ画像切替・視点変換部
130 対象物位置情報生成部
140 表示制御部
150 警報報知部
160 警報解除部
200 俯瞰画像
202A 第1画像
202B 第2画像
202C 第3画像
210 対象物情報収集部
220 対象物処理部
MKa、MKb、MKc、MKd 指標
N 警報数
n 入力数

Claims (15)

  1.  作業車両に取り付けられて前記作業車両の周囲を撮像し、画像情報として出力する複数の撮像装置と、
     前記作業車両に取り付けられて前記作業車両の周囲に存在する対象物を検出する複数の物体検出装置と、
     複数の前記画像情報を取得し、取得した前記画像情報を合成して前記作業車両及びその周辺の俯瞰画像を表示装置に表示するための俯瞰画像情報を生成する俯瞰画像合成部と、
     前記物体検出装置が検出した対象物を示す指標を前記俯瞰画像情報に基づく前記俯瞰画像に重ねた第1画像と、前記撮像装置が撮像した第2画像とを表示装置の同一の画面に表示する表示制御部と、
     前記第1画像において前記指標が存在する領域を前記指標が存在しない領域とは異ならせて表示する第1警報と、前記対象物の存在を音で報知する第2警報との少なくとも一方又は両方を警報として報知する警報報知部と、
     前記警報を解除するための入力を受け付ける警報解除指令部と、
     前記警報解除指令部からの警報解除信号に基づき、前記対象物が存在する位置に基づいた解除順序にしたがって前記警報を解除する警報解除部と、
     を含むことを特徴とする作業車両用周辺監視システム。
  2.  前記警報解除部は、
     前記第1画像において前記指標が存在する領域を前記指標が存在しない領域と同様に表示することで前記第1警報を解除し、
     前記音を変更又は音を停止することで前記第2警報を解除することで前記警報を解除する、請求項1に記載の作業車両用周辺監視システム。
  3.  前記警報報知部は、前記解除順序に対応して前記警報の報知の態様を異ならせる、請求項1又は2に記載の作業車両用周辺監視システム。
  4.  前記表示制御部は、前記警報解除部が前記警報を解除した後も、前記表示制御部は前記指標の表示を継続する、請求項1から3のいずれか1項に記載の作業車両用周辺監視システム。
  5.  前記物体検出装置が前記対象物の移動を検出した場合、前記表示制御部は、前記対象物の移動に応じて前記俯瞰画像中の前記指標を移動させ、前記警報報知部は、少なくとも前記第1警報を報知する、請求項1から4のいずれか1項に記載の作業車両用周辺監視システム。
  6.  前記物体検出装置が新たな対象物を検出した場合、前記表示制御部は、前記新たな対象物を示す指標を前記第1画像に表示し、前記警報報知部は、少なくとも前記第1警報を報知する、請求項1から4のいずれか1項に記載の作業車両用周辺監視システム。
  7.  前記警報解除指令部が前記警報を解除するための入力を受け付ける前において、
     前記表示制御部は、前記複数の撮像装置が撮像した画像のうち、前記警報解除部が最初に前記警報を解除する位置に対応した画像を前記第2画像として前記表示装置に表示する、請求項1から6のいずれか1項に記載の作業車両用周辺監視システム。
  8.  前記警報解除指令部が前記警報を解除するための入力を受け付けた後に前記警報解除部が前記警報を解除した後において、
     前記表示制御部は、次に前記警報が解除される位置に対応した画像を前記第2画像として前記表示装置に表示する、請求項7に記載の作業車両用周辺監視システム。
  9.  前記警報解除部は、前記作業車両の状態に応じて前記解除順序を変更する、請求項1から8のいずれか1項に記載の作業車両用周辺監視システム。
  10.  前記表示制御部は、前記警報の対象となっている位置と、前記第2画像が前記表示装置に表示されている位置との少なくとも一方を示す第3画像を、前記表示装置の同一の画面に表示する、請求項1から9のいずれか1項に記載の作業車両用周辺監視システム。
  11.  前記表示制御部は、前記表示装置への前記第1画像の表示を停止し、かつ前記指標を表示した前記第2画像及び前記第3画像のみを前記表示装置の同一の画面に表示する、請求項10に記載の作業車両用周辺監視システム。
  12.  前記作業車両が後進している場合、
     前記表示制御部は、前記複数の撮像装置が撮像した画像のうち、前記作業車両の後方の画像を前記第2画像として前記表示装置に表示し、
     前記作業車両が前進している場合、
     前記表示制御部は、前記複数の撮像装置が撮像した画像のうち、前記作業車両の前方において前記作業車両の運転席から死角となる範囲が最も大きい位置の画像を前記第2画像として前記表示装置に表示する、請求項1から11のいずれか1項に記載の作業車両用周辺監視システム。
  13.  少なくとも一つの前記対象物が検出された場合、前記第1警報と前記第2警報とは、前記警報解除信号に基づき同時に解除される、請求項1から12のいずれか1項に記載の作業車両用周辺監視システム。
  14.  作業車両に取り付けられて前記作業車両の周囲を撮像し、画像情報として出力する複数の撮像装置と、
     前記作業車両に取り付けられて前記作業車両の周囲に存在する対象物を検出する複数の物体検出装置と、
     複数の前記画像情報を取得し、取得した前記画像情報を合成して前記作業車両及びその周辺の俯瞰画像を表示装置に表示するための俯瞰画像情報を生成する俯瞰画像合成部と、
     前記物体検出装置が検出した対象物を示す指標を前記俯瞰画像情報に基づく前記俯瞰画像に重ねた第1画像と、前記撮像装置が撮像した第2画像とを表示装置の同一の画面に表示する表示制御部と、
     前記第1画像において前記指標が存在する領域を前記指標が存在しない領域とは異ならせて表示し、かつ前記対象物の存在を音で報知することにより警報を報知する警報報知部と、
     前記警報を解除するための入力を受け付ける警報解除指令部と、
     前記警報解除指令部からの警報解除信号に基づき、前記対象物が存在する位置に基づいた解除順序にしたがって前記警報を解除する警報解除部と、
     を含み、
     前記表示制御部は、前記警報が報知される対象の位置と、前記第2画像が前記表示装置に表示されている位置との少なくとも一方を表示する第3画像を、前記表示装置の同一の画面に表示し、かつ前記警報解除部が前記警報を解除した後も、前記表示制御部は前記指標の表示を継続することを特徴とする作業車両用周辺監視システム。
  15.  請求項1から14のいずれか1項に記載の作業車両用周辺監視システムを備えたことを特徴とする作業車両。
PCT/JP2012/081204 2012-09-20 2012-11-30 作業車両用周辺監視システム及び作業車両 WO2014045466A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US13/992,854 US9333915B2 (en) 2012-09-20 2012-11-30 Work vehicle periphery monitoring system and work vehicle
CA2817857A CA2817857C (en) 2012-09-20 2012-11-30 Work vehicle periphery monitoring system and work vehicle
CN201280004064.8A CN103827943B (zh) 2012-09-20 2012-11-30 工作车辆用周边监视系统以及工作车辆

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012207563A JP5456123B1 (ja) 2012-09-20 2012-09-20 作業車両用周辺監視システム及び作業車両
JP2012-207563 2012-09-20

Publications (1)

Publication Number Publication Date
WO2014045466A1 true WO2014045466A1 (ja) 2014-03-27

Family

ID=50340810

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/081204 WO2014045466A1 (ja) 2012-09-20 2012-11-30 作業車両用周辺監視システム及び作業車両

Country Status (4)

Country Link
US (1) US9333915B2 (ja)
JP (1) JP5456123B1 (ja)
CN (1) CN103827943B (ja)
WO (1) WO2014045466A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019153932A (ja) * 2018-03-02 2019-09-12 アイシン精機株式会社 汚れ報知装置

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5667594B2 (ja) * 2012-03-15 2015-02-12 株式会社小松製作所 障害物検出機構付きダンプトラックおよびその障害物検出方法
DE102014107235A1 (de) * 2014-05-22 2015-11-26 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren zur Darstellung einer Fahrzeugumgebung auf einer Anzeigevorrichtung; eine Anzeigevorrichtung; ein System aus einer Mehrzahl an Bilderfassungseinheiten und einer Anzeigevorrichtung; ein Computerprogramm
JP6406175B2 (ja) * 2015-08-27 2018-10-17 株式会社デンソー 車載表示制御装置、車載表示制御方法
CN105206111A (zh) * 2015-09-18 2015-12-30 江苏中利电子信息科技有限公司 一种道路作业雷达预警防护系统
DE102015116574A1 (de) * 2015-09-30 2017-03-30 Claas E-Systems Kgaa Mbh & Co Kg Selbstfahrende landwirtschaftliche Arbeitsmaschine
JP2017074871A (ja) * 2015-10-15 2017-04-20 日立建機株式会社 車両周囲障害物検出装置
KR101683653B1 (ko) * 2015-11-26 2016-12-07 현대자동차주식회사 전장음 평가 영상 제작 방법, 및 전장음 평가 시스템
JP6096980B2 (ja) 2015-12-18 2017-03-15 株式会社小松製作所 施工情報表示装置および施工情報の表示方法
JP6679939B2 (ja) * 2016-01-13 2020-04-15 株式会社Jvcケンウッド 車両用表示装置および車両用表示方法
JP6659367B2 (ja) * 2016-01-15 2020-03-04 パナソニック株式会社 物体検出装置および物体検出方法
KR102484103B1 (ko) * 2016-02-23 2023-01-04 현대두산인프라코어(주) 표시 시스템
JP7012643B2 (ja) 2016-07-04 2022-02-14 住友建機株式会社 ショベル
JP6727971B2 (ja) * 2016-07-19 2020-07-22 株式会社クボタ 作業車
US11423783B2 (en) * 2016-08-30 2022-08-23 Hyundai Motor Company Apparatus and method for implementing LCDAS
EP3293717B1 (en) * 2016-09-08 2021-11-10 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH An electronically controlled braking system
DE102016224510A1 (de) * 2016-12-08 2018-06-14 Audi Ag Verfahren zur Bereitstellung von Ergebnisdaten, die von einem Kraftfahrzeugumfeld abhängen
JP2018120467A (ja) * 2017-01-26 2018-08-02 日野自動車株式会社 車両用警報発生装置
WO2018151280A1 (ja) * 2017-02-17 2018-08-23 住友重機械工業株式会社 作業機械用周辺監視システム
CN106875746B (zh) * 2017-02-27 2020-09-29 山东师范大学 一种汽车安全驾驶预警系统与方法
JP6581139B2 (ja) 2017-03-31 2019-09-25 日立建機株式会社 作業機械の周囲監視装置
JP6819462B2 (ja) * 2017-05-30 2021-01-27 コベルコ建機株式会社 作業機械
CN108172004A (zh) * 2017-11-30 2018-06-15 广州华夏职业学院 一种用于车辆中红绿灯提醒装置及系统
JP7039983B2 (ja) * 2017-12-13 2022-03-23 コベルコ建機株式会社 建設機械用の注意喚起装置
JP7123573B2 (ja) * 2018-02-28 2022-08-23 株式会社小松製作所 周辺監視装置、作業機械、周辺監視の制御方法及び表示装置
EP3572590B1 (en) * 2018-03-14 2022-02-09 Hitachi Construction Machinery Co., Ltd. Work machine
JP7127313B2 (ja) * 2018-03-19 2022-08-30 コベルコ建機株式会社 建設機械
JP7070047B2 (ja) * 2018-04-26 2022-05-18 コベルコ建機株式会社 旋回式作業機械の旋回制御装置
JP7160606B2 (ja) * 2018-09-10 2022-10-25 株式会社小松製作所 作業機械の制御システム及び方法
CN112740007B (zh) * 2018-09-21 2023-06-30 本田技研工业株式会社 车辆检查系统
US11138449B2 (en) * 2018-09-28 2021-10-05 Intel Corporation Obstacle representation display
JP7283070B2 (ja) * 2018-12-19 2023-05-30 コベルコ建機株式会社 作業機械用周辺監視装置
JP7259356B2 (ja) * 2019-01-28 2023-04-18 スズキ株式会社 制御装置及び電動車両
JP2020136914A (ja) * 2019-02-20 2020-08-31 コベルコ建機株式会社 作業機械用周辺監視装置
EP3722522B1 (en) * 2019-04-11 2024-03-27 Mitsubishi Logisnext Co., Ltd. Control device, control method, and program
WO2021001913A1 (ja) * 2019-07-02 2021-01-07 株式会社C-t-i 警備装置及び警備システム
JP7308089B2 (ja) * 2019-07-18 2023-07-13 株式会社小松製作所 作業車両の表示システムおよび作業車両の表示方法
US11320830B2 (en) 2019-10-28 2022-05-03 Deere & Company Probabilistic decision support for obstacle detection and classification in a working area
JP7322728B2 (ja) * 2020-01-30 2023-08-08 いすゞ自動車株式会社 報知装置
JP6901710B1 (ja) * 2020-02-26 2021-07-14 日本道路株式会社 安全装置および作業機械
CN111526337B (zh) * 2020-05-08 2021-12-17 三一重机有限公司 一种工程机械的预警系统、预警方法及工程机械
JP2022156078A (ja) * 2021-03-31 2022-10-14 本田技研工業株式会社 交通システム
US20220410803A1 (en) * 2021-06-23 2022-12-29 Caterpillar Paving Products Inc. Asphalt compactor birds eye camera integration
WO2023037936A1 (ja) * 2021-09-08 2023-03-16 株式会社タダノ 作業車両

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000344465A (ja) * 1999-05-31 2000-12-12 Kobelco Contstruction Machinery Ltd ホイール式作業機械並びにその走行操作方法
JP2004161215A (ja) * 2002-11-15 2004-06-10 Auto Network Gijutsu Kenkyusho:Kk 車載カメラシステム
WO2006106685A1 (ja) * 2005-03-31 2006-10-12 Hitachi Construction Machinery Co., Ltd. 作業機械の周囲監視装置
JP2008254710A (ja) * 2007-04-09 2008-10-23 Fujitsu Ten Ltd 障害物検知装置
WO2011114638A1 (ja) * 2010-03-19 2011-09-22 パナソニック株式会社 車両周囲監視装置および車両周囲監視方法
WO2011118260A1 (ja) * 2010-03-26 2011-09-29 アイシン精機株式会社 車両周辺監視装置
WO2011158955A1 (ja) * 2010-06-18 2011-12-22 日立建機株式会社 作業機械の周囲監視装置
WO2012043522A1 (ja) * 2010-09-29 2012-04-05 日立建機株式会社 作業機械の周囲監視装置
WO2012053105A1 (ja) * 2010-10-22 2012-04-26 日立建機株式会社 作業機械の周辺監視装置

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6772057B2 (en) * 1995-06-07 2004-08-03 Automotive Technologies International, Inc. Vehicular monitoring systems using image processing
US5670935A (en) * 1993-02-26 1997-09-23 Donnelly Corporation Rearview vision system for vehicle including panoramic view
JP3744002B2 (ja) * 2002-10-04 2006-02-08 ソニー株式会社 表示装置、撮像装置、および撮像/表示システム
JP3800172B2 (ja) * 2002-12-24 2006-07-26 トヨタ自動車株式会社 車両用周辺監視装置
US20050031169A1 (en) * 2003-08-09 2005-02-10 Alan Shulman Birds eye view virtual imaging for real time composited wide field of view
US7330117B2 (en) * 2004-08-25 2008-02-12 Caterpillar Inc. Systems and methods for radio frequency trigger
US7348895B2 (en) * 2004-11-03 2008-03-25 Lagassey Paul J Advanced automobile accident detection, data recordation and reporting system
JP4670488B2 (ja) * 2005-06-03 2011-04-13 日立建機株式会社 建設機械の後方監視装置
JP4463757B2 (ja) * 2005-12-09 2010-05-19 株式会社小松製作所 車両の走行制御装置
JP4807104B2 (ja) 2006-03-01 2011-11-02 日産自動車株式会社 車両周囲監視システム及び画像表示方法
US20070233326A1 (en) * 2006-03-31 2007-10-04 Caterpillar Inc. Engine self-tuning methods and systems
US7728879B2 (en) * 2006-08-21 2010-06-01 Sanyo Electric Co., Ltd. Image processor and visual field support device
JP4879031B2 (ja) * 2007-01-11 2012-02-15 三洋電機株式会社 運転支援システム、画像処理装置及びずれ検出方法
JP2008187564A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP2008271308A (ja) * 2007-04-23 2008-11-06 Sanyo Electric Co Ltd 画像処理装置及び方法並びに車両
WO2008140360A1 (en) * 2007-05-10 2008-11-20 Volvo Construction Equipment Ab A method for controlling a work machine during operation in a repeated work cycle
EP3333831A1 (en) * 2007-07-13 2018-06-13 Volvo Construction Equipment AB A work machine
JP4458138B2 (ja) * 2007-09-18 2010-04-28 株式会社デンソー 車両周辺監視装置
US8146798B2 (en) * 2008-11-07 2012-04-03 Advanced Custom Engineered Systems & Equipment Co. Method and apparatus for monitoring waste removal and administration
JP5227841B2 (ja) 2009-02-27 2013-07-03 日立建機株式会社 周囲監視装置
JP5035321B2 (ja) * 2009-11-02 2012-09-26 株式会社デンソー 車両周辺表示制御装置および車両周辺表示制御装置用のプログラム
JP5124671B2 (ja) * 2011-06-07 2013-01-23 株式会社小松製作所 作業車両の周辺監視装置
JP5597596B2 (ja) * 2011-06-07 2014-10-01 株式会社小松製作所 作業車両の周辺監視装置
JP5722127B2 (ja) * 2011-06-07 2015-05-20 株式会社小松製作所 作業車両の周辺監視装置
JP5587499B2 (ja) * 2011-06-07 2014-09-10 株式会社小松製作所 作業車両の周辺監視装置
JP5124672B2 (ja) * 2011-06-07 2013-01-23 株式会社小松製作所 作業車両の周辺監視装置
CN202248033U (zh) * 2011-09-14 2012-05-30 鞍钢集团矿业公司 电铲回转区域监控装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000344465A (ja) * 1999-05-31 2000-12-12 Kobelco Contstruction Machinery Ltd ホイール式作業機械並びにその走行操作方法
JP2004161215A (ja) * 2002-11-15 2004-06-10 Auto Network Gijutsu Kenkyusho:Kk 車載カメラシステム
WO2006106685A1 (ja) * 2005-03-31 2006-10-12 Hitachi Construction Machinery Co., Ltd. 作業機械の周囲監視装置
JP2008254710A (ja) * 2007-04-09 2008-10-23 Fujitsu Ten Ltd 障害物検知装置
WO2011114638A1 (ja) * 2010-03-19 2011-09-22 パナソニック株式会社 車両周囲監視装置および車両周囲監視方法
WO2011118260A1 (ja) * 2010-03-26 2011-09-29 アイシン精機株式会社 車両周辺監視装置
WO2011158955A1 (ja) * 2010-06-18 2011-12-22 日立建機株式会社 作業機械の周囲監視装置
WO2012043522A1 (ja) * 2010-09-29 2012-04-05 日立建機株式会社 作業機械の周囲監視装置
WO2012053105A1 (ja) * 2010-10-22 2012-04-26 日立建機株式会社 作業機械の周辺監視装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019153932A (ja) * 2018-03-02 2019-09-12 アイシン精機株式会社 汚れ報知装置

Also Published As

Publication number Publication date
US9333915B2 (en) 2016-05-10
US20150183370A1 (en) 2015-07-02
JP5456123B1 (ja) 2014-03-26
JP2014064144A (ja) 2014-04-10
CN103827943B (zh) 2015-06-10
CN103827943A (zh) 2014-05-28

Similar Documents

Publication Publication Date Title
JP5456123B1 (ja) 作業車両用周辺監視システム及び作業車両
JP5643272B2 (ja) 作業車両用周辺監視システム及び作業車両
JP5529943B2 (ja) 作業車両用周辺監視システム及び作業車両
JP5629740B2 (ja) 作業車両用周辺監視システム及び作業車両
JP5411976B1 (ja) 作業車両用周辺監視システム及び作業車両
JP5324690B1 (ja) 作業車両用周辺監視システム及び作業車両
JP6267972B2 (ja) 作業機械の周囲監視装置
JP5550695B2 (ja) 作業車両用周辺監視システム及び作業車両
JP5781978B2 (ja) ダンプトラック
JP5926315B2 (ja) 作業車両用周辺監視システム及び作業車両
JP5595565B2 (ja) 作業車両用周辺監視システム、作業車両及び作業車両用周辺監視方法
JP5788048B2 (ja) 作業車両用周辺監視システム及び作業車両
JP5990237B2 (ja) ダンプトラック用周辺監視システム及びダンプトラック
JP5823553B2 (ja) 作業車両用周辺監視システム及び作業車両
CA2817857C (en) Work vehicle periphery monitoring system and work vehicle
JP5964353B2 (ja) ダンプトラック
CA2817869C (en) Work vehicle periphery monitoring system and work vehicle
CA2815838C (en) Work vehicle periphery monitoring system and work vehicle

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 13992854

Country of ref document: US

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12885132

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12885132

Country of ref document: EP

Kind code of ref document: A1