WO2017022042A1 - 作業機械の表示システム、および作業機械の表示方法 - Google Patents

作業機械の表示システム、および作業機械の表示方法 Download PDF

Info

Publication number
WO2017022042A1
WO2017022042A1 PCT/JP2015/071886 JP2015071886W WO2017022042A1 WO 2017022042 A1 WO2017022042 A1 WO 2017022042A1 JP 2015071886 W JP2015071886 W JP 2015071886W WO 2017022042 A1 WO2017022042 A1 WO 2017022042A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
control unit
work machine
time
display
Prior art date
Application number
PCT/JP2015/071886
Other languages
English (en)
French (fr)
Inventor
陽介 奥村
剛宏 柴田
Original Assignee
株式会社小松製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社小松製作所 filed Critical 株式会社小松製作所
Priority to CN201580078750.3A priority Critical patent/CN107431783A/zh
Priority to US15/561,203 priority patent/US20180295357A1/en
Priority to JP2017532270A priority patent/JP6577034B2/ja
Priority to KR1020177026226A priority patent/KR20170118831A/ko
Priority to PCT/JP2015/071886 priority patent/WO2017022042A1/ja
Priority to KR1020197018050A priority patent/KR102027395B1/ko
Priority to DE112015006345.5T priority patent/DE112015006345T5/de
Publication of WO2017022042A1 publication Critical patent/WO2017022042A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H04N17/04—Diagnosis, testing or measuring for television systems or their details for receivers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • E—FIXED CONSTRUCTIONS
    • E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02F—DREDGING; SOIL-SHIFTING
    • E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24—Safety devices, e.g. for preventing overload
    • E—FIXED CONSTRUCTIONS
    • E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02F—DREDGING; SOIL-SHIFTING
    • E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26—Indicating devices
    • E—FIXED CONSTRUCTIONS
    • E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02F—DREDGING; SOIL-SHIFTING
    • E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26—Indicating devices
    • E02F9/261—Surveying the work-site to be treated
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Definitions

  • the present invention relates to a work machine display system and a work machine display method capable of quickly grasping an abnormality in a predetermined process of a peripheral monitoring control unit (display control unit) including an image processing unit with a simple configuration.
  • multiple cameras are installed behind the vehicle body and on the side of the vehicle body so that the operator can visually recognize obstacles around the vehicle body. There is something that is projected on the monitor in the cab of the work machine.
  • an apparatus that generates an overhead view image by converting an image of each camera into an upper viewpoint and then combining the images of each camera so that the surroundings of the vehicle body can be simultaneously monitored and displayed on the monitor.
  • Patent Document 1 describes that an icon indicating the arrangement position of a camera that has acquired a selected single camera image is displayed on the image. Thereby, it is possible to easily recognize which camera is a single camera image acquired by.
  • image processing such as generating a bird's-eye view image is a work with a heavy load, and therefore processing by a monitor control unit for displaying machine gauge information (such as engine water temperature and fuel remaining amount) on a display unit such as a monitor in general.
  • machine gauge information such as engine water temperature and fuel remaining amount
  • processing is performed by an image processing controller (periphery monitoring control unit) having a general-purpose image processing accelerator that is separate from the monitor.
  • the overhead image generated by the image processing controller is output as a video signal to the display unit of the monitor, and the overhead image is displayed on the display unit.
  • the image processing controller sends the same overhead image to the display unit even though the scene captured by the camera is changing, such as when the work machine is moving. There is a possibility to continue. In this case, the operator has detected that a failure has occurred in the image processing controller as long as the overhead image is displayed for the operator, even though the proper images captured by the plurality of cameras cannot be displayed on the display unit. I can't notice.
  • the present invention has been made in view of the above, and is a display of a work machine that can quickly grasp an abnormality of a predetermined process of a peripheral monitoring control unit (display control unit) including an image processing unit with a simple configuration. It is an object to provide a system and a display method of a work machine.
  • a display system for a work machine generates one or a plurality of cameras that acquire the surrounding state of the work machine, a time-change image, and the 1
  • a display control unit that outputs an image obtained by performing predetermined processing on an image captured by one or a plurality of cameras as a video signal, and the time-change image and the predetermined image based on the video signal output from the display control unit
  • a monitor that displays the processed image, and an abnormality determination unit that determines that an abnormality has occurred in the display control unit when the time-change image does not change for a predetermined time.
  • the display system for a work machine is characterized in that, in the above invention, the display control unit and the abnormality determination unit are provided in separate controllers, respectively.
  • the image subjected to the predetermined process by the display control unit is a single camera image and / or an overhead image.
  • the work machine display system is characterized in that, in the above-mentioned invention, the abnormality determination unit notifies when an abnormality has occurred in the display control unit.
  • the notification includes displaying a message or an icon on the monitor informing the display control unit that an abnormality has occurred.
  • the time-change image generated by the display control unit is provided in an outer frame of a single camera image position icon.
  • the work machine display system is characterized in that, in the above invention, the time-change image generated by the display control unit is provided in a display area of a single camera image or an overhead image or a peripheral area thereof. To do.
  • the time-change image generated by the display control unit is provided in any one of the composite video display regions generated by the display control unit. It is characterized by.
  • the abnormality determination unit is characterized by determining abnormality in units of images.
  • a display method for a work machine includes one or a plurality of cameras that acquire a surrounding state of the work machine, and a monitor that displays predetermined information.
  • a display control step for outputting an image obtained by performing predetermined processing on an image captured by one or a plurality of cameras as a video signal, and the time-change image and the predetermined image based on the video signal output from the display control step.
  • the periphery monitoring control unit as the display control unit generates a time-change image and outputs an image obtained by performing predetermined processing on images captured by a plurality of cameras as a video signal, and the display unit The time change image and the image subjected to the predetermined process are displayed based on the video signal output from the periphery monitoring control unit, and the monitor control unit as the abnormality determination unit displays the time change image for a predetermined time. If there is no change, it is determined and notified that an abnormality has occurred in the predetermined processing of the peripheral monitoring control unit, so that the operator can quickly grasp the abnormalities in the predetermined processing of the peripheral monitoring control unit with a simple configuration. it can.
  • FIG. 1 is a perspective view showing an overall configuration of a hydraulic excavator on which a working machine periphery monitoring device according to an embodiment of the present invention is mounted.
  • FIG. 2 is a diagram showing the internal arrangement of the cab.
  • FIG. 3 is a plan view showing the arrangement of the cameras.
  • FIG. 4 is a block diagram showing a detailed configuration of the entire control system of the hydraulic excavator and the periphery monitoring control unit.
  • FIG. 5 is an explanatory diagram illustrating the overhead image generation processing by the overhead image generation unit.
  • FIG. 6 is a diagram illustrating an example of a time change image.
  • FIG. 7 is a diagram illustrating a state in which the standard screen is displayed on the display unit of the monitor.
  • FIG. 8 is a flowchart showing an abnormality processing procedure of the periphery monitoring control unit by the monitor control unit.
  • FIG. 1 is a perspective view showing an overall configuration of a hydraulic excavator on which a work machine periphery monitoring device according to an embodiment of the present invention is mounted.
  • the hydraulic excavator 1 is a hydraulic excavator shown as an example of a work machine.
  • the hydraulic excavator 1 includes a self-propelled lower traveling body 2, an upper revolving body 3 that is pivotably installed on the lower traveling body 2, and a working machine that bends and undulates at the front center of the upper revolving body 3. 4.
  • the work machine 4 includes a boom 4a, an arm 4b, a bucket 4c, a boom cylinder 4d, an arm cylinder 4e, and a bucket cylinder 4f.
  • the driver's cab 6 is installed in the front left part of the upper swing body 3.
  • a power container 7 is mounted on the rear part of the upper swing body 3.
  • an engine, a hydraulic pump, a radiator, an oil cooler, and the like are accommodated.
  • a counterweight 8 is attached to the rear end portion of the upper swing body 3.
  • FIG. 2 is a diagram showing the internal arrangement of the cab 6.
  • the operation levers 11 and 12 are disposed on the left and right of the operator seat 10 in the cab 6, for example.
  • the operation lever 11 corresponds to the turning operation of the upper swing body 3 and the operation of the arm 4b
  • the operation lever 12 corresponds to the operation of the boom 4a and the operation of the bucket 4c.
  • the combination of the operation of the operation levers 11 and 12 and which work machine is operated is not limited to that of the present embodiment.
  • the traveling lever 13 and the traveling lever 14 can perform forward and backward movement of the left and right crawler tracks of the lower traveling body 2 according to the operation.
  • a monitor 15 is disposed in front of the cab 6.
  • the monitor 15 includes a display unit 16 and an operation unit 17.
  • the display unit 16 is a display device such as a liquid crystal display, and shows various information including the state of the engine, the hydraulic pump, etc., for example, mechanical information such as engine water temperature, oil temperature, remaining amount of fuel, and warnings indicating device abnormalities. Information, menu screens, maintenance screens, etc. can be displayed.
  • the monitor 15 displays an image (single camera image) taken by a camera, which will be described later, or an image (overhead image) generated by combining a plurality of camera images after being converted into an upper viewpoint. Can do.
  • the operation unit 17 includes a function switch having a plurality of functions corresponding to the display content of the display unit 16, and a switch for performing various settings such as a work mode, a travel mode, and an air conditioner.
  • the monitor 15 may be configured by a touch panel in which the display unit 16 and the operation unit 17 are integrated. Further, the operation unit 17 may be provided separately from the display unit 16 and the operation unit 17 may be provided in another place in the cab.
  • the cameras C1 to C4 are attached to the upper swing body 3.
  • the camera C ⁇ b> 1 is attached to the rear of the upper swing body 3 and images the rear of the upper swing body 3.
  • the camera C ⁇ b> 2 is attached to the right side of the upper swing body 3 and images the right rear of the upper swing body 3.
  • the camera C3 is attached to the right side of the upper swing body 3 and images the right front of the upper swing body 3.
  • the camera C4 is attached to the left side of the upper swing body 3 and images the left side of the upper swing body 3.
  • each of the cameras C1 to C4 has a visual field range of a predetermined angle in the left-right direction and the height direction.
  • a CCD (Charge-Coupled Device) camera can be used as the camera.
  • Each of the cameras C1 to C4 may have a wide dynamic range function.
  • FIG. 4 is a block diagram showing a configuration of the entire control system of the hydraulic excavator 1.
  • the periphery monitoring control unit 40 display control unit
  • the communication control unit 42 communication control unit
  • the monitor control unit 43 abnormality determination unit
  • the engine control unit 44 the pump control unit 45, etc.
  • the monitor control unit 43 is connected to the monitor 15 and functions as a display control unit for the monitor 15.
  • the monitor control unit 43 performs input / output control of various information of the work machine such as information transmitted from various sensors via the CAN 41 and information input via a switch provided on the monitor 15.
  • the monitor 15 can perform control to display machine information such as engine water temperature, oil temperature, and remaining amount of fuel, warning information indicating an abnormality of the device, a menu screen, a maintenance screen, and the like.
  • the peripheral monitoring control unit 40 is connected to the camera group C composed of a plurality of cameras C1 to C4 and the monitor 15, and, as will be described later, the single camera image and the overhead view image of any of the plurality of cameras. Output the combined image to the monitor.
  • the periphery monitoring control unit 40 includes an image processing unit 51 and a display control unit 53. Further, the image processing unit 51 includes an overhead image generation unit 54, a single camera image generation unit 58, a time change image generation unit 55, and an image composition unit 56.
  • the overhead image generation unit 54 generates an overhead image 61 based on the images obtained from the cameras C1 to C4. As shown in FIG. 5, the overhead image generation unit 54 converts the images P1 to P4 obtained from the cameras C1 to C4 into an upper viewpoint image. That is, the overhead image generation unit 54 converts the image into an image viewed from a predetermined virtual viewpoint located above the excavator 1.
  • the overhead image generation unit 54 performs image conversion to be projected from a virtual viewpoint above the excavator 1 onto a predetermined virtual projection plane corresponding to the ground level. Thereafter, the overhead image generation unit 54 cuts out the converted images P11 to P14 corresponding to the regions E1 to E4 of the frame displaying the overhead image, and synthesizes the converted images P11 to P14 in the frame.
  • the bird's-eye view image 61 generated by the bird's-eye view image generation unit 54 is preliminarily pasted with an image P viewed from the top of the hydraulic excavator 1 so that the positional relationship with the hydraulic excavator is clear.
  • the information of the bird's-eye view image 61 is input to the image composition unit 56. Note that since the region E0 is visible from the cab 6, no overhead image is generated.
  • four cameras C1 to C4 are used. However, any number of cameras may be used, for example, three cameras C1, C2, and C4 may be used. In this case, the camera C2 images the right side in the same manner as the camera C4.
  • the single camera image generation unit 58 outputs the single camera image 62 of any one of the images captured by the cameras C1 to C4 to the image composition unit 56. Specifically, when the operation unit 17 switches the single camera image 62 by the operator, the signal is transmitted to the single camera image generation unit 58 via the monitor control unit 43 and the CAN 41, and the single camera image generation unit 58 outputs the single camera image 62 of the corresponding camera that has received the command to the image composition unit 56.
  • the time change image generation unit 55 generates a time change image 63 that changes with time.
  • the single camera image position icon 70 in the time change image 63 shown in FIG. 6 indicates which direction (rear, right rear, right front) the single camera image 62 displayed on the display unit 16 of the monitor 15 is relative to the excavator.
  • the rectangle at the center of the single camera image position icon 70 represents a plan view of the excavator, and the area corresponding to the direction of the single camera image displayed with the upper side of the single camera image position icon 70 as the front side is colored. It is displayed at the beginning.
  • FIGS. 6 and 7 show that a single camera image of a rear camera that captures the lower area of the central rectangle, that is, the rear of the excavator is displayed.
  • the outer frame 71 of the single camera image position icon 70 blinks with a predetermined color as time passes. For example, the outer frame 71 is displayed in yellow-green when it is turned on, and the outer frame 71 is displayed in black when it is turned off. That is, yellow-green and black are alternately switched over time.
  • the periphery monitoring control unit 40 may continue to output the same image to the monitor.
  • the outer frame 71 is yellowish green. It does not change from the state displayed with or from the black state. Therefore, the operator can recognize that the periphery monitoring control unit 40 is executing normal image processing by checking whether or not the outer frame 71 portion is blinking.
  • the combination of the single camera image position icon 70 and the outer frame 71 is generated by the time change image generation unit 55 as the time change image 63.
  • the partial area 72 is an area provided at a corner of the outer frame 71, and, for example, yellow-green and black are alternately switched over time as in the other areas of the outer frame 71.
  • time-varying image 63 fluctuates with the passage of time by detecting whether or not the value of the video signal such as luminance and RGB values in the partial region 72 has changed. Judging.
  • the time change image 63 generated by the time change image generation unit 55 is input to the image composition unit 56.
  • the above-described overhead image 61, the single camera image 62 captured by each of the cameras C1 to C4, and the time change image 63 are input to the image composition unit 56.
  • the image synthesis unit 56 generates an image obtained by synthesizing the overhead image 61, the single camera image 62, and the time change image 63 described above based on a control signal instructed from the monitor control unit 43 via the CAN 41. An image obtained by combining these three is output as a video signal S1 to the display unit 16 via the display control unit 53.
  • the image composition unit 56 does not receive an output instruction of a composite image of the overhead image 61, the single camera image 62, and the time change image 63 from the monitor control unit 43 (for example, when a menu screen is selected). The image composition unit 56 does not output the composite image to the monitor.
  • FIG. 7 is a diagram illustrating a state in which an example of a standard screen is displayed on the display unit 16 of the monitor 15.
  • the standard screen is an initial screen that is displayed after a certain time has elapsed since the key switch was turned on.
  • Various information on the work machine for example, machine information such as engine water temperature, oil temperature, and remaining amount of fuel, equipment abnormalities, etc. Warning information, a menu screen, a maintenance screen, an overhead image, a single camera image, and the like are displayed.
  • an overhead image 61 is displayed on the left of the display unit 16, and a single camera image 62 is displayed on the right.
  • a single camera image 62 in FIG. 7 is an image obtained by imaging the rear by the camera C ⁇ b> 1 provided behind the upper swing body 3.
  • a guide line D indicating a guide of the distance and direction from the turning center is displayed.
  • a time change image 63 is displayed in the upper right of the single camera image 62.
  • the bird's-eye view image 61, the single camera image 62, and the time change image 63 are images generated on the periphery monitoring control unit 40 side, and an area in which these three images are displayed is defined as a composite video display area 60.
  • the bird's-eye view image 61 is displayed on the left side and the single camera image 62 is displayed on the right side, but the display positions of both may be reversed.
  • the composite video display area 60 has an engine water temperature gauge G1 indicating the coolant temperature of the engine, a hydraulic oil temperature gauge G2 indicating the oil temperature of the hydraulic oil in the hydraulic circuit, and a remaining fuel level from the left.
  • a fuel level gauge G3 is displayed.
  • the hydraulic oil temperature gauge G2 may not be displayed.
  • the function switches F1 to F6 are switches for inputting signals corresponding to icons displayed on the display unit 16 immediately above each switch.
  • an icon I1 for switching the single camera image 62 to full screen display is displayed above the function switch F3.
  • an icon I2 for switching the camera of the single camera image 62 is displayed above the function switch F4.
  • An icon I3 for switching to the menu screen is displayed above the function switch F6.
  • the menu screen is a screen used when confirming various settings and conditions of the work machine.
  • the icons I1 to I3 corresponding to the function switches may not be displayed, and the corresponding switches may be provided in another operation unit or the like.
  • the icon I4 displays the service meter value.
  • the icon I5 displays the setting state of the work mode.
  • FIG. 8 is a flowchart showing an abnormality processing procedure of the periphery monitoring control unit 40 by the monitor control unit 43.
  • the monitor control unit 43 functions as an “abnormality determination unit” in the present invention. As shown in FIG. 8, first, the monitor control unit 43 requests whether the monitor control unit 43 requests a composite image of the overhead view image 61, the single camera image 62, and the time change image 63 from the periphery monitoring control unit 40. It is determined whether or not (step S101).
  • the monitor control unit 43 When the monitor control unit 43 is requesting a composite image (step S101, Yes), the monitor control unit 43 combines the composite video display area 60 output from the peripheral monitoring control unit 40 to the monitor 15. It is determined whether the time-varying image 63 in the image has not changed for a predetermined time (step S102).
  • whether or not the image of the time change image 63 has not changed for a predetermined time is determined by, for example, enlarging the time change image 63 in FIG. 7 and the time change of the video signal in the partial region 72 of the outer frame 71 in FIG.
  • the determination may be made from temporal changes such as luminance and RGB values. How long the “predetermined time” is set may be set as appropriate, for example, depending on the blinking speed of the outer frame 71 portion.
  • step S102 If the image of the time-varying image 63 has not changed for a predetermined time (step S102, Yes), an error notification that the image processing in the periphery monitoring control unit 40 is abnormal is performed (step S103), and an error is detected.
  • the operator is notified in some form of the occurrence.
  • error notification for example, a message or icon may be displayed on the display unit 16 of the monitor 15, or may be displayed by a lamp or the like in a place other than the monitor. Also, a buzzer notification by voice may be used.
  • step S101 when the monitor control unit 43 does not request a composite image from the periphery monitoring control unit 40 (step S101, No), or when the image of the time change image 63 has changed for a predetermined time (step S102, No). Returning to step S101, the above-described processing is repeated.
  • step S101 is that if the monitor control unit 43 does not instruct the peripheral monitoring controller 40 to generate the composite image, that is, a menu screen different from the standard screen in FIG. 7, for example, is displayed.
  • the composite image that is, a menu screen different from the standard screen in FIG. 7, for example.
  • the time change image 63 is displayed on the standard screen
  • the image that changes with the passage of time is not displayed in the area where the time change image 63 is displayed, and the same image continues to be displayed. This is because it is determined that there is an abnormality although no abnormality has occurred in the control unit 40.
  • the outer frame 71 of the single camera image position icon 70 is the time-change image 63, and the luminance, RGB values, and other video signal time changes in the partial area 72 of the outer frame 70 are determined. It has been detected whether or not there is an abnormality in the image processing of the periphery monitoring control unit 40.
  • the present invention is not limited to this, and any region in the synthesized video display region 60 generated by the periphery monitoring control unit 40 such as a partial region in the overhead image 61 or the single camera image 62 or the periphery of those images may change over time.
  • An image may be generated.
  • the time-change image to be generated may be a size that can be visually recognized.
  • the outer frame 71 of the time change image 63 blinks, it is preferable that the outer frame 71 is visible. This is because the operator can recognize that the peripheral monitoring control unit 40 is executing normal image processing by visually recognizing blinking of the outer frame 71 portion.
  • the operator can recognize whether or not there is an abnormality in the image processing of the periphery monitoring control unit 40 without frequently checking whether or not the outer frame 71 portion is blinking. This has the effect of reducing the confirmation load.
  • the overhead image 61 and the single camera image 62 are displayed on the standard screen at the same time.
  • the present invention is not limited to this, and only the overhead image or the single camera image may be displayed.
  • the overhead image 61 and the single camera image 62 may not be displayed on the standard screen, but may be displayed by screen switching.
  • an image obtained by performing predetermined processing on an image captured by one or a plurality of cameras may be an overhead image, a single camera image, or an image including both, and a composite video display. An image displayed in the area 60 may be used.
  • the periphery monitoring control unit 40 (display control unit) and the monitor control unit 43 (abnormality determination unit) may be provided in one controller (device), or may be provided in different controllers (devices). The structure provided may be sufficient.
  • time change image 63 only one time change image 63 is provided.
  • a time change image corresponding to each image is prepared, and each image is displayed. You may make it detect whether abnormality has generate
  • the said embodiment demonstrated with the structure which provided the monitor 15 in the operator's cab 6 of the working machine, the remote operation room for performing remote operation of other places, for example, a working machine, and the some in the construction site
  • a configuration may be adopted in which a display unit is provided in a control room that manages and controls the work machine as a whole.
  • the monitor 15 may be configured as a mobile terminal (for example, it may be removable), and an operator may be able to see an overhead image displayed on a display unit in the mobile terminal.
  • some communication means is provided for each of the work machine and the operation room / control room / mobile terminal. May be provided to transmit and receive information such as a bird's-eye view image.

Abstract

本発明は、作業機械に設けられた作業機械の周辺監視装置であって、前記作業機械の周囲状況を取得する複数のカメラＣ１～Ｃ４と、時間変化画像６３を生成するとともに複数のカメラＣ１～Ｃ４が撮像した画像に対して所定処理を行った画像を映像信号Ｓ１として出力する周辺監視制御部４０と、周辺監視制御部４０から出力された映像信号Ｓ１をもとに時間変化画像６３と前記所定処理を行った画像とを表示する表示部１６と、時間変化画像６３が所定時間変化しない場合、周辺監視制御部４０の所定処理に異常が発生したとしてその旨をエラー報知するモニタ制御部４３と、を備えこれにより、簡易な構成で周辺監視制御部４０の所定処理の異常を迅速に把握することができる。

Description

作業機械の表示システム、および作業機械の表示方法
　本発明は、簡易な構成で画像処理部を含む周辺監視制御部（表示制御部）の所定処理の異常を迅速に把握することができる作業機械の表示システム、および作業機械の表示方法に関する。
　油圧ショベルなどの作業機械の分野では、車体の周辺に存在する障害物をオペレータが視認できるように、車体後方や車体側方に複数台のカメラを設置し、カメラが撮像した画像を単カメラ画像として作業機械の運転室内のモニタに映し出しているものがある。また、車体の周囲を同時に監視できるように、各カメラの画像を上方視点に変換した上で各カメラの画像を合成することにより俯瞰画像を生成してモニタに表示するものがある。
　特許文献１には、選択された単カメラ画像を取得したカメラの配設位置を示すアイコンを画像上に表示するものが記載されている。これによって、どのカメラによって取得された単カメラ画像かを容易に認識することができる。
国際公開第２０１３／１０５５９７号
　ところで、俯瞰画像を生成するといった画像処理は、負荷の大きい作業となるため、一般にモニタ等の表示部に機械ゲージ情報（エンジン水温や燃料の残量など）を表示させるためのモニタ制御部による処理では困難を伴う。そのため、モニタとは別体の汎用画像処理アクセラレータをもつ画像処理コントローラ（周辺監視制御部）によって処理される。そのような場合、画像処理コントローラによって生成された俯瞰画像を、映像信号としてモニタの表示部に出力し、表示部に俯瞰画像を表示させるようにしている。
　ここで、画像処理コントローラに何らかの不具合が発生した場合、作業機械が動いているなどカメラが撮像する景色は変化しているにもかかわらず、画像処理コントローラが同一の俯瞰画像を表示部に送信し続ける可能性がある。この場合、複数のカメラが撮像している適正な画像を表示部に表示できていないにもかかわらず、オペレータにとっては俯瞰画像が表示されている以上、オペレータは画像処理コントローラに不具合が発生したと気づくことができない。
　本発明は、上記に鑑みてなされたものであって、簡易な構成で画像処理部を含む周辺監視制御部（表示制御部）の所定処理の異常を迅速に把握することができる作業機械の表示システム、および作業機械の表示方法を提供することを目的とする。
　上述した課題を解決し、目的を達成するために、本発明にかかる作業機械の表示システムは、作業機械の周囲状況を取得する１つもしくは複数のカメラと、時間変化画像を生成するとともに前記１つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御部と、前記表示制御部から出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するモニタと、前記時間変化画像が所定時間変化しない場合、前記表示制御部に異常が発生したと判断する異常判断部と、を備えたことを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部と前記異常判断部とは、別のコントローラにそれぞれ設けられることを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が所定処理を行った画像とは、単カメラ画像及び／または俯瞰画像であることを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記異常判断部は、前記表示制御部に異常が発生したと判断した場合、報知することを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記報知は、前記表示制御部に異常が発生した旨を知らせるメッセージ、又はアイコンを前記モニタに表示することであることを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が生成する時間変化画像は、単カメラ画像位置アイコン外枠に設けられることを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が生成する時間変化画像は、単カメラ画像または俯瞰画像の表示領域またはその周辺領域に設けられることを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が生成する時間変化画像は、前記表示制御部が生成する合成映像表示領域のいずれかの領域に設けられることを特徴とする。
　また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が所定処理を行った画像が複数ある場合、前記時間変化画像は、前記複数の画像それぞれに設けられ、前記異常判断部は画像単位で異常を判断することを特徴とする。
　また、本発明にかかる作業機械の表示方法は、作業機械の周囲状況を取得する１つもしくは複数のカメラと、所定の情報を表示するモニタと、を備え、時間変化画像を生成するとともに前記１つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御ステップと、前記表示制御ステップから出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するステップと、前記時間変化画像が所定時間変化しない場合、異常が発生したと判断する異常判断ステップと、を備えたことを特徴とする。
　本発明によれば、表示制御部としての周辺監視制御部が、時間変化画像を生成するとともに複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力し、表示部が、前記周辺監視制御部から出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示し、異常判断部としてのモニタ制御部が、前記時間変化画像が所定時間変化しない場合、前記周辺監視制御部の所定処理に異常が発生したと判断・報知するようにしているので、簡易な構成でオペレータが周辺監視制御部の所定処理の異常を迅速に把握することができる。
図１は、本発明の実施の形態である作業機械の周辺監視装置が搭載される油圧ショベルの全体構成を示す斜視図である。 図２は、運転室の内部配置を示す図である。 図３は、カメラの配置を示す平面図である。 図４は、油圧ショベルの制御系全体および周辺監視制御部の詳細な構成を示すブロック図である。 図５は、俯瞰画像生成部による俯瞰画像の生成処理を説明する説明図である。 図６は、時間変化画像の一例を示す図である。 図７は、モニタの表示部に標準画面が表示された状態を示す図である。 図８は、モニタ制御部による周辺監視制御部の異常処理手順を示すフローチャートである。
　以下、添付図面を参照して本発明を実施するための形態について説明する。
［油圧ショベルの全体構成］
　まず、図１は、本発明の実施の形態である作業機械の周辺監視装置が搭載される油圧ショベルの全体構成を示す斜視図である。この油圧ショベル１は、作業機械の一例として示した油圧ショベルである。油圧ショベル１は、自走可能な下部走行体２と、下部走行体２上に旋回自在に設置された上部旋回体３と、上部旋回体３の前部中央に屈曲起伏自在に動作する作業機４とを備える。
　作業機４は、ブーム４ａ、アーム４ｂ、バケット４ｃ、ブームシリンダ４ｄ，アームシリンダ４ｅ、及びバケットシリンダ４ｆを有する。
　上部旋回体３の前部左側部分には、運転室６が設置される。上部旋回体３の後部には、パワーコンテナ７が搭載される。パワーコンテナ７内には、エンジン、油圧ポンプ、ラジエータ、オイルクーラなどが収容されている。上部旋回体３の後端部には、カウンタウェイト８が装着される。
［運転室］
　図２は、運転室６の内部配置を示す図である。図２に示すように、操作レバー１１，１２は、例えば運転室６内のオペレータシート１０の左右に配置される。操作レバー１１は上部旋回体３の旋回動作とアーム４ｂの動作に対応しており、操作レバー１２はブーム４ａの動作とバケット４ｃの動作に対応している。尚、操作レバー１１，１２の操作とどの作業機が動作するかの組み合わせは、本実施形態のものには限られない。
　走行レバー１３および走行レバー１４は、操作に応じて下部走行体２の左側および右側の履帯の前進後進を行うことができる。
　また、運転室６の右前には、モニタ１５が配置される。モニタ１５は、表示部１６と操作部１７とを有する。表示部１６は、液晶ディスプレイなどの表示装置であり、エンジンや油圧ポンプなどの状態を含む各種情報、例えば、エンジン水温、油温、燃料の残量等の機械情報、機器の異常などを示す警告情報、メニュー画面やメンテナンス画面などを表示することができる。
　また、モニタ１５には、後述するカメラで撮影された画像（単カメラ画像）や、複数のカメラ画像を上方視点に変換した上で合成することにより生成される画像（俯瞰画像）を表示することができる。
　操作部１７は、表示部１６の表示内容に対応して複数の機能を持たせたファンクションスイッチや、作業モード、走行モード、エアコンなどの各種設定を行うためのスイッチを含む。なお、モニタ１５は、表示部１６と操作部１７とを一体化したタッチパネルで構成してもよい。また、操作部１７を表示部１６と別体とし、操作部１７を運転室内の他の場所に設けてもよい。
［カメラの構成］
　カメラＣ１～Ｃ４は、上部旋回体３に取り付けられる。図３に示すように、カメラＣ１は、上部旋回体３の後方に取り付けられて上部旋回体３の後方を撮像する。また、カメラＣ２は、上部旋回体３の右側方に取り付けられて上部旋回体３の右後方を撮像する。また、カメラＣ３は、上部旋回体３の右側方に取り付けられて上部旋回体３の右前方を撮像する。また、カメラＣ４は、上部旋回体３の左側方に取り付けられて上部旋回体３の左側方を撮像する。なお、例えば、各カメラＣ１～Ｃ４は、左右方向および高さ方向において所定角度の視野範囲を有する。カメラとしてＣＣＤ（Charge-Coupled　Device）カメラを用いることができる。また、各カメラＣ１～Ｃ４は、ワイドダイナミックレンジ（Wide　Dynamic　Range）機能を有してもよい。
［制御系の全体構成］
　図４は、油圧ショベル１の制御系全体の構成を示すブロック図である。図４に示すように、周辺監視制御部４０（表示制御部）、通信制御部４２、モニタ制御部４３（異常判断部）、エンジン制御部４４、ポンプ制御部４５等が、車内ネットワークの一つであるＣＡＮ４１に接続される。
　モニタ制御部４３は、モニタ１５に接続され、モニタ１５の表示制御部として機能する。モニタ制御部４３は、ＣＡＮ４１を介して各種センサから送信された情報や、モニタ１５に設けられたスイッチを介して入力された情報といった作業機械の各種情報の入出力制御を行う。そして、モニタ１５は、エンジン水温、油温、燃料の残量等の機械情報、機器の異常などを示す警告情報、メニュー画面やメンテナンス画面などを表示する制御を行うことができる。
　周辺監視制御部４０は、複数のカメラＣ１～Ｃ４からなるカメラ群Ｃ、及び、モニタ１５と接続しており、後述するように、複数のカメラの内のいずれかの単カメラ画像と俯瞰画像を合成した画像をモニタに出力する。
　周辺監視制御部４０は、画像処理部５１、及び、表示制御部５３を有する。さらに画像処理部５１は、俯瞰画像生成部５４、単カメラ画像生成部５８、時間変化画像生成部５５、及び、画像合成部５６を有する。
　俯瞰画像生成部５４は、各カメラＣ１～Ｃ４から得られた画像をもとに俯瞰画像６１を生成する。図５に示すように、俯瞰画像生成部５４は、各カメラＣ１～Ｃ４から得られた画像Ｐ１～Ｐ４を上方視点画像に変換する。すなわち、俯瞰画像生成部５４は、油圧ショベル１の上方に位置する所定の仮想視点から見た画像に変換する。
　具体的に、俯瞰画像生成部５４は、油圧ショベル１の上方の仮想視点から地表面レベルに対応する所定の仮想投影面に投影する画像変換を行う。その後、俯瞰画像生成部５４は、俯瞰画像を表示するフレームの各領域Ｅ１～Ｅ４に対応する変換画像Ｐ１１～Ｐ１４を切り出し、各変換画像Ｐ１１～Ｐ１４をフレーム内で合成する。俯瞰画像生成部５４が生成する俯瞰画像６１には、油圧ショベルとの位置関係が明確になるよう油圧ショベル１を上方視した画像Ｐが予め貼り付けられている。
　この俯瞰画像６１の情報は、画像合成部５６に入力される。なお、領域Ｅ０は、運転室６から視認できるため、俯瞰画像は生成されない。また、本実施の形態では、４つのカメラＣ１～Ｃ４を用いているが、カメラの数はいくつでもよく、例えば３つのカメラＣ１，Ｃ２，Ｃ４を用いてもよい。この場合、カメラＣ２は、カメラＣ４と同様に右側方を撮像する。
　単カメラ画像生成部５８は、各カメラＣ１～Ｃ４が撮像した画像の内いずれかのカメラの単カメラ画像６２を、画像合成部５６に出力する。具体的には、オペレータによって単カメラ画像６２を切り替える操作が操作部１７によってなされた場合、その信号がモニタ制御部４３およびＣＡＮ４１を介して単カメラ画像生成部５８に伝送され、単カメラ画像生成部５８は指令を受けた該当するカメラの単カメラ画像６２を画像合成部５６に出力する。
　時間変化画像生成部５５は、時間的に変化する時間変化画像６３を生成する。例えば、図６に示す時間変化画像６３における単カメラ画像位置アイコン７０は、モニタ１５の表示部１６に表示される単カメラ画像６２が、油圧ショベルに対してどの方向（後方、右後方、右前方、左後方）を撮影するカメラの画像であるかを示すためのアイコンであり、例えば図７における表示部１６の単カメラ画像６２の近傍に単カメラ画像位置アイコン７０を設けることによって、オペレータは表示部１６に表示されている単カメラ画像６２がどの方向の単カメラ画像であるかが容易に判別できる。
　単カメラ画像位置アイコン７０における中央部にある矩形が油圧ショベルの平面図を表しており、単カメラ画像位置アイコン７０の上側を前方側として表示されている単カメラ画像の方向に該当する領域が色つきで表示される。例えば、図６および図７の場合、中央部の矩形の下側の領域、すなわち油圧ショベルの後方を撮影する後方カメラの単カメラ画像が表示されていることを示している。
　単カメラ画像位置アイコン７０の外枠７１は、時間の経過とともに所定の色を付して点滅する。例えば、点灯時は外枠７１部分が黄緑色に表示され、消灯時は外枠７１部分が黒色に表示される、すなわち時間経過によって黄緑色と黒色が交互に切り替わるようになっている。
　ここで、周辺監視制御部４０に何らかの不具合が発生した場合には、周辺監視制御部４０が同一の画像をモニタに出力し続ける可能性があり、その場合には上記外枠７１は、黄緑色で表示された状態から変化しないか、もしくは黒色の状態から変化しないことになる。そのため、オペレータは外枠７１部分が点滅しているか否かを確認することによって、周辺監視制御部４０が正常な画像処理を実行していることを認識することができる。
　この単カメラ画像位置アイコン７０と外枠７１を合わせたものが時間変化画像６３として、時間変化画像生成部５５によって生成される。なお、一部領域７２は外枠７１の角部に設けられた領域であり、外枠７１の他の領域と同様に、時間経過によって、例えば黄緑色と黒色とが交互に切り替わる。
　後述するが、この一部領域７２における輝度やＲＧＢ値等の映像信号の値が変化しているか否かを検出することにより、時間変化画像６３が、時間経過に応じて変動しているか否かを判断している。時間変化画像生成部５５によって生成された時間変化画像６３は、画像合成部５６に入力される。
　画像合成部５６には、上述した俯瞰画像６１と、各カメラＣ１～Ｃ４が撮像した単カメラ画像６２と、時間変化画像６３が入力される。画像合成部５６は、ＣＡＮ４１を介してモニタ制御部４３から指示される制御信号をもとに、上述した俯瞰画像６１、単カメラ画像６２、時間変化画像６３を合成した画像を生成する。これら３つを合成した画像は、表示制御部５３を介して表示部１６に映像信号Ｓ１として出力される。
　もし画像合成部５６が、モニタ制御部４３から俯瞰画像６１、単カメラ画像６２、時間変化画像６３の合成画像の出力指示を受け取らない場合（例えば、メニュー画面が選択されている場合など）には、画像合成部５６は当該合成画像をモニタに出力しない。
［モニタの標準画面］
　図７は、モニタ１５の表示部１６に標準画面の一例が表示された状態を示す図である。標準画面は、キースイッチオン後、一定時間経過した状態で表示される初期画面であり、作業機械の各種情報、例えば、エンジン水温、油温、燃料の残量等の機械情報、機器の異常などを示す警告情報、メニュー画面やメンテナンス画面、俯瞰画像、単カメラ画像などが表示される。
　図７に示すように、表示部１６の左には、俯瞰画像６１が表示され、右には、単カメラ画像６２が表示される。図７の単カメラ画像６２は、上部旋回体３の後方に設けられたカメラＣ１による後方を撮像した画像である。俯瞰画像６１及び単カメラ画像６２には、旋回中心からの距離や方向の目安を示す目安線Ｄが表示されている。単カメラ画像６２の右上には、時間変化画像６３が表示される。
　俯瞰画像６１、単カメラ画像６２および時間変化画像６３は、周辺監視制御部４０側で生成された画像であり、これら３つの画像が表示される領域を合成映像表示領域６０と定義する。なお、図７では俯瞰画像６１が左側に、単カメラ画像６２が右側に表示されているが、両者の表示位置が反対であってもよい。
　合成映像表示領域６０の下部には、左から、エンジンの冷却水の水温を示すエンジン水温ゲージＧ１、油圧回路内の作動油の油温を示す作動油温ゲージＧ２、および燃料の残量のレベルを示す燃料レベルゲージＧ３が表示される。また、作動油温ゲージＧ２は非表示であってもよい。
　なお、ファンクションスイッチＦ１～Ｆ６は、各スイッチの直上で表示部１６が表示するアイコンに対応した信号を入力するためのスイッチである。図７では、ファンクションスイッチＦ３の上部には、単カメラ画像６２を全画面表示に切り替えるアイコンＩ１が表示されている。また、ファンクションスイッチＦ４の上部には、単カメラ画像６２のカメラを切り替える（例えばカメラＣ１の画像からカメラＣ２の画像への切り替え）アイコンＩ２が表示されている。ファンクションスイッチＦ６の上部には、メニュー画面へ切り替えるアイコンＩ３が表示されている。メニュー画面とは、作業機械の各種設定や状況を確認する際に用いる画面である。
　なお、ファンクションスイッチに対応するアイコンＩ１～Ｉ３を表示せず、対応するスイッチを別の操作部などに設けてもよい。アイコンＩ４は、サービスメータの値を表示する。また、アイコンＩ５は、作業モードの設定状態を表示する。
［周辺監視制御部の異常検出処理］
　図８は、モニタ制御部４３による周辺監視制御部４０の異常処理手順を示すフローチャートである。モニタ制御部４３が、本発明における「異常判断部」として機能する。図８に示すように、まずモニタ制御部４３は、モニタ制御部４３が、周辺監視制御部４０に対して、俯瞰画像６１、単カメラ画像６２及び時間変化画像６３の合成画像を要求しているか否かを判断する（ステップＳ１０１）。
　モニタ制御部４３が合成画像を要求している状態である場合（ステップＳ１０１，Ｙｅｓ）には、モニタ制御部４３は、周辺監視制御部４０からモニタ１５に出力された合成映像表示領域６０の合成画像中の時間変化画像６３が所定時間変化していないか否かを判断する（ステップＳ１０２）。ここで、時間変化画像６３の画像が所定時間変化していないか否かは、例えば図７における時間変化画像６３を拡大した、図６の外枠７１の一部領域７２における映像信号の時間変化、例えば、輝度やＲＧＢ値などの時間変化から判断してもよい。「所定時間」をどの程度の時間にするかは、例えば外枠７１部分の点滅速度に応じる等適宜設定すればよい。
　時間変化画像６３の画像が所定時間変化していない場合（ステップＳ１０２，Ｙｅｓ）には、周辺監視制御部４０内の画像処理が異常である旨のエラー発報を行い（ステップＳ１０３）、エラーが発生していることをオペレータなどに何らかの形で報知する。なお、エラー発報の例として、例えばモニタ１５の表示部１６にメッセージやアイコン表示をしてもよいし、モニタ以外の場所にランプなどにより表示してもよい。また、音声によるブザー発報であってもよい。
　一方、モニタ制御部４３が周辺監視制御部４０に合成画像を要求していない場合（ステップＳ１０１，Ｎｏ）または時間変化画像６３の画像が所定時間変化している場合（ステップＳ１０２，Ｎｏ）には、ステップＳ１０１にリターンし、上述した処理を繰り返す。
　なお、ステップＳ１０１を設ける理由は、もしモニタ制御部４３が周辺監視コントローラ４０に上記合成画像を生成するよう指示を出していない場合、すなわち図７における標準画面とは異なる、例えばメニュー画面が表示されている場合、標準画面において時間変化画像６３が表示される領域には時間経過に応じて変化する画像が表示されず、同じ画像が表示され続けることになるため、モニタ制御部４３は、周辺監視制御部４０に異常が発生していないにもかかわらず、異常ありと判断してしまうためである。
　なお、上述した実施の形態では、単カメラ画像位置アイコン７０の外枠７１を時間変化画像６３として、その外枠７０の一部領域７２における輝度やＲＧＢ値、その他映像信号の時間変化の有無によって周辺監視制御部４０の画像処理に異常があったか否かを検出していた。しかし、これに限らず、俯瞰画像６１や単カメラ画像６２内の一部領域やそれら画像の周辺など、周辺監視制御部４０が生成する合成映像表示領域６０内であればいずれの領域に時間変化画像を生成するようにしてもよい。この場合、生成する時間変化画像は、視認できるような大きさであればよい。
　本実施形態である、時間変化画像６３の外枠７１を点滅させる場合には、視認できる程度であることが好ましい。オペレータが外枠７１部分の点滅を視認することによって、周辺監視制御部４０が正常な画像処理を実行していることを認識することができるためである。
　なお、本発明は、オペレータが頻繁に外枠７１部分が点滅しているか否かを確認することなく、周辺監視制御部４０の画像処理に異常があったか否かを認識することができるため、オペレータの確認負荷を軽減できるという効果がある。
　前記実施形態では、標準画面に俯瞰画像６１と単カメラ画像６２を同時に表示させる構成としていたが、本発明はこれに限られず、俯瞰画像のみや単カメラ画像のみを表示させる構成としてもよい。もしくは、標準画面には俯瞰画像６１と単カメラ画像６２を表示させず、画面切替によって表示させる形態であってもよい。
　そして、本発明における「１つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像」とは、俯瞰画像、単カメラ画像、及びその両者を含んだ画像としてもよく、合成映像表示領域６０に表示される画像であってもよい。
　また、周辺監視制御部４０（表示制御部）と、モニタ制御部４３（異常判断部）は、１つのコントローラ（装置）に設けられる構成であってもよいし、それぞれ別のコントローラ（装置）に設けられる構成であってもよい。
　さらに、本実施形態では、時間変化画像６３を１つしか設けなかったが、複数の画像を一画面で表示する場合には、それぞれの画像に対応する時間変化画像を用意し、それぞれの画像について異常が発生していないか検知するようにしてもよい。
　なお、上記実施形態では油圧ショベルを用いて説明したが、作業機械であれば、ダンプトラック、ブルドーザー、ホイールローダー等の作業機械に本発明を適用してもよい。
　また、上記実施形態では作業機械の運転室６にモニタ１５を設けた構成で説明したが、その他の場所、例えば作業機械の遠隔操作を行うための遠隔操作室や、建設現場内にある複数の作業機械を全体的に管理・統制する管制室に表示部を設けた構成であってもよい。モニタ１５が携帯端末として構成され（例えば取り外し可能であってもよい）、オペレータが携帯端末における表示部に表示された俯瞰画像を見られる構成であってもよい。
　ここで、遠隔操作室や管制室においてモニタ１５に俯瞰画像を表示する場合や携帯端末にモニタ１５を設ける場合には、作業機械と、操作室・管制室・携帯端末等のそれぞれに何らかの通信手段を設け、俯瞰画像等の情報の送受信を行う構成であってもよい。
　　１　油圧ショベル
　　２　下部走行体
　　３　上部旋回体
　　４　作業機
　　４ａ　ブーム
　　４ｂ　アーム
　　４ｃ　バケット
　　４ｄ　ブームシリンダ
　　４ｅ　アームシリンダ
　　４ｆ　バケットシリンダ
　　６　運転室
　　７　パワーコンテナ
　　８　カウンタウェイト
　　１０　オペレータシート
　　１１，１２　操作レバー
　　１３，１４　走行レバー
　　１５　モニタ
　　１６　表示部
　　１７　操作部
　　４０　周辺監視制御部（表示制御部）
　　４２　通信制御部
　　４３　モニタ制御部（異常判断部）
　　４４　エンジン制御部
　　４５　ポンプ制御部
　　５１　画像処理部
　　５３　表示制御部
　　５４　俯瞰画像生成部
　　５５　時間変化画像生成部
　　５６　画像合成部
　　５８　単カメラ画像生成部
　　６０　合成映像表示領域
　　６１　俯瞰画像
　　６２　単カメラ画像
　　６３　時間変化画像
　　７０　単カメラ画像位置アイコン
　　７１　外枠
　　７２　一部領域
　　Ｃ　カメラ群
　　Ｃ１～Ｃ４　カメラ
　　Ｄ　目安線
　　Ｇ１　エンジン水温ゲージ
　　Ｇ２　作動油温ゲージ
　　Ｇ３　燃料レベルゲージ
　　Ｉ１～Ｉ５　アイコン
　　Ｓ１　映像信号

Claims (10)

  1. 　作業機械の周囲状況を取得する１つもしくは複数のカメラと、
    　時間変化画像を生成するとともに前記１つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御部と、
    　前記表示制御部から出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するモニタと、
    　前記時間変化画像が所定時間変化しない場合、前記表示制御部に異常が発生したと判断する異常判断部と、
    　を備えたことを特徴とする作業機械の表示システム。
  2. 　前記表示制御部と前記異常判断部とは、別のコントローラにそれぞれ設けられることを特徴とする請求項１に記載の作業機械の表示システム。
  3. 　前記表示制御部が所定処理を行った画像とは、単カメラ画像及び／または俯瞰画像であることを特徴とする請求項１または２に記載された作業機械の表示システム。
  4. 　前記異常判断部は、前記表示制御部に異常が発生したと判断した場合、報知することを特徴とする請求項１～３のいずれか一つに記載された作業機械の表示システム。
  5. 　前記報知は、前記表示制御部に異常が発生した旨を知らせるメッセージ、又はアイコンを前記モニタに表示することであることを特徴とする請求項４に記載された作業機械の表示システム。
  6. 　前記表示制御部が生成する時間変化画像は、単カメラ画像位置アイコン外枠に設けられることを特徴とする請求項１～５のいずれか一つに記載された作業機械の表示システム。
  7. 　前記表示制御部が生成する時間変化画像は、単カメラ画像または俯瞰画像の表示領域またはその周辺領域に設けられることを特徴とする請求項１～５のいずれか一つに記載された作業機械の表示システム。
  8. 　前記表示制御部が生成する時間変化画像は、前記表示制御部が生成する合成映像表示領域のいずれかの領域に設けられることを特徴とする請求項１～５のいずれか一つに記載された作業機械の表示システム。
  9. 　前記表示制御部が所定処理を行った画像が複数ある場合、前記時間変化画像は、前記複数の画像それぞれに設けられ、前記異常判断部は画像単位で異常を判断することを特徴とする請求項１～８のいずれか一つに記載の作業機械の表示システム。
  10. 　作業機械の周囲状況を取得する１つもしくは複数のカメラと、
    　所定の情報を表示するモニタと、を備え、
    　時間変化画像を生成するとともに前記１つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御ステップと、
    　前記表示制御ステップから出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するステップと、
    　前記時間変化画像が所定時間変化しない場合、異常が発生したと判断する異常判断ステップと、
    　を備えたことを特徴とする作業機械の表示方法。
PCT/JP2015/071886 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法 WO2017022042A1 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
CN201580078750.3A CN107431783A (zh) 2015-07-31 2015-07-31 作业机械的显示系统及作业机械的显示方法
US15/561,203 US20180295357A1 (en) 2015-07-31 2015-07-31 Display system of working machine and display method of working machine
JP2017532270A JP6577034B2 (ja) 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法
KR1020177026226A KR20170118831A (ko) 2015-07-31 2015-07-31 작업 기계의 표시 시스템, 및 작업 기계의 표시 방법
PCT/JP2015/071886 WO2017022042A1 (ja) 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法
KR1020197018050A KR102027395B1 (ko) 2015-07-31 2015-07-31 작업 기계의 표시 시스템, 및 작업 기계의 표시 방법
DE112015006345.5T DE112015006345T5 (de) 2015-07-31 2015-07-31 Anzeigesystem einer arbeitsmaschine und anzeigeverfahren einer arbeitsmaschine

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/071886 WO2017022042A1 (ja) 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法

Publications (1)

Publication Number Publication Date
WO2017022042A1 true WO2017022042A1 (ja) 2017-02-09

Family

ID=57943902

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/071886 WO2017022042A1 (ja) 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法

Country Status (6)

Country Link
US (1) US20180295357A1 (ja)
JP (1) JP6577034B2 (ja)
KR (2) KR20170118831A (ja)
CN (1) CN107431783A (ja)
DE (1) DE112015006345T5 (ja)
WO (1) WO2017022042A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020063569A (ja) * 2018-10-15 2020-04-23 日立建機株式会社 油圧ショベル

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3537403A4 (en) * 2016-11-01 2020-01-08 Sumitomo (S.H.I.) Construction Machinery Co., Ltd. SECURITY MANAGEMENT SYSTEM FOR WORKING MACHINE, MANAGEMENT DEVICE, SECURITY MANAGEMENT METHOD
KR20180095986A (ko) * 2017-02-20 2018-08-29 두산인프라코어 주식회사 건설 장비의 화면 표시 시스템 및 화면 표시 방법
US11131082B2 (en) * 2019-06-13 2021-09-28 Deere & Company Work vehicle with a payload tracking system
WO2021085608A1 (ja) * 2019-10-31 2021-05-06 住友建機株式会社 ショベル管理システム、ショベル用携帯端末、およびショベル用携帯端末に用いられるプログラム
JP2021143541A (ja) * 2020-03-13 2021-09-24 コベルコ建機株式会社 作業支援サーバ、作業支援方法
JP7458850B2 (ja) * 2020-03-26 2024-04-01 住友重機械建機クレーン株式会社 作業機械の周囲表示装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004214970A (ja) * 2002-12-27 2004-07-29 Sumitomo Electric Ind Ltd 画像表示システム、画像表示方法及び画像処理装置
JP2008283431A (ja) * 2007-05-10 2008-11-20 Matsushita Electric Ind Co Ltd 画像処理装置
JP2014064192A (ja) * 2012-09-21 2014-04-10 Komatsu Ltd 作業車両用周辺監視システム及び作業車両

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5269026B2 (ja) * 2010-09-29 2013-08-21 日立建機株式会社 作業機械の周囲監視装置
JP5341044B2 (ja) * 2010-09-29 2013-11-13 日立建機株式会社 作業機械の表示システム
JP5587499B2 (ja) * 2011-06-07 2014-09-10 株式会社小松製作所 作業車両の周辺監視装置
AU2013208525A1 (en) 2012-01-12 2014-08-14 Hitachi Construction Machinery Co., Ltd. Periphery monitoring device for self-propelled industrial machine
JP5411976B1 (ja) * 2012-09-21 2014-02-12 株式会社小松製作所 作業車両用周辺監視システム及び作業車両

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004214970A (ja) * 2002-12-27 2004-07-29 Sumitomo Electric Ind Ltd 画像表示システム、画像表示方法及び画像処理装置
JP2008283431A (ja) * 2007-05-10 2008-11-20 Matsushita Electric Ind Co Ltd 画像処理装置
JP2014064192A (ja) * 2012-09-21 2014-04-10 Komatsu Ltd 作業車両用周辺監視システム及び作業車両

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020063569A (ja) * 2018-10-15 2020-04-23 日立建機株式会社 油圧ショベル
WO2020080294A1 (ja) * 2018-10-15 2020-04-23 日立建機株式会社 油圧ショベル

Also Published As

Publication number Publication date
US20180295357A1 (en) 2018-10-11
JP6577034B2 (ja) 2019-09-18
JPWO2017022042A1 (ja) 2018-03-08
KR102027395B1 (ko) 2019-10-01
DE112015006345T5 (de) 2017-12-07
KR20190073621A (ko) 2019-06-26
CN107431783A (zh) 2017-12-01
KR20170118831A (ko) 2017-10-25

Similar Documents

Publication Publication Date Title
JP6577034B2 (ja) 作業機械の表示システム、および作業機械の表示方法
US10337174B2 (en) Working machine display system, working machine display device, and working machine display for prompt screen transition even when abnormal processing occurs
JP7108750B2 (ja) システムおよび方法
JP6427597B2 (ja) 作業機械の周辺監視装置及び作業機械の周辺監視方法
JP6216097B2 (ja) 作業機械の周辺監視装置
JP6200121B2 (ja) 作業機械の周辺監視装置
EP2717570A1 (en) Device for monitoring area around working machine
JP6071786B2 (ja) 作業機械の周囲監視装置
JPWO2012157379A1 (ja) 作業機械の周囲監視装置
JP2013253402A (ja) 作業機械の周囲監視装置
JP2014161087A (ja) 作業車両用周辺監視システム及び作業車両
JP6980391B2 (ja) 作業機械用周辺監視システム
JP2016169595A (ja) 作業機械の周囲監視装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15900355

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2017532270

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 20177026226

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 15561203

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 112015006345

Country of ref document: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15900355

Country of ref document: EP

Kind code of ref document: A1