WO2025192554A1 - 作業機械及び作業機械のシステム - Google Patents
作業機械及び作業機械のシステムInfo
- Publication number
- WO2025192554A1 WO2025192554A1 PCT/JP2025/008897 JP2025008897W WO2025192554A1 WO 2025192554 A1 WO2025192554 A1 WO 2025192554A1 JP 2025008897 W JP2025008897 W JP 2025008897W WO 2025192554 A1 WO2025192554 A1 WO 2025192554A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- work machine
- sound
- operator
- function
- sound output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/24—Safety devices, e.g. for preventing overload
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/21—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
Definitions
- This disclosure relates to work machines and work machine systems.
- Patent Document 1 discloses an excavator that has a sound collection device that is placed outside the cab and collects sounds around the cab, and a control device that controls the operation of the excavator based on audio data generated by removing noise from the sounds collected by the sound collection device.
- Patent Document 1 does not describe controlling audio functions according to the operating state of the excavator.
- One aspect of the present disclosure aims to provide a work machine with improved safety.
- a work machine includes a lower running body, an upper rotating body rotatably mounted on the lower running body, a cab provided on the upper rotating body, an external sound collection device located outside the cab, an internal sound output device located inside the cab, and a control device that switches to an operating mode with a specific audio function depending on the operating state of the work machine.
- FIG. 1 is a side view of a work machine according to an embodiment.
- FIG. 2 is a top view of the work machine according to the embodiment.
- FIG. 3 is a diagram showing an example of the configuration of an external sound collecting device and an information transmitting device attached to the work machine of FIG.
- FIG. 4 is a diagram that schematically shows an example of the configuration of a work machine according to an embodiment.
- FIG. 5 is a top view of the interior of the operator's cab of the work machine according to the embodiment.
- FIG. 6 is a conceptual diagram showing a two-way conversation between an operator on board a work machine according to the embodiment and a worker present in the vicinity of the work machine.
- FIG. 7 is a block diagram illustrating an example of a controller according to the embodiment.
- FIG. 1 is a side view of a work machine according to an embodiment.
- FIG. 2 is a top view of the work machine according to the embodiment.
- FIG. 3 is a diagram showing an example of the configuration of an external sound collecting
- FIG. 8 is a diagram showing a display example of the display device according to the embodiment.
- FIG. 9 is a flowchart illustrating an example of an operation control process according to an embodiment of the present disclosure.
- FIG. 10 is a diagram illustrating an example of a noise reduction adjustment screen according to the embodiment.
- FIG. 11 is a top view of a work machine showing another example of the configuration of the work machine according to the embodiment.
- FIG. 12 is a schematic diagram showing an example of the configuration of a work machine operation system according to an embodiment.
- FIG. 13 is a schematic diagram showing another example of the configuration of the operation system for a work machine according to the embodiment.
- FIG. 14 is a schematic diagram showing communication performed between a work machine and a communication terminal according to the embodiment.
- the work machine 100 is a shovel.
- the work machine 100 may also be a machine other than a shovel, such as a crane, asphalt finisher, or forklift.
- the shovel as the work machine 100 is an excavator equipped with a bucket 6 as an end attachment, but it may also be an applied machine such as a forestry machine equipped with an end attachment other than the bucket 6.
- Figure 1 is a side view of the work machine 100
- Figure 2 is a top view of the work machine 100.
- the work machine 100 comprises a lower running body 1, an upper rotating body 3 mounted on the lower running body 1 so as to be rotatable via a rotating mechanism 2, an attachment AT for performing various tasks, and a cab 10.
- the front of the work machine 100 (upper rotating body 3) corresponds to the direction in which the attachment AT extends relative to the upper rotating body 3 when the work machine 100 is viewed from directly above along the rotation axis of the upper rotating body 3 (top view).
- the left and right sides of the work machine 100 (upper rotating body 3) correspond to the left and right sides, respectively, as seen from the operator seated in the driver's seat in the cab 10.
- the lower traveling body 1 includes, for example, a pair of left and right crawlers 1C.
- the crawlers 1C include a left crawler 1CL and a right crawler 1CR.
- the left crawler 1CL is driven by a left traveling hydraulic motor 2ML
- the right crawler 1CR is driven by a right traveling hydraulic motor 2MR.
- the left traveling hydraulic motor 2ML is a traveling drive unit that drives the left crawler 1CL as a driven part, and can rotate the left crawler 1CL.
- the right traveling hydraulic motor 2MR is a traveling drive unit that drives the right crawler 1CR as a driven part, and can rotate the right crawler 1CR.
- the traveling drive units may also be electric motors.
- the upper rotating body 3 rotates relative to the lower traveling body 1 when the rotating mechanism 2 is driven by the rotating hydraulic motor 2A.
- the rotating hydraulic motor 2A is a rotating drive unit that drives the upper rotating body 3 as a driven part, and can change the orientation of the upper rotating body 3.
- the rotating drive unit may also be an electric motor.
- a boom 4 is rotatably attached to the front center of the upper rotating body 3, an arm 5 is rotatably attached to the tip of the boom 4, and a bucket 6 is rotatably attached to the tip of the arm 5.
- the boom 4, arm 5, and bucket 6 make up an excavation attachment, which is an example of an attachment AT.
- the boom 4, arm 5, and bucket 6 are driven by a boom cylinder 7, arm cylinder 8, and bucket cylinder 9, respectively.
- the bucket 6 is an example of a work tool (end attachment).
- the bucket 6 is used, for example, for excavation work.
- another work tool may be attached to the end of the arm 5 depending on the work content, etc.
- the other work tool may be, for example, a large bucket, a slope bucket, a dredging bucket, or other types of bucket.
- the other work tool may also be a type of work tool other than a bucket, such as an agitator, breaker, grapple, or lifting magnet.
- the swing hydraulic motor 2A, left traveling hydraulic motor 2ML, right traveling hydraulic motor 2MR, boom cylinder 7, arm cylinder 8, and bucket cylinder 9 are hydraulic actuators driven by hydraulic oil discharged from a hydraulic pump.
- the imaging device S6 is provided on the upper rotating body 3 or the cab 10, and captures images of the area around the work machine 100 to obtain image information showing the area around the work machine 100.
- the imaging device S6 includes a front camera S6F, a left camera S6L, a right camera S6R, and a rear camera S6B.
- the front camera S6F, left camera S6L, right camera S6R, and rear camera S6B are all monocular wide-angle cameras equipped with imaging elements such as CCD or CMOS, and output the captured images to the display device D1. Information about the images captured by the imaging device S6 is also input into the controller 30.
- the front camera S6F is attached to the roof of the driver's cab 10
- the left camera S6L is attached to the left end of the top surface of the upper rotating body 3
- the right camera S6R is attached to the right end of the top surface of the upper rotating body 3
- the rear camera S6B is attached to the rear end of the top surface of the upper rotating body 3.
- the imaging device S6 may constitute an object detection device that detects objects in the vicinity of the work machine 100.
- the object detection device may be constituted by a device other than a camera.
- the object detection device may be LiDAR.
- LiDAR is a device that can measure the distance between the LiDAR (laser source) and a point cloud of, for example, one million or more points within the monitoring range.
- the object detection device may also be another device that can measure the distance to an object, such as a stereo camera, a range imaging camera, or a millimeter-wave radar.
- the object detection device may emit a number of signals (such as laser light) toward the object and receive the reflected signals to derive the distance and direction of the object.
- the object detection device may be a combination of two or more types of devices.
- the object detection device may be a combination of an imaging device and LiDAR, a combination of an imaging device and millimeter-wave radar, or a combination of an imaging device and a stereo camera.
- the external sound collection device M1 is a device that collects external sounds and is also called a microphone.
- the external sound collection device M1 is provided on the upper rotating body 3 or the cab 10, and converts sounds (air vibrations) generated around the work machine 100 into mechanical vibrations, which are then converted into electrical signals.
- the external sound collection device M1 includes a front microphone M1F, a left microphone M1L, a right microphone M1R, and a rear microphone M1B.
- the front microphone M1F is a microphone that collects sounds generated in front of the work machine 100, and is attached to the outside of the cab 10, such as on the roof of the cab 10 or on the side of the boom 4.
- the front microphone M1F may also be attached, for example, to the ceiling of the cab 10, i.e., inside the cab 10.
- the left microphone M1L is a microphone that collects sounds generated to the left of the work machine 100
- the right microphone M1R is a microphone that collects sounds generated to the right of the work machine 100
- the rear microphone M1B is a microphone that collects sounds generated behind the work machine 100.
- the electrical signals generated by the front microphone M1F, left microphone M1L, right microphone M1R, and rear microphone M1B are taken into the controller 30.
- the front microphone M1F is attached to the roof of the cab 10, the left microphone M1L is attached to the left end of the top surface of the upper rotating body 3, the right microphone M1R is attached to the right end of the top surface of the upper rotating body 3, and the rear microphone M1B is attached to the rear end of the top surface of the upper rotating body 3.
- the four external sound collection devices M1 front microphone M1F, left microphone M1L, right microphone M1R, and rear microphone M1B
- the controller 30 can detect the direction of the sound source based on differences in the sounds collected by each of the four external sound collection devices M1 (for example, differences in volume).
- an array microphone is used as the external sound collection device M1
- the direction of the sound source can be detected based on, for example, a phase shift or differences in volume.
- the four external sound collection devices M1 and the four image capture devices S6 are arranged to correspond to each other.
- the front microphone M1F is arranged adjacent to the front camera S6F
- the left microphone M1L is arranged adjacent to the left camera S6L
- the right microphone M1R is arranged adjacent to the right camera S6R
- the rear microphone M1B is arranged adjacent to the rear camera S6B.
- the external sound output device SP1 is a device that outputs sound toward the periphery of the work machine 100.
- the external sound output device SP1 is an omnidirectional speaker that is configured to output sound uniformly in all directions.
- the external sound output device SP1 may also be a directional speaker that outputs sound toward the front.
- the information transmission device G1 is a device for communicating the status of the work machine 100 to those outside the work machine 100.
- the information transmission device G1 is provided on the upper rotating body 3 or the cab 10, and is configured to be able to communicate the status of the work machine 100 to workers around the work machine 100.
- the information transmission device G1 includes a front light bar G1F, a left light bar G1L, a right light bar G1R, and a rear light bar G1B.
- the front light bar G1F is a light-emitting device that can visually convey information to workers and others located in front of the work machine 100, and is attached to the outside of the cab 10, such as on the roof of the cab 10 or the side of the boom 4.
- the front light bar G1F may also be attached, for example, to the ceiling of the cab 10, i.e., inside the cab 10.
- the left light bar G1L is a light-emitting device that can visually convey information to workers and others located to the left of the work machine 100
- the right light bar G1R is a light-emitting device that can visually convey information to workers and others located to the right of the work machine 100
- the rear light bar G1B is a light-emitting device that can visually convey information to workers and others located behind the work machine 100.
- Each of the front light bar G1F, left light bar G1L, right light bar G1R, and rear light bar G1B emits light in response to an electrical signal from the controller 30.
- the light-emitting devices are LED lights, but they may also be other light-emitting devices, such as halogen lamps. Additionally, the light-emitting device is a multi-color light-emitting type, but it may also be a monochromatic light-emitting type.
- the front light bar G1F is attached to the roof of the cab 10
- the left light bar G1L is attached to the left end of the top surface of the upper rotating body 3
- the right light bar G1R is attached to the right end of the top surface of the upper rotating body 3
- the rear light bar G1B is attached to the rear end of the top surface of the upper rotating body 3.
- the four information transmission devices G1 front light bar G1F, left light bar G1L, right light bar G1R, and rear light bar G1B
- the controller 30 can communicate the status of the work machine 100 to workers and others located at the front, left, right, and rear of the work machine 100.
- the four information transmission devices G1 and the four external sound collection devices M1 are arranged to correspond to each other.
- the front light bar G1F is arranged adjacent to the front microphone M1F
- the left light bar G1L is arranged adjacent to the left microphone M1L
- the right light bar G1R is arranged adjacent to the right microphone M1R
- the rear light bar G1B is arranged adjacent to the rear microphone M1B.
- Figure 3 is a diagram showing an example configuration of an external sound collection device M1 and information transmission device G1 attached to a work machine 100.
- Figure 3 is a perspective view of a left microphone M1L and left light bar G1L attached to a housing having a substantially rectangular parallelepiped shape. Note that the following explanation referring to Figure 3 relates to the combination of the left microphone M1L and left light bar G1L, but also applies to the combination of the front microphone M1F and front light bar G1F, the combination of the right microphone M1R and right light bar G1R, and the combination of the rear microphone M1B and rear light bar G1B.
- the left microphone M1L and left light bar G1L are arranged on the left side of the approximately rectangular parallelepiped housing so as to face to the left of the work machine 100.
- This arrangement allows the left microphone M1L to efficiently collect sounds generated to the left of the work machine 100, and the left light bar G1L to efficiently communicate the status of the work machine 100 to an operator on the left of the work machine 100.
- the left microphone M1L can pick up the voice of an operator on the left of the work machine 100, and the left light bar G1L can emit light in a predetermined color to notify the operator that the left microphone M1L has picked up the operator's voice.
- an operator on the left of the work machine 100 who speaks into the left microphone M1L can confirm that their voice has reached the left microphone M1L (i.e., the operator of the work machine 100) by looking at the left light bar G1L emitting light in a predetermined color.
- the information transmission device G1 may be provided at the top of each of the four side surfaces of the cab 10.
- the information transmission device G1 may be configured so that the front light bar G1F is attached to the top of the front of the cab 10, the left light bar G1L is attached to the top of the left side of the cab 10, the right light bar G1R is attached to the top of the right side of the cab 10, and the rear light bar G1B is attached to the top of the rear side of the cab 10.
- the information transmission device G1 may also be a single rotating light such as a Nico Torch attached to the top surface of the cab 10, or a display device such as an LCD display or an organic EL display.
- the controller 30 is an example of a control device, and is composed of a computer including, for example, a CPU, a volatile memory device, a non-volatile memory device, and various input/output interfaces. The controller 30 then realizes various functions by, for example, reading a program from the non-volatile memory device, loading it into the volatile memory device, and having the CPU execute it. In the illustrated example, the controller 30 is configured to realize various functions and control the work machine 100.
- the various functions include, for example, a machine guidance function that guides the operator in manually operating the work machine 100.
- the various functions may also include a contact avoidance function that automatically or autonomously operates or stops the work machine 100 to avoid contact between the work machine 100 and an object present within the monitoring range around the work machine 100.
- the boom angle sensor S1 detects the boom angle, which is the rotation angle of the boom 4 relative to the upper rotating body 3.
- the arm angle sensor S2 detects the arm angle, which is the rotation angle of the arm 5 relative to the boom 4.
- the bucket angle sensor S3 detects the bucket angle, which is the rotation angle of the bucket 6 relative to the arm 5.
- Each of the boom angle sensor S1, arm angle sensor S2, and bucket angle sensor S3 may be, for example, a rotary encoder, an acceleration sensor, a six-axis sensor, an IMU (Inertial Measurement Unit), a potentiometer using a variable resistor, or a cylinder stroke sensor that detects the stroke amount of a hydraulic cylinder.
- a rotary encoder for example, a rotary encoder, an acceleration sensor, a six-axis sensor, an IMU (Inertial Measurement Unit), a potentiometer using a variable resistor, or a cylinder stroke sensor that detects the stroke amount of a hydraulic cylinder.
- the detection signal corresponding to the boom angle from the boom angle sensor S1, the detection signal corresponding to the arm angle from the arm angle sensor S2, and the detection signal corresponding to the bucket angle from the bucket angle sensor S3 are input into the controller 30.
- the machine body tilt sensor S4 detects the tilt state of the machine body (undercarriage 1 or upper rotating body 3) relative to the horizontal plane.
- the machine body tilt sensor S4 is attached, for example, to the upper rotating body 3, and detects the tilt angle of the work machine 100 (i.e., the upper rotating body 3) around two axes in the forward/backward and left/right directions.
- the machine body tilt sensor S4 may be, for example, an acceleration sensor, a six-axis sensor, or an IMU.
- the detection signal corresponding to the tilt angle detected by the machine body tilt sensor S4 is input into the controller 30.
- the rotation sensor S5 outputs information related to the rotation of the upper rotating body 3.
- the rotation sensor S5 detects, for example, the rotation angular velocity of the upper rotating body 3 relative to the lower running body 1.
- the rotation sensor S5 may also detect the rotation angle.
- the rotation sensor S5 may be, for example, a gyro sensor, resolver, or rotary encoder.
- the detection signal corresponding to the rotation angle or rotation angular velocity of the upper rotating body 3 detected by the rotation sensor S5 is input to the controller 30.
- the positioning device PS measures the position of the upper rotating body 3.
- the positioning device PS is, for example, a GNSS (Global Navigation Satellite System) compass, and detects the position and orientation of the upper rotating body 3. Detection signals corresponding to the position and orientation of the upper rotating body 3 are input into the controller 30. The function of detecting the orientation of the upper rotating body 3 may be achieved by a direction sensor attached to the upper rotating body 3.
- GNSS Global Navigation Satellite System
- the work machine 100 may be configured so that it can be remotely operated from outside the work machine 100.
- the inside of the cab 10 may be unmanned.
- the operation sensor 29 is configured to detect the operation content of the operator using the operating device 26.
- the operation sensor 29 detects the operation direction and operation amount of the operating device 26 corresponding to each actuator and outputs the detected value to the controller 30.
- the controller 30 can control the opening area of the proportional valve 31 according to the output of the operation sensor 29.
- the controller 30 then supplies the hydraulic oil discharged from the pilot pump 15 to the pilot port of the corresponding control valve in the control valve unit 17.
- the pressure of the hydraulic oil supplied to each pilot port is, in principle, a pressure that corresponds to the operation direction and operation amount of the operating device 26 corresponding to each hydraulic actuator.
- the operating device 26 is configured to supply the hydraulic oil discharged from the pilot pump 15 to the pilot port of the corresponding control valve in the control valve unit 17.
- the control system of the work machine 100 includes a controller 30, a display device D1, an input device D2, a horn button HS, a talk button KS, an external sound collection device M1, an internal sound collection device M2, an external sound output device SP1, an internal sound output device SP2, an external volume dial DL1, an internal volume dial DL2, a switch SW, and a communication device T1.
- the controller 30 is configured to output control commands to the regulator 13 as necessary, thereby changing the discharge rate of the main pump 14.
- controller 30 may be configured to perform control related to a machine guidance function that guides (directs) the operator in manually operating the work machine 100 via the operating device 26. Further, the controller 30 may be configured to perform control related to a machine control function that automatically assists the operator in manually operating the work machine 100 via the operating device 26.
- controller 30 may be realized by other controllers (control devices). That is, the functions of controller 30 may be realized in a distributed manner by multiple controllers.
- the machine guidance function and machine control function may be realized by a dedicated controller (control device).
- Figure 5 is a top view of the interior of the cab 10.
- the work machine 100 is equipped with a driver's seat 50, an operating device 26, a display device D1, and other devices that are arranged inside the cab 10.
- a door for getting on and off is provided on the left side of the driver's seat 50. The operator can open the door to enter the cab 10.
- the driver's seat 50 is located in the center of the driver's cab 10 when viewed from above.
- the driver's seat 50 includes a seat portion 51 on which the operator sits and a backrest 52.
- the driver's seat 50 is a reclining seat, and the tilt angle of the backrest 52 is adjustable.
- a left armrest 53L is located on the left side of the driver's seat 50, and a right armrest 53R is located on the right side.
- the left armrest 53L and right armrest 53R are rotatably supported by the backrest 52.
- a left console 54L is located on the left side of the driver's seat 50, and a right console 54R is located on the right side.
- the left console 54L and the right console 54R extend in the front-to-rear direction.
- the driver's seat 50 is slidable in the front-to-rear direction.
- the driver's seat 50 may also be configured to be slidable in the front-to-rear direction together with the left console 54L and the right console 54R.
- the left operating lever 26L is provided in front of the left console 54L.
- the right operating lever 26R is provided in front of the right console 54R.
- An operator seated in the driver's seat 50 can operate the left operating lever 26L while holding it with his left hand, and can operate the right operating lever 26R while holding it with his right hand.
- An operator seated in the driver's seat 50 can operate the left operating lever 26L with his left hand to drive the arm cylinder 8 and swing hydraulic motor 2A.
- An operator seated in the driver's seat 50 can also operate the right operating lever 26R with his right hand to drive the boom cylinder 7 and bucket cylinder 9.
- the bases of the left operating lever 26L and right operating lever 26R are covered with lever boots 27.
- the left travel pedal 26PL and right travel pedal 26PR are located on the floor in front of the driver's seat 50.
- An operator seated in the driver's seat 50 can operate the left travel pedal 26PL with their left foot to drive the left travel hydraulic motor 2ML.
- an operator seated in the driver's seat 50 can operate the right travel pedal 26PR with their right foot to drive the right travel hydraulic motor 2MR.
- the left travel lever 26DL and right travel lever 26DR are located between the left travel pedal 26PL and right travel pedal 26PR in a top view.
- the left travel lever 26DL and right travel lever 26DR extend upward from the floor in front of the driver's seat 50.
- An operator seated in the driver's seat 50 can drive the left travel hydraulic motor 2ML by gripping and operating the left travel lever 26DL with their left hand, in the same way as operating the left travel pedal 26PL.
- an operator seated in the driver's seat 50 can drive the right travel hydraulic motor 2MR by gripping and operating the right travel lever 26DR with their right hand, in the same way as operating the right travel pedal 26PR.
- the left travel lever 26DL and right travel lever 26DR are positioned so that the operator can operate the left travel lever 26DL and right travel lever 26DR simultaneously with one hand.
- the display device D1 is located on the front right side of the driver's seat 50.
- the display device D1 displays various types of image information.
- the display device D1 includes a display screen that displays information such as the work conditions or operating status of the work machine 100.
- the operator seated in the driver's seat 50 can perform work using the work machine 100 while checking the various types of information displayed on the display device D1.
- the display device D1 may also be provided with an input device D2.
- the input device D2 is located within reach of the operator seated in the driver's cab 10, accepts various operational inputs from the operator, and outputs signals corresponding to the operational inputs to the controller 30.
- the input device D2 may include a touch panel mounted on the display of the display device D1 that displays various information images, a knob switch provided at the tip of one or more of the multiple operating levers included in the operating device 26, or a button switch, lever, toggle switch, or rotary dial installed around the display device D1.
- a signal corresponding to the content of the operation on the input device D2 is input into the controller 30.
- a gate bar 55 is attached to the front of the front end of the left console 54L.
- the gate bar 55 operates in conjunction with the operation of a gate lock lever GL provided on the left console 54L.
- the gate bar 55 is attached to a frame inside the left console 54L so that it can be raised and lowered around a left-right axis at its upper end.
- the gate lock lever GL is a mechanical input operation unit for switching between a state in which the work machine 100 can be operated by the operating device 26 (operable state) and a state in which the work machine 100 cannot be operated by the operating device 26 (inoperable state).
- the gate lock lever GL is configured so that the operator can switch between a first operating position that realizes the inoperable state and a second operating position that realizes the operable state.
- the controller 30 switches between the operable state and the inoperable state depending on the operating state of the gate lock lever GL. In the illustrated example, the controller 30 switches between the operable state and the inoperable state of the work machine 100 by electrically switching between connected and disconnected states of the pilot line depending on the operating state of the gate lock lever GL.
- the gate bar 55 is raised forward (passage prohibited state) to prevent the operator from passing through the boarding/alighting door, as shown in Figure 5.
- the gate bar 55 is housed inside the left console 54L (passage permitted state) so as not to prevent the operator from passing through the boarding/alighting door.
- this configuration can prevent the work machine 100 from moving unintentionally, even if the operator inadvertently touches the operating device 26 when getting on or off the machine. Therefore, this configuration can improve the safety of the work machine 100.
- the work machine 100 may be configured so that it can accept a predetermined operation to start the engine 11 only when the gate lock lever GL is in the second operating position and the gate bar 55 is in a passage prohibiting state. In other words, the work machine 100 may be configured so that it cannot start the engine 11 when the gate lock lever GL is in the first operating position and the gate bar 55 is in a passage permitting state.
- a switch SW is installed on the right console 54R.
- a window console 56 is installed to the right of the right console 54R.
- the window console 56 extends the entire length of the driver's cab 10 in the fore-and-aft direction and is arranged parallel to the right console 54R.
- a display device D1 is installed in front of the window console 56.
- An external volume dial DL1, an internal volume dial DL2, an internal sound collection device M2, etc. are installed on the window console 56.
- a radio tuner 57 and the like are installed on the window console 56.
- the radio tuner 57 and the like may also be installed on the console 54L or the console 54R.
- the radio tuner 57 is provided with a switch. Pressing and rotating the switch allows for on/off control of the radio and adjustment of the volume. Furthermore, the operation for controlling the radio tuner 57 is not limited to operation of a physically provided switch, but may also be operation using a touch panel (of the input device D2) provided on the display device D1. For example, the controller 30 may accept operation on the touch panel to enable on/off control and volume adjustment of the radio tuner 57.
- the volume adjustment of the radio tuner 57 may be adjustable independently of the volume adjustment of the external audio (the operator's voice output into the vehicle), or may be adjustable integrally.
- the internal sound collection device M2 is a device that collects sounds generated within the driver's cab 10.
- the internal sound collection device M2 is an indoor microphone that is configured to pick up the voice of the operator inside the driver's cab 10.
- the horn button HS is a button that the operator of the work machine 100 operates to sound the horn.
- the horn button HS is a knob switch provided at the tip of the left operating lever 26L.
- the speech button KS is a button that the operator of the work machine 100 operates when speaking to workers around the work machine 100.
- the speech button KS is a knob switch provided at the tip of the right operating lever 26R.
- the internal sound output device SP2 is a device that outputs sound to the operator inside the cab 10 and is installed inside the cab 10.
- the internal sound output device SP2 converts electrical signals input from the controller 30 into physical sound (air vibrations) and outputs the sound.
- the internal sound output device SP2 may be installed in any position, for example, near the display device D1, near the input device D2, or near the door of the cab 10.
- the internal sound output device SP2 includes a left interior speaker SP2L attached to the upper left corner of the rear wall of the cab 10, and a right interior speaker SP2R attached to the upper right corner of the rear wall of the cab 10.
- the internal sound output device SP2 may also be headphones or earphones worn by the operator. In this case, the headphones or earphones are connected so as to be able to communicate with the controller 30 via, for example, Bluetooth (registered trademark) or the like.
- the external volume dial DL1 is configured to adjust the volume of the sound output by the external sound output device SP1. Additionally, the volume of the sound output by each external sound output device SP1 may be configured to be adjustable using a device other than the external volume dial DL1, such as a touch panel attached to the display device D1.
- the external volume dial DL1 may be configured to be infinitely rotatable in both the clockwise and counterclockwise directions. This is to accommodate cases where volume adjustment using the external volume dial DL1 is used in conjunction with volume adjustment using a device other than the external volume dial DL1.
- the internal volume dial DL2 is configured to adjust the volume of the sound output by the internal sound output device SP2. Additionally, the volume of the sound output by each internal sound output device SP2 may be configured to be adjustable using a device other than the internal volume dial DL2, such as a touch panel attached to the display device D1.
- the internal volume dial DL2 may be configured to be infinitely rotatable in both the clockwise and counterclockwise directions. This is to accommodate cases where volume adjustment using the internal volume dial DL2 is used in conjunction with volume adjustment using a device other than the internal volume dial DL2.
- the switch SW is used to switch whether or not to activate the sound output function, which outputs sound collected by the external sound collection device M1 from the internal sound output device SP2.
- the switch SW is located on the top surface of the right console 54R.
- the switch SW may also be one of the input devices D2, or may be realized by a touch panel provided on the display device D1, or may be a knob switch.
- the switch SW when the switch SW is on, the sound collected by the external sound collection device M1 is output from the internal sound output device SP2, and when the switch SW is off, the output of the sound collected by the external sound collection device M1 from the internal sound output device SP2 is stopped (muted).
- the sound output function according to this embodiment is a function that outputs sound collected by the external sound collection device M1 from the internal sound output device SP2.
- the controller 30 acquires a sound signal representing the sound collected by the external sound collection device M1, and outputs sound based on this sound signal from the internal sound output device SP2, thereby realizing this function.
- This function allows the operator to hear sounds around the work machine 100, and therefore to hear conversations from people around the work machine 100. The operator is able to communicate with people around the work machine 100.
- the sound output function according to this embodiment is not limited to a function that outputs sound collected by the external sound collection device M1 from the internal sound output device SP2, but may be any function related to the output of sound for conversation.
- the operator and workers working near the work machine must wear equipment (the intercom terminal) that is not necessary for the actual work. In this case, the operator and workers will be wearing the terminal while working, which increases fatigue. Furthermore, not only will the terminal get wet with sweat, causing discomfort, but sweat may also cause malfunctions to the terminal.
- the work machine 100 is provided with a configuration for realizing two-way conversation with a person (for example, worker WK) present in the vicinity of the work machine 100.
- Figure 6 is a conceptual diagram showing two-way conversation between an operator OP aboard the work machine 100 and a worker WK present in the vicinity of the work machine 100.
- the worker WK is located at the front left of the work machine 100, but this does not limit the position of the worker WK with whom two-way conversation takes place.
- the work machine 100 is provided with an internal sound collection device M2 inside the cab 10 and an external sound output device SP1 outside the cab 10. This allows the controller 30 of the work machine 100 to acquire a sound signal indicating sound including voice emitted by the operator OP collected by the internal sound collection device M2, and controls the output of sound based on the sound signal from the external sound output device SP1 provided outside the cab 10. Therefore, the operator OP of the work machine 100 can speak to a worker WK present in the vicinity of the work machine 100. In the illustrated example, the operator OP may be able to speak to the worker WK using the external sound output device SP1 by speaking while pressing the talk button KS when the internal sound collection device M2 is available.
- the work machine 100 is provided with an external sound collection device M1 (including a front microphone M1F) outside the cab 10, and an internal sound output device SP2 inside the cab 10.
- the controller 30 of the work machine 100 acquires sound signals that indicate sounds that include voices emitted by workers WK present in the vicinity of the work machine 100, collected by the external sound collection device M1, and controls the internal sound output device SP2 to output sound based on the sound signals. Therefore, workers WK present in the vicinity of the work machine 100 can speak to the operator OP of the work machine 100.
- the work machine 100 is equipped with an external sound collection device M1 and an external sound output device SP1 arranged outside the cab 10, and an internal sound collection device M2 and an internal sound output device SP2 arranged inside the cab 10.
- the controller 30 controls the output of sounds collected by the external sound collection device M1 from the internal sound output device SP2, and the output of sounds collected by the internal sound collection device M2 from the external sound output device SP1.
- the sounds collected by the external sound collection device M1 may include voices emitted by workers WK present in the vicinity of the work machine 100.
- the sounds collected by the internal sound collection device M2 may include voices emitted by the operator OP.
- the work machine 100 has the function of transmitting sounds to each other's areas by means of sound collection and generation equipment provided outside the work machine 100 and in the area where the operator OP is located. This enables two-way conversation between the operator OP and workers WK present near the work machine 100, facilitating communication and improving convenience.
- the controller 30 switches between control to output sound collected by the external sound collection device M1 from the internal sound output device SP2, and control to output sound collected by the internal sound collection device M2 from the external sound output device SP1.
- This control allows the operator OP to speak to a worker WK present in the vicinity of the work machine 100 at the desired timing, and also prevents the occurrence of feedback, etc.
- Fig. 7 is a block diagram showing an example of the controller 30.
- the controller 30 includes an acquisition unit 301, a detection unit 302, an operation control unit 303, a noise reduction unit 304, an operation reception unit 305, an output control unit 306, and a display control unit 307.
- the acquisition unit 301 acquires detection results from various sensors provided on the work machine 100. For example, the acquisition unit 301 acquires sound signals representing sounds generated around the work machine 100 from the external sound collection device M1. The acquisition unit 301 also acquires sound signals representing sounds including voices emitted by the operator sitting in the operator's seat from the internal sound collection device M2. Furthermore, the acquisition unit 301 acquires image information indicating the imaging results from the imaging device S6.
- the detection unit 302 performs processing to detect people present in the vicinity of the work machine 100 from the image information acquired by the acquisition unit 301 from the imaging device S6. Any method may be used for the person detection processing, regardless of whether it is a well-known method. For example, it may be determined whether the feature extracted from the image information is closer to the feature indicating a person by a predetermined value or more. Alternatively, for example, a person detection sensor may be provided that monitors the imaging space of each of cameras S6F, S6L, S6R, and S6B, and the person detection sensor may detect people present in the vicinity of the work machine 100.
- the person detection sensor is a sensor that distinguishes people from non-human objects and detects energy changes within the corresponding monitored space, for example, and includes a motion detection sensor that uses the output signal of a pyroelectric infrared sensor, a bolometer infrared sensor, an infrared camera, etc.
- the detection unit 302 detects the operating state of the work machine 100 based on the outputs of various sensors.
- the operating state of the work machine 100 includes operating states related to the audio function.
- the volume change operation to lower the volume includes lowering the overall volume of the sound output by the internal sound output device SP2, lowering the volume of the target sound included in the sound output by the internal sound output device SP2, or lowering the volume of the sound collected by one or more of the multiple microphones that make up the external sound collection device M1.
- the external sound collection device M1 if the volume of the sound collected by the external sound collection device M1 or the volume of the target sound is above the threshold, the external sound collection device M1 is operating normally. However, if the volume of the sound collected by the external sound collection device M1 is too loud, excessive noise is occurring around the work machine 100, and it can be said that this is an abnormal environment in which the audio function is not functioning normally.
- the operator OP will not be able to hear the speech of the worker WK present near the work machine 100, and two-way conversation will not actually function.
- the volume of the target sound such as rain, wind, or wiper noise
- the operator OP is notified that the sounds around the work machine 100 are too loud, he or she will immediately recognize that the environment does not allow the audio function to function. Also, in this case, stopping the audio function will prevent excessive noise from being output from the internal sound output device SP2.
- the operation control unit 303 determines that the audio function is unnecessary, it transitions to a first operation mode which includes a notification operation, a stop operation, or a volume change operation.
- the operation control unit 303 may determine that the audio function is unnecessary if the situation around the work machine 100 can be confirmed using a function other than the audio function, if the operator needs to concentrate on operation, or if the operation of the work machine 100 is unstable. Specifically, the operation control unit 303 may determine that the audio function is unnecessary, for example, if a person is detected in the vicinity of the work machine 100, if the work machine 100 is performing a specific operation related to the audio function, if the work machine 100 is performing an operation linked to the payload function, or if the operator OP has set the audio function as unnecessary.
- the setting to make the audio function unnecessary may be performed on a screen displayed on the display device D1.
- the first operating mode may be controlled according to the position of the detected person. For example, the closer the detected person is to the work machine 100, the louder the volume of the sound output by the internal sound output device SP2 may be. Also, for example, if the detected person is located behind the work machine 100, the internal sound output device SP2 may start outputting sound even if the distance to the work machine 100 is far.
- the operator OP when the work machine 100 is performing delicate operations or operations on a steep slope, the operator OP needs to be particularly focused on the work, and the audio function may interfere with operation. In this case, stopping the audio function allows the operator OP to concentrate on operations, improving safety.
- examples of situations in which the operator OP particularly needs to concentrate on work include when loading the work machine 100 onto a transport dump truck, when the work machine 100 is traveling on a slope with a predetermined inclination angle or greater, when the work machine 100 is unstable in its travel or turning due to an accident or malfunction, or when the work machine 100 is performing an action to avoid danger. In these cases, too, stopping the audio function allows the operator OP to concentrate on the operation, improving safety.
- the operator OP of the work machine 100 and the worker WK present in the vicinity of the work machine 100 can converse without using the audio function.
- using the audio function may cause feedback. In this case, stopping the audio function can prevent feedback from occurring without interfering with the conversation between the operator OP and the worker WK.
- the operator OP when the work machine 100 is detecting a load using the payload function, the operator OP needs to be particularly focused on the work, and the audio function can interfere with operation. In this case, stopping the audio function allows the operator OP to concentrate on the work, improving safety.
- the operation control unit 303 determines that the audio function is necessary, it transitions to a second operation mode which includes a notification operation, a start operation, or a volume change operation.
- the operation control unit 303 may determine that the audio function is necessary, for example, when it is not possible to confirm operation around the work machine 100 using functions other than the audio function, when the operator is performing work in cooperation with workers around the work machine 100, or when the work machine 100 is being operated by someone other than the operator.
- the operation control unit 303 may determine that the audio function is necessary, for example, when the object detection device fails to detect an object, when the work machine 100 is performing an operation linked to a machine control function or a remote operation function, or when the work machine 100 is operating in crane mode.
- Examples of cases in which the object detection device fails to detect an object include when the imaging device S6 or LiDAR is malfunctioning, or when the object detection device cannot measure normally due to the influence of the operating environment. Examples of the influence of the operating environment include when it is too dark due to bad weather or when there are many obstacles.
- the operator OP cannot obtain sufficient information from the field of view alone.
- activating the audio function allows the operator OP to infer the status of the work machine 100 based on sounds around the work machine 100, thereby improving safety.
- the work machine 100 is operating automatically in conjunction with the machine control function or remote control function, there is a risk that the operator OP's concentration will wane.
- the audio function is activated, a worker WK present near the work machine 100 can inform the operator OP of the status of the work machine 100, thereby improving safety.
- Crane mode is an operating mode that restricts the operation of the attachment when performing crane work.
- crane work involves rigging work, in which a load is attached to a hook attached to an attachment. Since the rigging worker performs the rigging work near the work machine 100, they must communicate with the operator OP as they proceed with the work. Therefore, when the work machine is operating in crane mode, activating the audio function allows the operator OP and the worker WK performing the rigging work to easily communicate with each other, improving safety.
- the noise elimination unit 304 performs processing to emphasize the human voice band and reduce bands other than the human voice band for the sound signals acquired by the acquisition unit 301 from the external sound collection device M1. These processing methods may be well-known, such as noise canceling processing, or suppressing bands other than the human voice band using a bandpass filter or the like. Specifically, as noise canceling processing, the noise elimination unit 304 performs processing to suppress sounds generated from the work machine 100, such as the engine 11, based on sound signals from multiple external sound collection devices M1. In this way, the noise elimination unit 304 removes noise from the sound signals collected by the external sound collection device M1.
- the operation reception unit 305 receives operations from the operator via one or more of the input device D2, the talk button KS, and the switch SW. For example, the operation reception unit 305 receives an operation indicating whether the talk button KS has been pressed.
- the output control unit 306 controls the output of sound based on the sound signal from the internal sound output device SP2 or the external sound output device SP1. For example, the output control unit 306 controls the output of sound based on the sound signal acquired from the external sound collection device M1 from the internal sound output device SP2. Also, for example, the output control unit 306 controls the output of sound based on the sound signal acquired from the internal sound collection device M2 from the external sound output device SP1.
- the output control unit 306 When the output control unit 306 receives a press of the talk button KS, it controls the output of sound based on the sound signal acquired from the internal sound collection device M2 from the external sound output device SP1. While the talk button KS remains pressed, the output control unit 306 controls the output of sound based on the sound signal acquired from the internal sound collection device M2 from the external sound output device SP1. When the talk button KS is released from being pressed, the output control unit 306 stops the control of the output of sound based on the sound signal acquired from the internal sound collection device M2 from the external sound output device SP1, and controls the output of sound based on the sound signal acquired from the external sound collection device M1 from the internal sound output device SP2.
- This control allows the operator to speak to people around the work machine 100 at the desired timing. This control also allows the operator to listen to sounds around the work machine 100 when there is no need to speak to people around the work machine 100.
- the predetermined operation for switching the output control described above is not limited to whether or not the talk button KS is continuously pressed.
- the output control may be switched each time the predetermined button is pressed, or the output control may be switched depending on whether or not the operator directs their gaze toward the display device D1 based on an image captured by an imaging device installed in the driver's cab 10, or the output control may be switched depending on an operation on the touch panel included in the input device D2. In this way, it is sufficient to switch the output control depending on a predetermined operation.
- the output control unit 306 controls the output of sound collected by the external sound collection device M1 from the external sound output device SP1 unless the talk button KS is pressed or an operation to turn off the switch SW is received. This control causes sound collected by the external sound collection device M1 to be output from the external sound output device SP1 unless the operator intentionally operates it, allowing the operator to recognize the situation around the work machine 100.
- the output control unit 306 When sound is output from the internal sound output device SP2 or the external sound output device SP1, the output control unit 306 performs a noise canceling function on the sound. Noise canceling may use well-known techniques, for example, removing the noise component by superimposing a sound that is out of phase with the noise component. Furthermore, the output control unit 306 may perform processing to emphasize the human voice band for the output sound. By having the output control unit 306 perform the noise canceling function, it becomes easier to understand what is being said.
- the output control unit 306 controls the output of one of the sounds, alarms, and horns collected by the internal sound collection device M2 from the external sound output device SP1.
- the output control unit 306 controls the output of one of the sounds, alarms, and horns collected by the internal sound collection device M2 from the external sound output device SP1 based on priority.
- the display control unit 307 controls the display of the display device D1. In response to the notification operation by the operation control unit 303, the display control unit 307 displays the operating status related to the voice function on the display device D1.
- the display control unit 307 may also display information related to the operating mode of the voice function on the display device D1 along with the operating status related to the voice function. Examples of information related to the operating mode of the voice function include information indicating that the operating mode of the voice function has been switched or information indicating that a switch in the operating mode of the voice function is being proposed.
- Example of display on display device is a diagram showing an example of display on the display device D1.
- the display device D1 of the work machine 100 has an image display unit 142.
- the image display unit 142 displays a display screen 185 including a date and time display area 142a, a traveling mode display area 142b, an attachment display area 142c, a fuel efficiency display area 142d, an engine control status display area 142e, an engine operating time display area, a coolant temperature display area 142g, a remaining fuel amount display area 142h, a rotation speed level display area 142i, a urea water remaining amount display area 142j, a hydraulic oil temperature display area 142k, an excavator status display area 421, a first image display area 422, a second image display area 423, and a notification display area 424.
- the travel mode display area 142b, attachment display area 142c, engine control status display area 142e, and rotation speed level display area 142i are areas that display setting status information, which is information related to the setting status of the work machine 100.
- the fuel consumption display area 142d, engine operating time display area, coolant temperature display area 142g, remaining fuel amount display area 142h, remaining urea water amount display area 142j, and hydraulic oil temperature display area 142k are areas that display operating status information, which is information that represents the operating status of the work machine 100 based on the detection results of various sensors.
- the date and time display area 142a is an area that displays the current date and time.
- the driving mode display area 142b is an area that displays the current driving mode.
- the attachment display area 142c is an area that displays an image representing the currently attached attachment.
- the fuel efficiency display area 142d is an area that displays fuel efficiency information calculated by the controller 30.
- the fuel efficiency display area 142d includes an average fuel efficiency display area 142d1 that displays the lifetime average fuel efficiency or average section fuel efficiency, and an instantaneous fuel efficiency display area 142d2 that displays instantaneous fuel efficiency.
- the engine control status display area 142e is an area that displays the control status of the engine 11.
- the engine operating time display area is an area that displays the cumulative operating time of the engine 11.
- the coolant temperature display area 142g is an area that displays the current temperature state of the engine coolant.
- the remaining fuel amount display area 142h is an area that displays the remaining amount of fuel stored in the fuel tank.
- the RPM level display area 142i is an area that displays, as an image, the current level of the engine 11 that has been set using the dial. A number indicating the selected level is displayed in the RPM level display area 142i. The number “1” displayed in the RPM level display area 142i indicates that the selected RPM level is the "first level.” The number “n” displayed in the RPM level display area 142i indicates that the selected RPM level is the “nth level.” “n” is a natural number. When the operator rotates the dial, the number displayed in the RPM level display area 142i changes.
- the urea water remaining amount display area 142j is an area that displays an image of the remaining amount of urea water stored in the urea water tank.
- the hydraulic oil temperature display area 142k is an area that displays the temperature of the hydraulic oil in the hydraulic oil tank.
- the shovel status display area 421 is an area that displays information showing the positional relationship between the work machine 100 and people detected in the vicinity of the work machine 100.
- the shovel status display area 421 is a display area that shows the real space with the work machine 100 at its center at a specified scale.
- the shovel status display area 421 has a shovel icon 421b at the center of the area, indicating the presence of the work machine 100.
- the shovel status display area 421 In addition to the shovel icon 421b representing the work machine 100, the shovel status display area 421 simultaneously displays a direction display icon 421a indicating the direction in which the work machine 100 can proceed, and person detection icons 421e, 421f, and 421g representing people detected around the work machine 100.
- the area other than the shovel icon 421b, direction display icon 421a, and person detection icons 421e, 421f, and 421g may be displayed in a single color (e.g., black), for example.
- the shovel icon 421b is an icon that combines an image showing the upper rotating body 3 and an image showing the lower running body 1, in accordance with the positional relationship between the upper rotating body 3 and the lower running body 1 based on the rotation angle.
- the direction display icon 421a is triangular and indicates the direction in which the work machine 100 will travel when the travel lever is tilted forward. Note that this embodiment shows only one example of an icon that indicates the direction in which the work machine 100 will travel when the travel lever is tilted forward, and any shape may be used as long as it represents the direction in which the work machine 100 can travel.
- the person detection icons 421e, 421f, and 421g are icons that represent people detected from image information captured by the imaging device S6. Specifically, the person detection icons 421e, 421f, and 421g are positioned based on the person's position information received from the controller 30. For example, the person detection icons 421e, 421f, and 421g are positioned at positions obtained by multiplying the direction and distance of the detected person, based on the work machine 100, by a predetermined scale factor.
- the positional relationship between the shovel icon 421b and the person detection icons 421e, 421f, and 421g corresponds to the positional relationship between the work machine 100 in real space and the people present around the work machine 100.
- the work machine 100 and the people in the vicinity can be displayed on the display device D1, allowing the operator of the work machine 100 to recognize the positional relationship between the work machine 100 and the people in the vicinity.
- the shovel status display area 421 displays an icon image showing the work machine 100 and people around the work machine 100 as icons, but the shovel status display area 421 may also display an overhead image.
- the overhead image may be an image generated by synthesizing image information captured by an imaging device S6 provided on the work machine 100, for example, or may be an image captured from the air above the work machine 100, for example, by a drone or the like.
- the excavator status display area 421 displays a first circular area 421c and a second circular area 421d, which are determined based on the distance from the work machine 100, using the work machine 100 as the reference point.
- the display control unit 307 superimposes a frame showing information indicating the area in which the person was detected on the right image and rear image in which the person was detected.
- a frame 422b is displayed on the right image in the first image display area 422, and a frame 423b is displayed on the rear image in the second image display area 423.
- a person icon 422a is displayed within the frame 422b, and a person icon 423a is displayed within the frame 423b.
- the notification display area 424 displays an operating status 424a related to the voice function.
- the notification display area 424 may also display information 424b related to the operating mode of the voice function.
- the information 424b related to the operating mode may include a character string suggesting a change in the operating mode.
- the information 424b related to the operating mode may also include a character string notifying that the operating mode has been changed.
- the notification display area 424 may display the operating status 424a or information 424b related to the operating mode other than a character string.
- the operating status 424a may be an icon, image, or video indicating the operating status.
- the information 424b related to the operating mode may be, for example, an icon, image, or video indicating the operating mode.
- the notification display area 424 displays a string such as "The volume of the external sound is abnormal" as an example of an operating status related to the voice function.
- the notification display area 424 also displays a string such as "Please turn off the conversation function” as an example of a suggestion to switch operating modes.
- An example of a string notifying that the operating mode has been switched is "The conversation function has been turned off.”
- the notification display area 424 may display a setting switch 424c.
- the setting switch 424c is a switch that switches between whether the conversation function is required (ON) and whether the conversation function is not required (OFF). In the illustrated example, when the switch is located on the left side, it is ON, and when it is located on the right side, it is OFF. When the setting switch 424c is OFF, the controller 30 determines that the voice function is not required.
- the operator OP can immediately recognize the operating status related to the voice function. If an abnormality occurs in the voice function, the operator OP can quickly take measures. For example, the operator OP can alert workers WK present in the vicinity of the work machine 100 or the manager in charge of the site.
- the notification display area 424 is displayed on the display device D1 together with the shovel status display area 421, first image display area 422, and second image display area 423.
- the operator To check the operating status related to the voice function in the notification display area 424, the operator must direct their gaze towards the display device D1. This means that the operator is unable to check the situation around the work machine 100 with the naked eye.
- the display device D1 displays the shovel status display area 421, first image display area 422, and second image display area 423 on the same screen as the notification display area 424. The operator can check the notification display area 424 while checking the situation around the work machine 100, so they can check the operating status related to the voice function without compromising safety.
- Fig. 9 is a flowchart showing an example of the operation control process.
- the operation control process is repeatedly executed at predetermined time intervals while the work machine 100 is operating.
- the predetermined time interval may be, for example, a time length equivalent to the frame length of the noise removal process.
- step S101 the acquisition unit 301 of the controller 30 acquires, from the external sound collection device M1, a sound signal representing sound generated in the vicinity of the work machine 100.
- the acquisition unit 301 sends the acquired sound signal to the noise reduction unit 304.
- step S102 the detection unit 302 of the controller 30 detects the operating state of the work machine 100 based on the outputs of the various sensors.
- the detection unit 302 sends information indicating the detected operating state to the operation control unit 303.
- step S103 the operation control unit 303 of the controller 30 receives information indicating the operating state from the detection unit 302.
- the operation control unit 303 determines whether the voice function is operating normally based on the operating state of the work machine 100. If it is determined that the voice function is operating normally (YES), the operation control unit 303 proceeds to step S104. On the other hand, if it is determined that the voice function is not operating normally (NO), the operation control unit 303 proceeds to step S105.
- step S104 the operation control unit 303 of the controller 30 determines whether or not the voice function is necessary based on the operating state of the work machine 100. If it is determined that the voice function is necessary (YES), the operation control unit 303 proceeds to step S106. On the other hand, if it is determined that the voice function is not necessary (NO), the operation control unit 303 proceeds to step S105.
- step S105 the operation control unit 303 of the controller 30 transitions to a first operation mode that includes a stop operation or a volume change operation. If the first operation mode includes a stop operation, the operation control unit 303 stops the audio function. However, if the audio function is already stopped, the operation control unit 303 does not need to perform the stop operation. If the first operation mode includes a volume change operation, the operation control unit 303 lowers the volume of the internal sound output device SP2.
- step S110 If the first operation mode includes a stop operation, the operation control unit 303 proceeds to step S110. On the other hand, if the first operation mode includes a volume change operation, the operation control unit 303 proceeds to step S107.
- step S106 the operation control unit 303 of the controller 30 transitions to a second operation mode that includes a start operation or a volume change operation. If the second operation mode includes a start operation, the operation control unit 303 starts the audio function. However, if the audio function has already started, the operation control unit 303 does not need to execute the start operation. If the second operation mode includes a volume change operation, the operation control unit 303 increases the volume of the internal sound output device SP2.
- the noise elimination unit 304 of the controller 30 adjusts the noise elimination process.
- the noise elimination unit 304 automatically creates a filter that cuts out a specific frequency band.
- the specific frequency band may be set manually by a person such as the operator or manager of the work machine 100.
- the specific frequency band may include a band of a specific sound (e.g., a buzzer sound).
- the noise elimination unit 304 may learn a filter that cuts out a specific frequency band based on a sound signal collected by the external sound collection device M1.
- the specific frequency band may include a band of noise that is constantly present in the sound signal.
- the display control unit 307 may display on the display device D1 a message that the noise reduction processing has been adjusted.
- the display control unit 307 may display on the display device D1 a message that the noise reduction processing has been adjusted, as well as information indicating the frequency band or sound to be cut.
- the display control unit 307 may display the sound pressure level for each frequency set in the filter as a waveform or the like.
- FIG. 10 is a diagram showing an example of the noise reduction adjustment screen.
- the noise reduction adjustment screen 430 has a level adjustment area 431, a flatten button 432, an invert button 433, and an apply button 434.
- the noise reduction adjustment screen 430 is displayed on the display device D1 under the control of the display control unit 307.
- the level adjustment area 431 is an area for setting the sound pressure level for each frequency. In the level adjustment area 431, the sound pressure level of the frequency band you want to cut is lowered to create a filter that removes noise in that frequency band.
- the flatten button 432 is a button for flattening the sound pressure level of each frequency band in the level adjustment area 431.
- the invert button 433 is a button for inverting the sound pressure level of each frequency band in the level adjustment area 431.
- the apply button 434 is a button for confirming the sound pressure level for each frequency set in the level adjustment area 431 and creating a filter.
- audio with reduced noise can be output from the internal sound output device SP2.
- the operator can selectively suppress sounds that are unnecessary for the operator, making necessary sounds easier to hear.
- the external sound collection device M1 learns a filter from the sound signals collected by the external sound collection device M1, it becomes possible to accurately remove noise that is constantly occurring at the work site.
- step S108 the noise elimination unit 304 of the controller 30 receives the sound signal from the acquisition unit 301.
- the noise elimination unit 304 performs noise elimination processing on the sound signal.
- the noise elimination unit 304 sends the sound signal after noise elimination to the output control unit 306.
- step S109 the output control unit 306 of the controller 30 receives the noise-removed sound signal from the noise removal unit 304.
- the output control unit 306 sends the noise-removed sound signal to the internal sound output device SP2.
- the internal sound output device SP2 receives the noise-removed sound signal.
- the internal sound output device SP2 outputs sound based on the noise-removed sound signal.
- step S110 the operation control unit 303 of the controller 30 executes a notification operation.
- the display control unit 307 of the controller 30 displays the operation status related to the audio function on the display device D1.
- the controller 30 transitions to a specific voice function operation mode depending on the operating state of the work machine 100. If the operating state is such that the voice function is not functioning normally, or if the voice function is not necessary, executing the voice function may interfere with the operation of the operator OP. By transitioning the voice function operation mode depending on the operating state of the work machine 100, the voice function does not interfere with the operation of the operator OP, and the safety of the work machine 100 can be improved.
- the internal volume dial DL2 In addition to adjusting the volume output from the internal sound output device SP2, the internal volume dial DL2 also functions as a push button switch. Depending on whether the internal volume dial DL2 in this embodiment is pressed, the sound output can be muted or not.
- Switch SW is a button that switches the sound output function on and off when pressed.
- the specific function of switch SW is as described above, so a detailed explanation will be omitted.
- the controller 30 turns the sound output function on.
- the external volume dial DL1 In addition to adjusting the volume of the sound output from the external sound output device SP1, the external volume dial DL1 also functions as a push button switch. Whether or not the external volume dial DL1 in this embodiment is pressed determines whether or not to speak to the worker around the work machine 100. In other words, pressing the external volume dial DL1 functions as a speech button similar to the speech button KS of the knob switch shown in FIG. 5.
- the controller 30 of the work machine 100 receives a signal indicating that the external volume dial DL1 (speak button) has been pressed, it is possible to control the output of sound collected by the internal sound collection device M2 (including the sound emitted by the operator OP) from the external sound output device SP1.
- the controller 30 of the work machine 100 receives a signal indicating that the internal volume dial DL2 has been pressed while the sound output function is on, it mutes the sound being output. This causes the controller 30 to stop control over the output from the internal sound output device SP2 of the sound collected by the external sound collection device M1 (including the sound emitted by the worker WK present around the work machine 100).
- the conditions under which the sound output function becomes available are not limited, and may be determined depending on the implementation.
- the controller 30 of the work machine 100 can switch the sound output function on and off in response to a signal from the switch SW only when the drive source 11 of the work machine 100 is operating, and can also switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed. Therefore, when the drive source 11 of the work machine 100 is operating, the controller 30 can control the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and can also control the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
- the controller 30 inhibits the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and inhibits the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
- two-way conversation is possible when the drive source 11 of the work machine 100 is operating. Therefore, while the operator is working with the work machine 100, they can communicate with people around the work machine 100, thereby improving work efficiency.
- the controller 30 can reduce power consumption by limiting the use of the sound output function to a state in which the drive source 11 of the work machine 100 is operating.
- the controller 30 of the work machine 100 can switch the sound output function on and off in response to a signal from the switch SW only when the work machine 100 is in the key-on state (including when the drive source 11 of the work machine 100 is operating), and can switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed.
- peripheral devices e.g., air conditioners, radio tuners, etc.
- the controller 30 can control the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and can also control the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
- the controller 30 inhibits control of outputting sound collected by the external sound collection device M1 from the internal sound output device SP2, and also inhibits control of outputting sound collected by the internal sound collection device M2 from the external sound output device SP1.
- two-way conversation is possible when the work machine 100 is in the key-on state. Therefore, when the work machine 100 is not performing work, the operator can easily communicate with people present in the vicinity of the work machine 100, even during pre-work meetings, for example, thereby improving work efficiency.
- the controller 30 of the work machine 100 may be able to switch the sound output function on and off in response to a signal from the switch SW only when the gate lock lever GL of the work machine 100 is in the second operating position and the gate bar 55 is in a passage-prohibiting state, and may be able to switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed.
- controller 30 of the work machine 100 may be able to switch the sound output function on and off in response to a signal from the switch SW when the gate lock lever GL of the work machine 100 is in the first operating position and the gate bar 55 is in a passage-allowing state, and may be able to switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed.
- the controller 30 of the work machine 100 can switch the sound output function on and off in response to a signal from the internal volume dial DL2, even when the work machine 100 is in a key-off state, in other words, when the drive source 11 is not operating and power is not being supplied to peripheral devices, etc., provided on the work machine 100.
- the controller 30 can control the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and can also control the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
- the work machine 100 enables two-way conversation at any time. This can prevent situations where the operator is speaking but those around him/her cannot hear, making communication easier.
- FIG. 11 is a top view of another example configuration of the work machine 100.
- the work machine 100 shown in Figure 11 differs from the work machine 100 shown in Figure 1 in that the external sound output device SP1 is made up of four speakers (front speaker SP1F, left speaker SP1L, right speaker SP1R, and rear speaker SP1B).
- the external sound output device SP1 is made up of a single omnidirectional speaker provided above the cab 10.
- the work machine 100 shown in FIG. 11 can output sound toward the worker WK in front of the work machine 100 without outputting sound toward the workers WK to the left, right, and rear of the work machine 100, for example, by turning on the front speaker SP1F (a state in which sound can be output) and turning off the left speaker SP1L, right speaker SP1R, and rear speaker SP1B (a state in which sound cannot be output).
- the front speaker SP1F a state in which sound can be output
- the left speaker SP1L, right speaker SP1R, and rear speaker SP1B a state in which sound cannot be output
- a front camera S6F and a front microphone M1F are provided adjacent to the front speaker SP1F, and a front light bar G1F is provided on the housing of the front microphone M1F.
- a left camera S6L and a left microphone M1L are provided adjacent to the left speaker SP1L, and a left light bar G1L is provided on the housing of the left microphone M1L.
- a right camera S6R and a right microphone M1R are provided adjacent to the right speaker SP1R, and a right light bar G1R is provided on the housing of the right microphone M1R.
- a rear camera S6B and a rear microphone M1B are provided adjacent to the rear speaker SP1B, and a rear light bar G1B is provided on the housing of the rear microphone M1B.
- the external sound output device SP1 may also be composed of one or more parametric speakers.
- a parametric speaker is a speaker that uses ultrasonic waves and can selectively transmit sound to people within a specific narrow range.
- a parametric speaker can transmit sound toward any position.
- the controller 30 may detect a worker WK around the work machine 100 based on images captured by the imaging device S6 and identify the position of the worker WK. Furthermore, if there are multiple workers WK around the work machine 100, the controller 30 may distinguish between a conversation target (a worker WK who is speaking) and a non-conversation target (a worker WK who is not speaking) based on the output of the four external sound collection devices M1. Furthermore, the controller 30 may distinguish between a conversation target (a worker WK facing the work machine 100) and a non-conversation target (a worker WK who is not facing the work machine 100) based on images captured by the imaging device S6. The controller 30 may then turn on the speaker and light bar facing the worker WK.
- the controller 30 may turn on the rear speaker SP1B while keeping the front speaker SP1F, left speaker SP1L, and right speaker SP1R off. In this case, the controller 30 may turn on the rear light bar G1B while keeping the front light bar G1F, left light bar G1L, and right light bar G1R off. Note that this type of function may be implemented in the work machine 100 shown in Figures 1 to 5.
- the controller 30 can output sound in the direction where the worker WK is located, without outputting sound in the direction where the worker WK is not present. This allows the worker WK to easily recognize whether he or she is considered a conversation target or non-target.
- FIG. 12 is a schematic diagram showing an example configuration of the operation system SYS.
- the operation system SYS includes a construction machine 100, a remote control room RC, and a management center MC. Note that the detailed configuration of the construction machine 100 is omitted from Fig. 12. This is because the construction machine 100 shown in Fig. 12 has the same configuration as the construction machine 100 shown in Fig. 1 or Fig. 11.
- the work machine 100, remote control room RC, and management center MC are connected to one another so that they can send and receive data via the communication network NW.
- the work machine 100, remote control room RC, and management center MC may also be connected to one another so that they can send and receive data directly without going through the communication network NW.
- the work machine 100 sends information about the work site to the remote control room RC. This allows the remote operator RO in the remote control room RC to understand the situation at the work site based on the information from the work machine 100.
- the work machine 100 is equipped with a sensor that can recognize the position and shape of objects present at the work site in three dimensions.
- the work machine 100 is equipped with a spatial recognition device.
- the work machine 100 can transmit the results of three-dimensional measurements of the work site to the remote control room RC.
- the spatial recognition device is a device for recognizing the space around the work machine 100.
- the spatial recognition device is a LiDAR.
- the LiDAR measures the distance between the LiDAR and each of over one million points within the monitoring range.
- the spatial recognition device may be any device that is capable of measuring the distance to an object.
- the spatial recognition device may be a stereo camera, or a combination of the imaging device S6 and a ranging device such as millimeter-wave radar.
- the operation system SYS may include one or more work machines 100.
- the remote operator RO of a specific work machine 100 can obtain information about the work site obtained by that specific work machine 100, as well as information about the work site obtained by one or more other work machines 100.
- the remote control room RC is equipped with a communication device T2, a remote controller 40, an operation device 42, an operation sensor 43, a display device D1E, an internal sound collection device M2E, and an internal sound output device SP2E.
- the remote control room RC also is equipped with an operation seat DS where the remote operator RO sits to remotely operate the work machine 100.
- the communication device T2 is configured to be able to communicate with the communication device T1 attached to the work machine 100.
- the remote controller 40 is a computing device that performs various calculations.
- the remote controller 40 is configured as a microcomputer including a CPU and memory.
- the various functions of the remote controller 40 are realized when the CPU executes programs stored in the memory.
- the display device D1E is a device capable of displaying various types of information.
- the display device D1E displays images based on information transmitted from the work machine 100 so that the remote operator RO in the remote control room RC can visually confirm the area around the work machine 100.
- the display device D1E is a liquid crystal display that displays images captured by the imaging device S6 mounted on the work machine 100.
- the display device D1E may also be a display or projector that provides naked-eye stereoscopic vision, or may be VR goggles, etc.
- the internal sound output device SP2E is a device capable of outputting various types of sound information.
- the internal sound output device SP2E outputs sound based on information transmitted from the work machine 100 so that the remote operator RO in the remote control room RC can hear sounds emitted at the work site.
- the internal sound output device SP2E may be configured, for example, to output sound captured by an external sound collection device M1 attached to the outside of the cab 10, or may be configured to output sound captured by an internal sound collection device M2 attached to the inside of the cab 10.
- the internal sound collection device M2 may be provided at a position corresponding to the ears of the operator seated in the cab 10.
- the internal sound output device SP2E may be a stationary device such as a speaker, or a wearable device such as earphones or headphones.
- the speaker may be a monaural speaker, a stereo speaker, or a surround speaker.
- the speaker may also be an omnidirectional speaker or a directional speaker.
- the wearable device may be equipped with a noise canceling function, a spatial audio function (stereophonic sound function), or a bone conduction function.
- the operating device 42 is equipped with an operation sensor 43 for detecting the operation content of the operating device 42.
- the operation sensor 43 is, for example, an inclination sensor that detects the tilt angle of the operating lever, or an angle sensor that detects the swing angle of the operating lever around the swing axis.
- the operation sensor 43 may also be composed of other sensors such as a pressure sensor, current sensor, voltage sensor, or distance sensor.
- the operation sensor 43 outputs information related to the detected operation content of the operating device 42 to the remote controller 40.
- the remote controller 40 generates an operation signal based on the received information and transmits the generated operation signal to the work machine 100.
- the operation sensor 43 may be configured to generate the operation signal. In this case, the operation sensor 43 may output the operation signal to the communication device T2 without passing through the remote controller 40. With this configuration, the remote operator RO can remotely operate the work machine 100 from the remote control room RC.
- the management center MC is a facility equipped with various devices for managing the work machine 100 at the work site or the remote operation of the work machine 100 by the remote operator RO in the remote control room RC.
- the management center MC is installed in a location away from both the work site of the work machine 100 and the remote control room RC.
- the management center MC is also equipped with a management device 200, an internal sound collection device M2C, and an internal sound output device SP2C.
- the management device 200 is an example of a control device, and is, for example, a server computer (a so-called cloud server) or an edge server.
- the management device 200 is typically a fixed terminal device, but may also be a portable terminal device (for example, a laptop computer, tablet, or smartphone).
- a manager at the management center MC can, for example, use a sound collection device (external sound collection device M1 or internal sound collection device M2) attached to the work machine 100 and an internal sound output device SP2C to listen to sounds emitted at the work site. Furthermore, a manager at the management center MC can, for example, use an internal sound collection device M2E and internal sound output device SP2C provided in a remote control room RC to listen to sounds emitted in the remote control room RC. Furthermore, a manager at the management center MC can, for example, use the internal sound collection device M2C and an external sound output device SP1 attached to the work machine 100 to communicate the voices he or she makes to workers WK around the work machine 100.
- a manager at the management center MC can, for example, use the internal sound collection device M2C and an internal sound output device SP2 attached to the work machine 100 to communicate the voices he or she makes to the operator OP of the work machine 100.
- an administrator at the management center MC can, for example, use the internal sound collection device M2C and the internal sound output device SP2E provided in the remote control room RC to transmit the voices they make to the remote operator RO in the remote control room RC.
- FIG. 13 is a schematic diagram showing an example configuration of an operation system SYS1 for a work machine 100A according to this embodiment.
- the operation system SYS1 includes a work machine 100A, an installed microphone 1501, an installed speaker 1502, a drone 1503, and an autonomous mobile robot 1504.
- the work machine 100A may have the same configuration as the work machine 100 shown in FIG. 1 or FIG. 11, or may have a configuration in which one or more of the external sound collection device M1 and the external sound output device SP1 have been removed from the work machine 100.
- this embodiment describes a case in which two-way conversation can be achieved even with a work machine 100A that is not equipped with one or more of the external sound collection device M1 and the external sound output device SP1.
- the installed microphone 1501 is a sound collection device installed at the work site and can be connected to the work machine 100A via wireless communication or wired communication.
- the installed microphone 1501 transmits a sound signal indicating the collected sound to the work machine 100.
- the installed speaker 1502 is a sound output device installed at the work site and can be connected to the work machine 100 via wireless or wired communication.
- the installed speaker 1502 outputs a sound indicated by a sound signal received from the work machine 100A.
- the autonomous mobile robot 1504 is equipped with a sound collection device 1504A and a sound output device 1504B, and can be connected to the work machine 100 via wireless communication or wired communication.
- the autonomous mobile robot 1504 transmits a sound signal indicating the sound collected by the sound collection device 1504A to the work machine 100A.
- the autonomous mobile robot 1504 also outputs the sound indicated by the sound signal received from the work machine 100 from the sound output device 1504B.
- the autonomous mobile robot 1504 is capable of moving within the work site area. This embodiment does not limit the manner in which the autonomous mobile robot 1504 moves. For example, if the autonomous mobile robot 1504 is equipped with a camera (an example of a detection device) (not shown), the autonomous mobile robot 1504 may identify the location of the work machine 100A based on image information captured by the camera, and may move to follow the work machine 100A when the work machine 100A moves. The autonomous mobile robot 1504 may also follow the work machine 100A so that the signal strength in communication with the work machine 100A is above a predetermined threshold. Furthermore, the autonomous mobile robot 1504 may identify the location of a worker based on image information captured by the camera, and move to a position where the worker's voice can be collected.
- a camera an example of a detection device
- the drone 1503 is equipped with a sound collection device 1503A and a sound output device 1503B, and can be connected to the work machine 100A via wireless communication or wired communication.
- the drone 1503 transmits a sound signal indicating the sound collected by the sound collection device 1503A to the work machine 100A.
- the drone 1503 also outputs the sound indicated by the sound signal received from the work machine 100A from the sound output device 1503B.
- the drone 1503 is provided so that it can fly within the work site area. This embodiment does not limit the movement mode of the drone 1503; it may move by following the work machine 100A, like the autonomous mobile robot 1503, or it may move to a position where it can collect the voice of the worker. Because the drone 1503 is flying, it can move regardless of the terrain or obstacles at the work site.
- the number of each of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 installed at the work site may be one or more.
- the work machine 100A is equipped with a controller 30.
- the controller 30 is able to send and receive information to and from each of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504.
- the controller 30 controls the transmission of a sound signal indicating the sound collected by the internal sound collection device M2 via the communication device T1 to a sound output device located at a distance from the work machine 100A, and controls the output of the sound indicated in the sound signal received via the communication device from the sound collection device located at a distance from the work machine 100A from the internal sound output device SP2.
- the controller 30 transmits a sound signal indicating the sound collected by the internal sound collection device M2 to at least one of the installed speaker 1502, the drone 1503, and the autonomous mobile robot 1504.
- the controller 30 receives a sound signal from at least one of the installed microphone 1501, the drone 1503, and the autonomous mobile robot 1504, and outputs the sound indicated by the received sound signal from the internal sound output device SP2.
- the sound collection device and sound output device installed at the work site are not limited to the above-mentioned configurations.
- a monitoring device that monitors the work site to be equipped with a sound collection device and sound output device in addition to a spatial recognition device (e.g., an imaging device).
- a spatial recognition device e.g., an imaging device
- the work machine 100A establishes communication with at least one of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 present at the work site only when certain conditions are met, thereby enabling two-way conversation.
- communication is established with each of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 that is determined to be within a certain distance from the work machine 100A, enabling two-way conversation.
- Any method, including well-known methods, may be used to determine whether equipment present at the work site is within a predetermined distance of the work machine 100A. For example, if equipment is captured in image information captured by the imaging device S6, the distance to the equipment may be determined from the size and position of the image. In this case, a sticker or the like bearing a two-dimensional code may be attached to the equipment.
- the controller 30 can recognize information about the equipment captured in the image information (for example, the equipment's unique information, the address information of the connection destination, etc.) from the two-dimensional code captured in the image information.
- Another example is a method in which the controller 30 of the work machine 100A stores the position information of the installed microphone 1501 and the installed speaker 1502 in advance. The controller 30 then determines whether the installed microphone 1501 and the installed speaker 1502 are present within a predetermined range based on the positions measured by the positioning device PS. A further method is for the installed microphone 1501, the installed speaker 1502, the drone 1503, and the autonomous mobile robot 1504 to each periodically transmit position information to the work machine 100A.
- this embodiment does not limit the condition for realizing at least one of sound output and sound collection to being within a specified distance.
- the closest of the multiple work machines 100A may establish communication with a device for realizing the sound output function (e.g., the installed microphone 1501, the installed speaker 1502, the drone 1503, or the autonomous mobile robot 1504) to realize at least one of sound output and sound collection.
- a priority may be set for each of the multiple work machines 100A.
- the device for realizing the sound output function e.g., the installed microphone 1501, the installed speaker 1502, the drone 1503, or the autonomous mobile robot 1504 may establish communication with the work machine 100A with the highest priority among the multiple work machines 100A to realize at least one of sound output and sound collection.
- the targets of transmission and reception of sound signals to and from the work machine 100A are not limited to the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 shown in FIG. 13.
- the work machine 100A may transmit and receive sound signals to and from a communication terminal owned by a person.
- the controller 30 controls output from a sound output device provided outside the cab, and sends a sound signal to equipment having a sound output device located away from the work machine 100A.
- the controller 30 controls output from a sound output device provided outside the cab, and sends a sound signal to equipment having a sound output device located away from the work machine 100A.
- the work machine 100A is not provided with an external sound output device SP1 and an external sound collection device M1, two-way conversation can be realized between the operator on board the work machine 100A and a person located outside the work machine 100A.
- a sound collection device and sound output device are used that are located away from the work machine 100A.
- the effects of noise and the like are suppressed when transmitting sound to people outside and collecting the sound of people outside, making it easier to have two-way conversations.
- the internal sound collection device, external sound collection device, internal sound output device, and external sound output device shown in the above-described embodiments can be implemented in a variety of ways.
- internal sound collection devices provided in positions capable of acquiring sounds uttered by the operator include internal sound collection devices M2, M2C, and M2E.
- internal sound collection devices provided near the operator's mouth capable of acquiring sounds uttered by the operator include internal sound collection devices M2, M2C, and M2E.
- internal sound collection devices provided in the direction the operator faces when the operator wishes to communicate include internal sound collection devices M2, M2C, and M2E.
- external sound collection devices provided in positions capable of collecting sounds generated at a work site where a work machine is working include external sound collection devices M1 (M1F, M1R, M1L, M1B), 1501, 1503A, and 1504A.
- external sound collection devices provided in positions capable of collecting sounds emitted by people present at a work site where a work machine is working include external sound collection devices M1 (M1F, M1R, M1L, M1B), 1501, 1503A, and 1504A.
- External sound collection devices provided in positions capable of collecting sounds emitted by workers who wish to work in cooperation with the work machine 100 include external sound collection devices M1 (M1F, M1R, M1L, M1B), 1501, 1503A, and 1504A.
- internal sound output devices provided in positions where the operator can hear the output sound include internal sound output devices SP2 (SP2R, SP2L), SP2C, and SP2E.
- internal sound output devices provided near each ear of the operator so that the operator can hear the output sound include internal sound output devices SP2 (SP2R, SP2L), SP2C, and SP2E.
- external sound output devices provided in positions where people present at a work site where a work machine is performing work can hear the sound emitted by the work machine operator include external sound output devices SP1, 1502, 1503B, and 1504B.
- External sound output devices provided in positions where workers who wish to perform work in cooperation with a work machine can hear the sound emitted by the work machine operator include external sound output devices SP1, 1502, 1503B, and 1504B.
- FIG. 14 is a schematic diagram showing communication between a work machine 100A and a communication terminal according to this embodiment. As shown in FIG. 14, the work machine 100A is connected so that it can communicate with four communication terminals 1701 to 1704.
- the work machine 100A can control the output of sounds collected by each of the four communication terminals 1701-1704 from the internal sound output device SP2, and can also control the output of sounds collected by the internal sound collection device M2 from each of the four communication terminals 1701-1704.
- the communication terminal 1701 is a terminal owned by the site supervisor who is located in an office that monitors the work site.
- the operator of the work machine 100A can have a two-way conversation with the site supervisor by sending and receiving sound signals between the work machine 100A and the communication terminal 1701. Therefore, the operator of the work machine 100A can be aware of the work policy set by the site supervisor or the situation at the work site.
- Communication terminal 1702 is a terminal owned by the operator who operates another work machine 100B present at the work site. By transmitting and receiving sound signals between work machine 100A and communication terminal 1702, two-way conversation can be realized between the operator of work machine 100A and the operator of work machine 100B. This makes it possible for work machine 100A and work machine 100B to work together. Furthermore, the operator operating work machine 100A can ask questions, educate or instruct the operator operating work machine 100B regarding the operation of the work machine.
- the communication terminal 1703 is a terminal owned by the driver of the dump truck 1713 working at the work site. By transmitting and receiving sound signals between the work machine 100A and the communication terminal 1703, two-way conversation is possible between the operator of the work machine 100A and the driver of the dump truck 1713. This enables coordinated work between the work machine 100A and the driver of the dump truck 1713.
- the communication terminal 1704 is a terminal owned by the worker working at the work site. By transmitting and receiving sound signals between the work machine 100A and the communication terminal 1704, two-way conversation is possible between the operator of the work machine 100A and the worker. This enables collaborative work between the work machine 100A and the worker.
- a sound collection device and sound output device are used that are located away from the work machine 100A.
- the effects of noise and the like are suppressed when transmitting sound to people outside and collecting the sound of people outside, making it easier to have two-way conversations.
Landscapes
- Engineering & Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Component Parts Of Construction Machinery (AREA)
Abstract
作業機械が、下部走行体と、下部走行体に旋回可能に搭載された上部旋回体と、上部旋回体に設けられた運転室と、運転室の外部に配置される外部集音装置と、運転室の内部に配置される内部音出力装置と、作業機械の動作状態に応じて、特定の音声機能の動作モードに移行する制御装置と、を備える。
Description
本開示は、作業機械及び作業機械のシステムに関する。
従来、周囲の音を収集するマイクロフォンを備える作業機械が知られている。例えば、特許文献1には、運転室の外部に配置され、運転室の周囲の音を集音する集音装置と、集音装置が集音した音から雑音を除去して生成される音声データに基づいて、ショベルの動作を制御する制御装置と、を有するショベルが開示されている。
作業機械の周囲の音は、作業機械の種々の機能に利用できる。しかしながら、特許文献1には、ショベルの動作状態に応じて音声機能を制御することは記載されていない。
本開示の一態様は、安全性が向上した作業機械を提供することを目的とする。
本開示の一態様による作業機械は、下部走行体と、下部走行体に旋回可能に搭載される上部旋回体と、上部旋回体に設けられる運転室と、運転室の外部に配置される外部集音装置と、運転室の内部に配置される内部音出力装置と、作業機械の動作状態に応じて、特定の音声機能の動作モードに移行する制御装置と、を備える。
本開示の一態様によれば、作業機械の動作状態に応じて音声機能の動作モードが移行するため、作業機械の安全性を向上できる。
以下、本開示の実施形態について図面を参照して説明する。以下で説明する実施形態は、例示であり、発明を限定するものではない。本開示の実施形態における全ての特徴及びその組み合わせは、必ずしも発明の本質的なものであるとは限らない。なお、各図面において同一の又は対応する構成には同一の又は対応する符号を付し、重複する説明を省略する場合がある。
本開示の実施形態に係る作業機械100は、ショベルである。作業機械100は、クレーン、アスファルトフィニッシャ、又はフォークリフト等のショベル以外の機械であってもよい。また、図示例では、作業機械100としてのショベルは、エンドアタッチメントとしてバケット6を備えた掘削機であるが、バケット6以外のエンドアタッチメントを備えた林業機械等の応用機であってもよい。
[作業機械の概要]
まず、図1及び図2を参照し、作業機械100の概要について説明をする。図1は作業機械100の側面図であり、図2は、作業機械100の上面図である。
まず、図1及び図2を参照し、作業機械100の概要について説明をする。図1は作業機械100の側面図であり、図2は、作業機械100の上面図である。
作業機械100は、下部走行体1と、旋回機構2を介して旋回自在に下部走行体1に搭載される上部旋回体3と、各種作業を行うためのアタッチメントATと、運転室10とを備える。作業機械100(上部旋回体3)の前方は、作業機械100を上部旋回体3の旋回軸に沿って真上から上面視(上面視)で見たときに、上部旋回体3に対してアタッチメントATが延び出す方向に対応する。また、作業機械100(上部旋回体3)の左方、右方は、それぞれ、運転室10内の運転席に着座する操作者から見た左方、右方に対応する。
下部走行体1は、例えば、左右一対のクローラ1Cを含む。具体的には、クローラ1Cは、左クローラ1CL、及び右クローラ1CRを含む。左クローラ1CLは左走行油圧モータ2MLによって駆動され、右クローラ1CRは右走行油圧モータ2MRによって駆動される。左走行油圧モータ2MLは、被駆動部としての左クローラ1CLを駆動する走行駆動部であり、左クローラ1CLを回転させることができる。右走行油圧モータ2MRは、被駆動部としての右クローラ1CRを駆動する走行駆動部であり、右クローラ1CRを回転させることができる。なお、走行駆動部は電動モータであってもよい。
上部旋回体3は、旋回機構2が旋回油圧モータ2Aで駆動されることにより、下部走行体1に対して旋回する。旋回油圧モータ2Aは、被駆動部としての上部旋回体3を駆動する旋回駆動部であり、上部旋回体3の向きを変化させることができる。なお、旋回駆動部は電動モータであってもよい。
上部旋回体3の前部中央には、ブーム4が回動可能に取り付けられ、ブーム4の先端には、アーム5が回動可能に取り付けられ、アーム5の先端には、バケット6が回動可能に取り付けられている。図示例では、ブーム4、アーム5、及びバケット6は、アタッチメントATの一例である掘削アタッチメントを構成している。ブーム4、アーム5、バケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、バケットシリンダ9により駆動される。
バケット6は、作業具(エンドアタッチメント)の一例である。バケット6は、例えば、掘削作業等に用いられる。アーム5の先端には、作業内容等に応じて、バケット6の代わりに、他の作業具が取り付けられてもよい。他の作業具は、例えば、大型バケット、法面用バケット、浚渫用バケット等の他の種類のバケットであってよい。また、他の作業具は、攪拌機、ブレーカ、グラップル、又はリフティングマグネット等のバケット以外の種類の作業具であってもよい。
旋回油圧モータ2A、左走行油圧モータ2ML、右走行油圧モータ2MR、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9は、油圧ポンプから吐出される作動油によって駆動される油圧アクチュエータである。
なお、作業機械100は、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動部の全部又は一部が電気駆動されてもよい。すなわち、作業機械100は、被駆動部の全部又は一部が電動アクチュエータで駆動される、ハイブリッドショベル又は電動ショベル等であってもよい。
また、作業機械100には、情報伝達装置G1、外部集音装置M1、撮像装置S6、及び外部音出力装置SP1が取り付けられている。
撮像装置S6は、上部旋回体3又は運転室10に設けられ、作業機械100の周辺を撮像し、作業機械100の周辺を表した画像情報を取得する。図示例では、撮像装置S6は、前カメラS6F、左カメラS6L、右カメラS6R、及び、後カメラS6Bを含む。
前カメラS6Fは、作業機械100の前方を撮像するカメラであり、運転室10の屋根、ブーム4の側面等、運転室10の外部に取り付けられる。なお、前カメラS6Fは、例えば、運転室10の天井、すなわち、運転室10の内部に取り付けられてもよい。左カメラS6Lは、作業機械100の左方を撮像するカメラであり、右カメラS6Rは、作業機械100の右方を撮像するカメラであり、後カメラS6Bは、作業機械100の後方を撮像するカメラである。具体的には、前カメラS6F、左カメラS6L、右カメラS6R、及び後カメラS6Bは何れも、CCD又はCMOS等の撮像素子を備えた単眼の広角カメラであり、撮像した画像を表示装置D1に出力する。また、撮像装置S6により撮像された画像の情報は、コントローラ30に取り込まれる。
図示例では、前カメラS6Fは運転室10の屋根に取り付けられ、左カメラS6Lは上部旋回体3の上面左端に取り付けられ、右カメラS6Rは上部旋回体3の上面右端に取り付けられ、後カメラS6Bは上部旋回体3の上面後端に取り付けられている。
撮像装置S6は、作業機械100の周辺にある物体を検出する物体検出装置を構成してもよい。物体検出装置は、カメラ以外の装置で構成されていてもよい。例えば、物体検出装置はLiDARであってもよい。LiDARは、例えば、監視範囲内にある100万点以上の点群とLiDAR(レーザ源)との間の距離を計測可能な装置である。また、物体検出装置は、ステレオカメラ、距離画像カメラ、又はミリ波レーダ等、物体との間の距離を計測可能な他の装置であってもよい。物体検出装置としてミリ波レーダ等が利用される場合には、物体検出装置は、多数の信号(レーザ光等)を物体に向けて発信し、その反射信号を受信することにより、物体の距離及び方向を導き出してもよい。或いは、物体検出装置は、2種類以上の装置の組み合わせであってもよい。例えば、物体検出装置は、撮像装置とLiDARとの組み合わせであってもよいし、撮像装置とミリ波レーダとの組み合わせであってもよいし、撮像装置とステレオカメラとの組み合わせであってもよい。
外部集音装置M1は、外部の音を集める装置であり、マイクロフォンとも呼ばれる。図示例では、外部集音装置M1は、上部旋回体3又は運転室10に設けられ、作業機械100の周辺で生じた音(空気振動)を機械的振動に変換し、その機械的振動を電気信号に変換する。具体的には、外部集音装置M1は、前マイクM1F、左マイクM1L、右マイクM1R、及び、後マイクM1Bを含む。
前マイクM1Fは、作業機械100の前方で生じた音を集めるマイクであり、運転室10の屋根、ブーム4の側面等、運転室10の外部に取り付けられる。なお、前マイクM1Fは、例えば、運転室10の天井、すなわち、運転室10の内部に取り付けられてもよい。左マイクM1Lは、作業機械100の左方で生じた音を集めるマイクであり、右マイクM1Rは、作業機械100の右方で生じた音を集めるマイクであり、後マイクM1Bは、作業機械100の後方で生じた音を集めるマイクである。そして、前マイクM1F、左マイクM1L、右マイクM1R、及び後マイクM1Bのそれぞれが生成する電気信号は、コントローラ30に取り込まれる。
図示例では、前マイクM1Fは運転室10の屋根に取り付けられ、左マイクM1Lは上部旋回体3の上面左端に取り付けられ、右マイクM1Rは上部旋回体3の上面右端に取り付けられ、後マイクM1Bは上部旋回体3の上面後端に取り付けられている。このように、4個の外部集音装置M1(前マイクM1F、左マイクM1L、右マイクM1R、及び後マイクM1B)は、上部旋回体3の異なる位置に設けられている。そのため、コントローラ30は、4個の外部集音装置M1のそれぞれが集音した音の違い(例えば、音量の違い)に基づいて音の発生源がある方向を検出できる。また、外部集音装置M1としてアレイマイクを用いた場合は、例えば、位相のずれ、または音量の違いに基づいて、音の発生源がある方向を検出できる。
図示例では、4個の外部集音装置M1のそれぞれと4個の撮像装置S6のそれぞれとは互いに対応するように配置されている。具体的には、前マイクM1Fは、前カメラS6Fに隣接するように配置され、左マイクM1Lは、左カメラS6Lに隣接するように配置され、右マイクM1Rは、右カメラS6Rに隣接するように配置され、後マイクM1Bは、後カメラS6Bに隣接するように配置されている。
外部音出力装置SP1は、作業機械100の周囲に向けて音を出力する装置である。図示例では、外部音出力装置SP1は、無指向性スピーカであり、全ての方向に音を均一に出力できるように構成されている。但し、外部音出力装置SP1は、前方に向けて音を出力する指向性スピーカであってもよい。
情報伝達装置G1は、作業機械100の外部に作業機械100の状態を知らせるための装置である。図示例では、情報伝達装置G1は、上部旋回体3又は運転室10に設けられ、作業機械100がどのような状態にあるかを作業機械100の周囲にいる作業者に伝えることができるように構成されている。具体的には、情報伝達装置G1は、前ライトバーG1F、左ライトバーG1L、右ライトバーG1R、及び、後ライトバーG1Bを含む。
前ライトバーG1Fは、作業機械100の前方にいる作業者等に視覚的に情報を伝えることができる発光装置であり、運転室10の屋根、ブーム4の側面等、運転室10の外部に取り付けられる。なお、前ライトバーG1Fは、例えば、運転室10の天井、すなわち、運転室10の内部に取り付けられてもよい。左ライトバーG1Lは、作業機械100の左方にいる作業者等に視覚的に情報を伝えることができる発光装置であり、右ライトバーG1Rは、作業機械100の右方にいる作業者等に視覚的に情報を伝えることができる発光装置であり、後ライトバーG1Bは、作業機械100の後方にいる作業者等に視覚的に情報を伝えることができる発光装置である。そして、前ライトバーG1F、左ライトバーG1L、右ライトバーG1R、及び後ライトバーG1Bのそれぞれは、コントローラ30からの電気信号に応じて発光する。図示例では、発光装置は、LEDライトであるが、ハロゲンランプ等の他の発光装置であってもよい。また、発光装置は、多色発光型であるが、単色発光型であってもよい。
図示例では、前ライトバーG1Fは運転室10の屋根に取り付けられ、左ライトバーG1Lは上部旋回体3の上面左端に取り付けられ、右ライトバーG1Rは上部旋回体3の上面右端に取り付けられ、後ライトバーG1Bは上部旋回体3の上面後端に取り付けられている。このように、4個の情報伝達装置G1(前ライトバーG1F、左ライトバーG1L、右ライトバーG1R、及び後ライトバーG1B)は、上部旋回体3の異なる位置に設けられている。そのため、コントローラ30は、4個の情報伝達装置G1のそれぞれを別々に動作させることにより、作業機械100の前方、左方、右方、及び後方のそれぞれにいる作業者等に作業機械100がどのような状態にあるかを伝えることができる。
図示例では、4個の情報伝達装置G1のそれぞれと4個の外部集音装置M1のそれぞれとは互いに対応するように配置されている。具体的には、前ライトバーG1Fは、前マイクM1Fに隣接するように配置され、左ライトバーG1Lは、左マイクM1Lに隣接するように配置され、右ライトバーG1Rは、右マイクM1Rに隣接するように配置され、後ライトバーG1Bは、後マイクM1Bに隣接するように配置されている。
図3は、作業機械100に取り付けられる外部集音装置M1及び情報伝達装置G1の構成例を示す図である。具体的には、図3は、略直方体形状の筐体に取り付けられた左マイクM1L及び左ライトバーG1Lの斜視図である。なお、図3を参照する以下の説明は、左マイクM1L及び左ライトバーG1Lの組み合わせに関するが、前マイクM1F及び前ライトバーG1Fの組み合わせ、右マイクM1R及び右ライトバーG1Rの組み合わせ、及び、後マイクM1B及び後ライトバーG1Bの組み合わせにも同様に適用される。
図3に示すように、左マイクM1L及び左ライトバーG1Lは、作業機械100の左方を向くように略直方体形状の筐体の左側面に配置されている。この配置により、左マイクM1Lは、作業機械100の左方で生じた音を効率的に集めることができ、左ライトバーG1Lは、作業機械100の左方にいる作業者に作業機械100の状態を効率的に伝えることができる。例えば、左マイクM1Lは、作業機械100の左方にいる作業者が発した声を捉えることができ、左ライトバーG1Lは、所定の色で発光することにより、左マイクM1Lが作業者の声を捉えたことを作業者に伝えることができる。この場合、左マイクM1Lに向かって話しかけた作業機械100の左方にいる作業者は、所定の色に発光した左ライトバーG1Lを見ることにより、自身の声が左マイクM1L(すなわち、作業機械100の操作者)に届いたことを確認できる。
情報伝達装置G1は、運転室10の四つの側面のそれぞれの上部に設けられていてもよい。例えば、情報伝達装置G1は、前ライトバーG1Fが運転室10の前面の上部に取り付けられ、左ライトバーG1Lが運転室10の左面の上部に取り付けられ、右ライトバーG1Rが運転室10の右面の上部に取り付けられ、後ライトバーG1Bが運転室10の後面の上部に取り付けられるように構成されていてもよい。また、情報伝達装置G1は、運転室10の上面に取り付けられたニコトーチのような一つの回転灯であってもよく、液晶ディスプレイ又は有機ELディスプレイ等の表示装置であってもよい。
コントローラ30は、制御装置の一例であり、例えば、CPU、揮発性記憶装置、不揮発性記憶装置、及び、各種入出力インターフェース等を含むコンピュータで構成される。そして、コントローラ30は、例えば、プログラムを不揮発性記憶装置から読み出して揮発性記憶装置にロードし、CPUに実行させることで各種機能を実現する。図示例では、コントローラ30は、各種機能を実現して作業機械100を制御できるように構成されている。各種機能は、例えば、操作者による作業機械100の手動操作をガイド(案内)するマシンガイダンス機能を含む。各種機能は、作業機械100の周辺の監視範囲内に存在する物体と作業機械100との接触を回避するために作業機械100を自動的或いは自律的に動作させたり或いは停止させたりする接触回避機能を含んでいてもよい。
ブーム角度センサS1は、ブーム4の上部旋回体3に対する回動角度であるブーム角度を検出する。アーム角度センサS2は、アーム5のブーム4に対する回動角度であるアーム角度を検出する。バケット角度センサS3は、バケット6のアーム5に対する回動角度であるバケット角度を検出する。
ブーム角度センサS1、アーム角度センサS2、及びバケット角度センサS3のそれぞれは、例えば、ロータリエンコーダ、加速度センサ、6軸センサ、IMU(Inertial Measurement Unit:慣性計測装置)等であってもよく、可変抵抗器を利用したポテンショメータ、油圧シリンダのストローク量を検出するシリンダストロークセンサ等であってもよい。
ブーム角度センサS1によるブーム角度に対応する検出信号、アーム角度センサS2によるアーム角度に対応する検出信号、及び、バケット角度センサS3によるバケット角度に対応する検出信号は、コントローラ30に取り込まれる。
機体傾斜センサS4は、水平面に対する機体(下部走行体1又は上部旋回体3)の傾斜状態を検出する。機体傾斜センサS4は、例えば、上部旋回体3に取り付けられ、作業機械100(すなわち、上部旋回体3)の前後方向及び左右方向の2軸回りの傾斜角度を検出する。機体傾斜センサS4は、例えば、加速度センサ、6軸センサ、又はIMU等であってもよい。機体傾斜センサS4による傾斜角度に対応する検出信号は、コントローラ30に取り込まれる。
旋回センサS5は、上部旋回体3の旋回に関する情報を出力する。旋回センサS5は、例えば、下部走行体1に対する上部旋回体3の旋回角速度を検出する。旋回センサS5は、旋回角度を検出してもよい。旋回センサS5は、例えば、ジャイロセンサ、レゾルバ、又はロータリエンコーダ等であってもよい。旋回センサS5による上部旋回体3の旋回角度又は旋回角速度に対応する検出信号は、コントローラ30に取り込まれる。
測位装置PSは、上部旋回体3の位置を測定する。測位装置PSは、例えば、GNSS(Global Navigation Satellite System)コンパスであり、上部旋回体3の位置及び向きを検出する。上部旋回体3の位置及び向きに対応する検出信号は、コントローラ30に取り込まれる。上部旋回体3の向きを検出する機能は、上部旋回体3に取り付けられた方位センサにより実現されてもよい。
運転室10は、操作者が搭乗する運転室であり、上部旋回体3の前部左側に搭載される。但し、作業機械100が遠隔操作される場合、又は、作業機械100が完全自動運転によって動作する場合、運転室10は省略されてもよい。
通信装置T1は、移動体通信網、衛星通信網、又はインターネット網等を含む通信ネットワークを通じて外部機器と通信を行う。通信装置T1は、例えば、LTE(Long Term Evolution)、4G(4th Generation)、5G(5th Generation)等の移動体通信規格に対応する移動体通信モジュール、又は、衛星通信網に接続するための衛星通信モジュール等である。
作業機械100は、運転室10に搭乗する操作者の操作に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動部を駆動する。
或いは、作業機械100は、作業機械100の外部から遠隔操作できるように構成されていてもよい。作業機械100が遠隔操作される場合、運転室10の内部は、無人状態であってもよい。
また、作業機械100は、操作者の操作の内容に依らず、自動でアクチュエータを動作させてもよい。これにより、作業機械100は、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動部の少なくとも一部を自動で動作させる機能、すなわち、いわゆる「マシンコントロール機能」を実現する。
図4は、作業機械100の構成の一例を概略的に示す図である。図4において、機械的動力伝達系、作動油ライン、パイロットライン、電気制御系は、それぞれ、二重線、太実線、太破線、点線で示されている。
作業機械100の駆動系は、エンジン11、レギュレータ13、メインポンプ14、及びコントロールバルブユニット17を含む。また、作業機械100の油圧駆動系は、旋回油圧モータ2A、左走行油圧モータ2ML、右走行油圧モータ2MR、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等の油圧アクチュエータを含む。
エンジン11は、作業機械100の動力源の一例であり、例えば、上部旋回体3の後部に搭載される。なお、作業機械100の動力源は、バッテリ又は燃料電池等の電源と電動モータとの組み合わせであってもよい。具体的には、エンジン11は、コントローラ30による直接或いは間接的な制御下で、予め設定される目標回転数で一定回転し、メインポンプ14及びパイロットポンプ15を駆動する。エンジン11は、例えば、軽油を燃料とするディーゼルエンジンである。なお、エンジン11は、ガソリンエンジン又は水素エンジン等であってもよい。
レギュレータ13は、メインポンプ14の吐出量を制御する。例えば、レギュレータ13は、コントローラ30からの制御指令に応じて、メインポンプ14の斜板の角度(傾転角)を調節することによってメインポンプ14の吐出量を制御する。
メインポンプ14は、例えば、エンジン11と同様、上部旋回体3の後部に搭載され、作動油ラインを通じてコントロールバルブユニット17に作動油を供給する。図示例では、メインポンプ14は、可変容量式油圧ポンプである。
コントロールバルブユニット17は、作業機械100における油圧システムを制御する油圧制御装置である。図示例では、コントロールバルブユニット17は、制御弁171~176を含む。コントロールバルブユニット17は、制御弁171~176を通じ、メインポンプ14が吐出する作動油を1又は複数の油圧アクチュエータに選択的に供給できるように構成されている。制御弁171~176は、メインポンプ14から油圧アクチュエータに流れる作動油の流量、及び、油圧アクチュエータから作動油タンクに流れる作動油の流量を制御する。油圧アクチュエータは、ブームシリンダ7、アームシリンダ8、バケットシリンダ9、左走行油圧モータ2ML、右走行油圧モータ2MR、及び旋回油圧モータ2Aを含む。具体的には、制御弁171は、旋回油圧モータ2Aに対応し、制御弁172は、右走行油圧モータ2MRに対応し、制御弁173は、左走行油圧モータ2MLに対応する。また、制御弁174は、バケットシリンダ9に対応し、制御弁175は、ブームシリンダ7に対応し、制御弁176は、アームシリンダ8に対応する。
パイロットポンプ15は、パイロット圧生成装置の一例であり、パイロットラインを介して油圧制御機器に作動油を供給できるように構成されている。図示例では、パイロットポンプ15は、固定容量型油圧ポンプである。但し、パイロット圧生成装置は、メインポンプ14によって実現されてもよい。すなわち、メインポンプ14は、作動油ラインを介して作動油をコントロールバルブユニット17に供給する機能に加え、パイロットラインを介して各種油圧制御機器に作動油を供給する機能を備えていてもよい。この場合、パイロットポンプ15は、省略されてもよい。
吐出圧センサ28は、メインポンプ14の吐出圧を検出するように構成されている。図に示される例では、吐出圧センサ28は、検出した値をコントローラ30に対して出力する。
操作装置26は、操作者がアクチュエータの操作のために用いる装置である。操作装置26は、例えば、操作レバー及び操作ペダルを含む。アクチュエータは、油圧アクチュエータであってもよく電動アクチュエータであってもよい。
操作センサ29は、操作装置26を用いた操作者の操作内容を検出するように構成されている。本実施形態では、操作センサ29は、アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量を検出し、検出した値をコントローラ30に対して出力する。図示例では、コントローラ30は、操作センサ29の出力に応じて比例弁31の開口面積を制御することができる。そして、コントローラ30は、パイロットポンプ15が吐出する作動油を、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給する。パイロットポートのそれぞれに供給される作動油の圧力(パイロット圧)は、原則として、油圧アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量に応じた圧力である。このように、操作装置26は、パイロットポンプ15が吐出する作動油を、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給できるように構成されている。
マシンコントロール用制御弁として機能する比例弁31は、パイロットポンプ15とコントロールバルブユニット17内の制御弁のパイロットポートとを接続する管路に配置され、その管路の流路面積を変更できるように構成されている。図示例では、比例弁31は、コントローラ30が出力する制御指令に応じて動作する。そのため、コントローラ30は、操作者による操作装置26の操作とは無関係に、制御弁のパイロットポートに作用するパイロット圧を比例弁31によって調整することができる。
この構成により、コントローラ30は、特定の操作装置26に対する操作が行われていない場合であっても、その特定の操作装置26に対応する油圧アクチュエータを動作させることができる。
作業機械100の制御系は、コントローラ30、表示装置D1、入力装置D2、ホーンボタンHS、発話ボタンKS、外部集音装置M1、内部集音装置M2、外部音出力装置SP1、内部音出力装置SP2、外部音量ダイヤルDL1、内部音量ダイヤルDL2、スイッチSW、及び通信装置T1等を含む。
コントローラ30は、必要に応じてレギュレータ13に対して制御指令を出力し、メインポンプ14の吐出量を変化させることができるように構成されている。
また、コントローラ30は、例えば、操作者による操作装置26を通じた作業機械100の手動操作をガイド(案内)するマシンガイダンス機能に関する制御を行うように構成されていてもよい。また、コントローラ30は、例えば、操作者による操作装置26を通じた作業機械100の手動操作を自動的に支援するマシンコントロール機能に関する制御を行うように構成されていてもよい。
なお、コントローラ30の機能の一部は、他のコントローラ(制御装置)により実現されてもよい。すなわち、コントローラ30の機能は、複数のコントローラにより分散される態様で実現されてもよい。例えば、マシンガイダンス機能及びマシンコントロール機能は、専用のコントローラ(制御装置)により実現されてもよい。
ここで、図5を参照し、運転室10の内部について説明する。図5は、運転室10の内部の上面図である。作業機械100は、運転室10の内部に配置される、運転席50、操作装置26、及び表示装置D1等を備える。運転席50の左側には、乗降用ドアが設けられている。操作者は乗降用ドアを開けて運転室10の内部に入ることができる。
運転席50は、上面視において運転室10の中央に配置されている。運転席50は操作者が着座する座部51と背もたれ52とを含む。運転席50はリクライニングシートであり、背もたれ52の傾斜角度は調節可能である。運転席50の左側には左アームレスト53Lが配置され、右側には右アームレスト53Rが配置されている。左アームレスト53L及び右アームレスト53Rは背もたれ52によって回動可能に支持されている。
運転席50の左側には左コンソール54Lが配置され、右側には右コンソール54Rが配置されている。左コンソール54L及び右コンソール54Rは、前後方向に沿って延在する。運転席50は、前後方向にスライド可能である。運転席50は、左コンソール54L及び右コンソール54Rと共に前後方向にスライド可能な構成であってもよい。
左アームレスト53Lは、左コンソール54Lの上に配置されている。右アームレスト53Rは、右コンソール54Rの上に配置されている。左アームレスト53Lは、上面視において、左側のコンソール54Lの一部を覆うように配置されている。右アームレスト53Rは、上面視において、右側のコンソール54Rの一部を覆うように配置されている。
操作装置26は、左操作レバー26L、右操作レバー26R、左走行ペダル26PL、右走行ペダル26PR、左走行レバー26DL、及び右走行レバー26DRを含む。
左操作レバー26Lは、左コンソール54Lの前部に設けられている。同様に、右操作レバー26Rは、右コンソール54Rの前部に設けられている。運転席50に着座した操作者は、左手で左操作レバー26Lを把持しながら左操作レバー26Lを操作でき、且つ右手で右操作レバー26Rを把持しながら右操作レバー26Rを操作できる。運転席50に着座した操作者は、左手で左操作レバー26Lを操作してアームシリンダ8及び旋回油圧モータ2Aを駆動できる。また、運転席50に着座した操作者は、右手で右操作レバー26Rを操作してブームシリンダ7及びバケットシリンダ9を駆動できる。なお、左操作レバー26L及び右操作レバー26Rのそれぞれの基部はレバーブーツ27で覆われている。
左走行ペダル26PL及び右走行ペダル26PRは、運転席50の前方の床面に配置されている。運転席50に着座した操作者は、左足で左走行ペダル26PLを操作して左走行油圧モータ2MLを駆動できる。また、運転席50に着座した操作者は、右足で右走行ペダル26PRを操作して右走行油圧モータ2MRを駆動できる。
左走行レバー26DL及び右走行レバー26DRは、上面視において、左走行ペダル26PLと右走行ペダル26PRとの間に配置されている。左走行レバー26DL及び右走行レバー26DRは、運転席50の前方の床面から上方に延在している。運転席50に着座した操作者は、左手で左走行レバー26DLを把持しながら操作することで、左走行ペダル26PLを介した操作と同様に、左走行油圧モータ2MLを駆動できる。また、運転席50に着座した操作者は、右手で右走行レバー26DRを把持しながら操作することで、右走行ペダル26PRを介した操作と同様に、右走行油圧モータ2MRを駆動できる。また、左走行レバー26DL及び右走行レバー26DRは、操作者が片手で左走行レバー26DLと右走行レバー26DRとを同時に操作できるように配置されている。
表示装置D1は、運転席50の右側前方に配置されている。表示装置D1は、各種の画像情報を表示する。表示装置D1は、作業機械100の作業条件又は動作状態等の情報を表示する表示画面を含む。運転席50に着座した操作者は表示装置D1に表示された各種情報を確認しながら作業機械100による作業を行うことができる。表示装置D1には、入力装置D2が設けられていてもよい。
入力装置D2は、運転室10内の着座した操作者から手が届く範囲に設けられ、操作者による各種操作入力を受け付け、操作入力に応じた信号をコントローラ30に出力する。入力装置D2は、各種情報画像を表示する表示装置D1のディスプレイに実装されるタッチパネル、操作装置26に含まれる複数の操作レバーのいずれか一つ以上のレバー部の先端に設けられるノブスイッチ、又は、表示装置D1の周囲に設置されるボタンスイッチ、レバー、トグルスイッチ、若しくは回転ダイヤル等を含む。入力装置D2に対する操作の内容に対応する信号は、コントローラ30に取り込まれる。
左コンソール54Lの前端部の前面には、ゲートバー55が取り付けられる。ゲートバー55は、左コンソール54Lに設けられるゲートロックレバーGLの操作状態と連動して動作する。ゲートバー55は、上端部の左右方向の軸を中心として、起伏可能に左コンソール54Lの内部のフレームに取り付けられている。
ゲートロックレバーGLは、操作装置26による作業機械100の操作が可能な状態(操作可能状態)と操作装置26による作業機械100の操作が不可能な状態(操作不可状態)とを切り換えるための機械的な入力操作部である。図示例では、ゲートロックレバーGLは、操作不可状態を実現する第1操作位置と操作可能状態を実現する第2操作位置とを操作者が切り換えることができるように構成されている。コントローラ30は、ゲートロックレバーGLの操作状態に応じて操作可能状態と操作不能状態とを切り換える。図示例では、コントローラ30は、ゲートロックレバーGLの操作状態に応じてパイロットラインの連通及び非連通を電気的に切り換えることで、作業機械100の操作可能状態と操作不可状態とを切り換える。
また、ゲートロックレバーGLが第2操作位置にある場合、ゲートバー55は、図5に示すように、操作者による乗降用ドアの通過を妨げるように前方に起きた状態(通過禁止状態)になる。一方、ゲートロックレバーGLが第1操作位置にある場合、ゲートバー55は、操作者による乗降用ドアの通過の妨げとならないように左コンソール54Lの内部に収容された状態(通過許可状態)となる。
この構成により、操作者は、ゲートロックレバーGLを第2操作位置にしてゲートバー55を通過禁止状態にしない限り、作業機械100の操作を行うことができない。そのため、この構成は、操作者が乗り降りするときに不注意にも操作装置26に触れてしまった場合であっても、作業機械100が意図せずに動いてしまうのを抑制できる。そのため、この構成は、作業機械100の安全性を向上させることができる。
また、作業機械100は、ゲートロックレバーGLが第2操作位置にありゲートバー55が通過禁止状態にある場合に限り、エンジン11を起動させるための所定の操作を受け付けることができるように構成されていてもよい。すなわち、作業機械100は、ゲートロックレバーGLが第1操作位置にありゲートバー55が通過許可状態にある場合には、エンジン11を起動させることができないように構成されていてもよい。
右コンソール54Rには、スイッチSWが設置されている。右コンソール54Rの右側には、窓側コンソール56が設置されている。窓側コンソール56は、運転室10の前後方向の全長に亘って延在し、右コンソール54Rと平行になるように設けられている。表示装置D1は窓側コンソール56の前部に設置されている。窓側コンソール56には、外部音量ダイヤルDL1、内部音量ダイヤルDL2、及び、内部集音装置M2等が設置されている。
さらに、窓側コンソール56には、ラジオチューナー57等が設置されている。ラジオチューナー57等は、コンソール54L、又は、コンソール54Rに設置されていてもよい。
ラジオチューナー57には、スイッチが設けられている。スイッチの押下及びスイッチに対する回転操作に応じて、ラジオのオン、オフ制御、及び、音量の調整制御を可能とする。さらに、ラジオチューナー57を制御するための操作は、物理的に設けられたスイッチに対する操作に制限するものではなく、表示装置D1に設けられた(入力装置D2の)タッチパネルを用いた操作でもよい。例えば、コントローラ30は、タッチパネルに対する操作を受け付けることで、ラジオチューナー57のオン、オフ制御及び音量の調整制御等を可能としてもよい。ラジオチューナー57の音量調整は、外部音声(車内に出力される作業者の声)の音量調整と独立して調整可能にしてもよいし、一体的に調整可能にしてもよい。
内部集音装置M2は、運転室10内で発生した音を集める装置である。図示例では、内部集音装置M2は、室内マイクであり、運転室10内の操作者が発する声を拾うことができるように構成されている。
ホーンボタンHSは、ホーンを鳴らす際に作業機械100の操作者が操作するボタンである。図示例では、ホーンボタンHSは、左操作レバー26Lの先端に設けられたノブスイッチである。
発話ボタンKSは、作業機械100の操作者が作業機械100の周囲にいる作業者に話しかける際に作業機械100の操作者が操作するボタンである。図示例では、発話ボタンKSは、右操作レバー26Rの先端に設けられたノブスイッチである。
内部音出力装置SP2は、運転室10内の操作者に向けて音を出力する装置であり、運転室10内に設けられている。また、内部音出力装置SP2は、コントローラ30から入力された電気信号を物理的な音(空気の振動)に変換して出力する。内部音出力装置SP2は、任意の位置に設けられてよく、例えば、表示装置D1近傍、入力装置D2近傍、又は、運転室10のドア近傍に設けられてもよい。図示例では、内部音出力装置SP2は、運転室10の後壁の左上隅に取り付けられた左室内スピーカSP2Lと、運転室10の後壁の右上隅に取り付けられた右室内スピーカSP2Rを含む。なお、内部音出力装置SP2は、操作者が装着するヘッドホン又はイヤホンであってもよい。この場合、ヘッドホン又はイヤホンは、例えば、Bluetooth(登録商標)等を介してコントローラ30と通信できるように接続される。
外部音量ダイヤルDL1は、外部音出力装置SP1が出力する音の音量を調整できるように構成されている。また、外部音出力装置SP1のそれぞれが出力する音の音量は、追加的に、表示装置D1に取り付けられたタッチパネル等の、外部音量ダイヤルDL1以外の装置を利用して調整できるように構成されていてもよい。
外部音量ダイヤルDL1は、時計回り及び反時計回りのそれぞれの方向に無限に回転できるように構成されていてもよい。外部音量ダイヤルDL1を利用した音量調整と外部音量ダイヤルDL1以外の装置を利用した音量調整とが併用される場合に対応できるようにするためである。
内部音量ダイヤルDL2は、内部音出力装置SP2が出力する音の音量を調整できるように構成されている。また、内部音出力装置SP2のそれぞれが出力する音の音量は、追加的に、表示装置D1に取り付けられたタッチパネル等の、内部音量ダイヤルDL2以外の装置を利用して調整できるように構成されていてもよい。
内部音量ダイヤルDL2は、時計回り及び反時計回りのそれぞれの方向に無限に回転できるように構成されていてもよい。内部音量ダイヤルDL2を利用した音量調整と内部音量ダイヤルDL2以外の装置を利用した音量調整とが併用される場合に対応できるようにするためである。
スイッチSWは、外部集音装置M1により収集された音を内部音出力装置SP2から出力させる、音の出力機能を動作させるか否かを切り替えるためのスイッチである。図示例では、スイッチSWは、右コンソール54Rの上面に設けられている。但し、スイッチSWは、入力装置D2の一つであってもよく、表示装置D1に設けられたタッチパネルによって実現されてもよく、ノブスイッチであってもよい。
例えば、スイッチSWがオンの場合に、外部集音装置M1により収集された音を、内部音出力装置SP2から出力し、スイッチSWがオフの場合に、外部集音装置M1により収集された音の、内部音出力装置SP2からの出力を停止(ミュート)する。
本実施形態に係る音の出力機能は、外部集音装置M1が収集した音を、内部音出力装置SP2から出力する機能である。本実施形態においては、コントローラ30が、外部集音装置M1が収集した音を表す音信号を取得し、当該音信号に基づいた音を、内部音出力装置SP2から出力することで当該機能を実現する。当該機能によって、操作者は、作業機械100の周辺の音を聞くことができるので、作業機械100の周辺に存在する人からの会話を聞くことができる。操作者は、作業機械100の周辺に存在する人との間でコミュニケーションをとることが可能となる。なお、本実施形態に係る音の出力機能は、外部集音装置M1が収集した音を、内部音出力装置SP2から出力する機能に制限するものではなく、会話を行うための音の出力に関する機能であればよい。
[作業機械との間の双方向会話]
従来、操作者と、作業機械の周辺に存在する人との間を双方向で会話を行う手法としては、ドアを開けて直接会話を行う以外には、双方向会話を行う者同士でインターコミュニケーションシステム(インカムとも称する)の端末を所持する手法もある。
従来、操作者と、作業機械の周辺に存在する人との間を双方向で会話を行う手法としては、ドアを開けて直接会話を行う以外には、双方向会話を行う者同士でインターコミュニケーションシステム(インカムとも称する)の端末を所持する手法もある。
インカムを用いる場合、操作者と、作業機械の周辺の作業者と、は本来の作業に必要のない装備(インカムの端末)を身に着ける必要がある。この場合、操作者及び作業者は、当該端末を身に着けながら作業を行うことになるため疲労感が大きくなる。さらには、汗で端末が濡れることによって不快感が生じることに加えて、汗によって端末に不具合が生じる可能性がある。
加えて、インカムを用いた場合、端末を所持している特定の人としか会話できない、作業現場で利用するための準備の負担が大きい、チャンネル切り替えが煩雑という問題も生じる。
そこで、本実施形態に係る作業機械100は、作業機械100の周辺に存在する人(例えば作業者WK)との間で双方向会話を実現するための構成を備えることとする。図6は、作業機械100に搭乗している操作者OPと、作業機械100の周辺に存在する作業者WKと、の間における双方向会話を示した概念図である。図6に示される例では、作業者WKが、作業機械100の左前方にいる例について説明するが、双方向会話を行う作業者WKの位置を制限するものではない。
作業機械100には、運転室10の内側に、内部集音装置M2が設けられると共に、運転室10の外側に、外部音出力装置SP1が設けられている。これにより作業機械100のコントローラ30は、内部集音装置M2に収集された、操作者OPが発した音声が含まれる音を示す音信号を取得し、運転室10の外側に設けられた外部音出力装置SP1から、音信号に基づいた音を出力する制御を行う。したがって、作業機械100の操作者OPは、作業機械100の周辺に存在する作業者WKに対して話しかけることができる。図示例では、操作者OPは、内部集音装置M2が利用可能な状態にあるときに発話ボタンKSを押しながら発話することにより、外部音出力装置SP1を利用して作業者WKに話しかけることを可能としてもよい。
さらに、作業機械100には、運転室10の外側に、外部集音装置M1(前マイクM1Fを含む)が設けられると共に、運転室10の内側に、内部音出力装置SP2が設けられている。これにより作業機械100のコントローラ30は、外部集音装置M1により収集された、作業機械100の周辺に存在する作業者WKが発した音声が含まれる音を示す音信号を取得し、内部音出力装置SP2から、音信号に基づいた音を出力する制御を行う。したがって、作業機械100の周辺に存在する作業者WKが、作業機械100の操作者OPに対して話しかけることができる。
このように、本実施形態に係る作業機械100は、運転室10の外側に配置される外部集音装置M1及び外部音出力装置SP1と、運転室10の内側に配置される内部集音装置M2及び内部音出力装置SP2と、を備える。コントローラ30は、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御と、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御と、を行う。外部集音装置M1が収集した音には、作業機械100の周辺に存在する作業者WKが発した音声が含まれ得る。内部集音装置M2が収集した音には、操作者OPが発した音声が含まれ得る。すなわち、作業機械100は、作業機械100の外部と操作者OPのいる領域のそれぞれに設けられた集音発音設備によって、それぞれの音を互いの領域に伝達する機能を備えている。したがって、操作者OPと作業機械100の周辺に存在する作業者WKとの間の双方向会話が可能となり、コミュニケーションが容易になり、利便性の向上を実現できる。
コントローラ30は、発話ボタンKSが押下(所定の操作の一例)されているか否かに応じて、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御と、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御とのうちいずれを行うかを切り替える。当該制御によって、操作者OPは、所望のタイミングで、作業機械100の周辺に存在する作業者WKに話しかけることを可能にすると共に、ハウリング等が生じることを抑制できる。
[コントローラの機能構成]
図7を参照し、コントローラ30が双方向会話を制御するための構成について説明する。図7は、コントローラ30の一例を示すブロック図である。コントローラ30は、取得部301と、検出部302と、動作制御部303と、雑音除去部304と、操作受付部305と、出力制御部306と、表示制御部307と、を含む。
図7を参照し、コントローラ30が双方向会話を制御するための構成について説明する。図7は、コントローラ30の一例を示すブロック図である。コントローラ30は、取得部301と、検出部302と、動作制御部303と、雑音除去部304と、操作受付部305と、出力制御部306と、表示制御部307と、を含む。
取得部301は、作業機械100に設けられた各種センサから検出結果を取得する。例えば、取得部301は、外部集音装置M1から、作業機械100の周辺で生じた音を表した音信号を取得する。また、取得部301は、内部集音装置M2から、操作席に搭乗している操作者が発した音声を含む音を表した音信号を取得する。さらに、取得部301は、撮像装置S6から撮像結果を示す画像情報を取得する。
検出部302は、取得部301が撮像装置S6から取得した画像情報から、作業機械100の周辺に存在する人の検出処理を行う。人の検出処理の手法は、周知の手法を問わず、あらゆる手法を用いてよい。例えば、画像情報から抽出された特徴量が、人を示す特徴量と比べて所定値以上近似しているか否か等の判定を行ってもよい。また、例えばカメラS6F,S6L,S6R,S6Bのそれぞれの撮像空間を監視空間とする人検知センサを設け、人検知センサにて作業機械100の周辺に存在する人を検出してもよい。人検知センサは、人以外の物体から人を区別して検出するセンサであり、例えば、対応する監視空間内のエネルギ変化を検出するセンサであって、焦電型赤外線センサ、ボロメータ型赤外線センサ、赤外線カメラ等の出力信号を利用した動体検出センサを含む。
また、検出部302は、各種センサの出力に基づいて、作業機械100の動作状態を検出する。作業機械100の動作状態は、音声機能に関連する動作状態を含む。
音声機能は、双方向会話を実現する機能を含む。当該機能は、外部集音装置M1が収集した音を内部音出力装置SP2から出力する機能、及び内部集音装置M2が収集した音を外部音出力装置SP1から出力する機能を含む。
音声機能に関連する動作状態は、外部集音装置M1の動作状態、内部音出力装置SP2の動作状態、物体検出装置の動作状態、外部集音装置M1が収集した音の音量、外部集音装置M1が収集した音に含まれる目的音の音量、作業機械100の動作内容、又は音声機能以外の特定の機能の動作状態の少なくとも1つ又は複数を含む。
外部集音装置M1の動作状態は、外部集音装置M1が正常に動作しているか否かである。例えば、外部集音装置M1を構成するマイクのうち1以上のマイクが故障している場合、外部集音装置M1が正常に動作していないと判定してもよい。例えば、外部集音装置M1が収集した音の音量又はS/N比が閾値以下の場合、外部集音装置M1が正常に動作していないと判定してもよい。
内部音出力装置SP2の動作状態は、内部音出力装置SP2が正常に動作しているか否かである。例えば、内部音出力装置SP2が故障している場合、内部音出力装置SP2が正常に動作していないと判定してもよい。
物体検出装置の動作状態は、物体検出装置が正常に動作しているか否かである。物体検出装置は、撮像装置S6で構成されてもよく、LiDARで構成されてもよい。例えば、撮像装置S6又はLiDARが故障している場合、物体検出装置が正常に動作していないと判定してもよい。
目的音は、所定の帯域に含まれる音である。目的音の音量は、バンドパスフィルタ等で目的音の帯域を抽出した音信号に基づいて計算してもよい。
目的音は、作業機械100の動作環境を示す音を含んでもよい。動作環境を示す音は、例えば、雨音、風音、又は作業機械の動作音を含んでもよい。作業機械の動作音は、例えば、ワイパーの動作音又は下部走行体1の走行音を含んでもよい。作業機械の動作音は、作業現場に存在する他の作業機械の動作音を含んでもよい。
作業機械100の動作内容は、音声機能に関連する特定の動作を実行しているか否かである。特定の動作は、音声機能が操作の妨げとなる動作を含んでもよい。特定の動作は、例えば、繊細な動作、急傾斜での動作、運転室10の窓の解放等が挙げられる。
音声機能以外の特定の機能は、例えば、人検知機能、ペイロード機能、マシンコントロール機能、及び遠隔操作機能等を含んでもよい。人検知機能の動作状態は、作業機械100の周辺に存在する人を検知しているか否かを含む。人検知機能の動作状態は、検知された人の位置を含んでもよい。作業機械100の周辺に存在する人の位置を検知すれば、例えば、検知された人が近ければ内部音出力装置SP2から出力し、検知された人が遠くても後方であれば内部音出力装置SP2から出力する、といった制御が可能となる。ペイロード機能の動作状態は、負荷を感知しているか否かを含む。マシンコントロール機能及び遠隔操作機能の動作状態は、当該機能により自動施工を実行しているか否かを含む。
動作制御部303は、検出部302が検出した動作状態に応じて、音声機能の動作モードを特定の動作モードに移行する制御を行う。音声機能の動作モードは、音声機能に関連する動作状態を通知する通知動作、音声機能を開始する開始動作、音声機能を停止する停止動作、内部音出力装置SP2の音量を上げる音量変更動作、又は内部音出力装置SP2の音量を下げる音量変更動作のうち少なくとも1つ又は複数を含む。
通知動作は、音声機能に関連する動作状態を表示装置D1に表示する動作を含む。通知動作は、音声機能の動作モードを移行した旨、又は音声機能の動作モードの移行を提案する旨を表示装置D1に表示する動作を含んでもよい。
開始動作は、外部集音装置M1による音の収集、及び内部音出力装置SP2による音の出力を開始する動作を含む。開始動作は、外部集音装置M1を構成する複数のマイクのうち1以上のマイクによる音の収集を開始する動作でもよい。
停止動作は、外部集音装置M1による音の収集、又は内部音出力装置SP2による音の出力を停止する動作を含む。停止動作は、外部集音装置M1を構成する複数のマイクのうち1以上のマイクによる音の収集を停止する動作でもよい。
音量を上げる音量変更動作は、内部音出力装置SP2が出力する音全体の音量を上げること、内部音出力装置SP2が出力する音に含まれる目的音の音量を上げること、又は外部集音装置M1を構成する複数のマイクのうち1以上のマイクが収集した音の音量を上げることを含む。
音量を下げる音量変更動作は、内部音出力装置SP2が出力する音全体の音量を下げること、内部音出力装置SP2が出力する音に含まれる目的音の音量を下げること、又は外部集音装置M1を構成する複数のマイクのうち1以上のマイクが収集した音の音量を下げることを含む。
動作制御部303は、音声機能が正常に動作しないと判定した場合、通知動作、停止動作又は音量変更動作を含む第1動作モードに移行する。動作制御部303は、例えば、外部集音装置M1が音の収集に失敗した場合、外部集音装置M1が収集した音の音量が閾値以上である場合、又は外部集音装置M1が収集した音に含まれる目的音の音量が閾値以上である場合に、音声機能が正常に動作しないと判定してもよい。外部集音装置M1が音の収集に失敗する場合としては、外部集音装置M1が故障している場合が挙げられる。
なお、外部集音装置M1が収集した音の音量又は目的音の音量が閾値以上である場合は、外部集音装置M1は正常に動作している。ただし、外部集音装置M1が収集した音の音量が大き過ぎる場合、作業機械100の周辺で過大な騒音が発生しており、音声機能が正常に機能しない異常な環境であると言える。
例えば、外部集音装置M1が音の収集に失敗すると、内部音出力装置SP2から作業機械100の周囲の音を出力できないため、音声機能が正常に動作しない。この場合、外部集音装置M1の動作状態を通知すれば、操作者OPは音声機能で異常が起きていることを即時に認識できる。また、この場合に、音声機能を停止すれば、音声機能の異常動作により内部音出力装置SP2から異常な音が出力されることを抑止できる。
例えば、外部集音装置M1が収集した音の音量が大き過ぎると、雑音除去処理の性能限界により雑音が残存することがある。内部音出力装置SP2から雑音が残存した音が出力されても、操作者OPは作業機械100の周辺に存在する作業者WKの発話を聞き取れず、双方向会話が実質的に機能しない。また、例えば雨音、風音、ワイパー音等の目的音の音量が大き過ぎる場合も、作業機械100の周辺の音が大き過ぎることを意味しており、双方向会話が実質的に機能しない。この場合、作業機械100の周囲の音が大き過ぎることを通知すれば、操作者OPは音声機能が機能しない環境であることを即時に認識できる。また、この場合に、音声機能を停止すれば、内部音出力装置SP2から過大な騒音が出力されることを抑止できる。
動作制御部303は、音声機能が不要であると判定した場合、通知動作、停止動作又は音量変更動作を含む第1動作モードに移行する。動作制御部303は、音声機能以外の機能で作業機械100の周辺の状況を確認できる場合、操作者が操作に集中する必要がある場合、又は作業機械100の動作が不安定である場合に、音声機能が不要であると判定してもよい。具体的には、動作制御部303は、例えば、作業機械100の周辺に存在する人が検知されている場合、作業機械100が音声機能に関連する特定の動作を実行している場合、作業機械100がペイロード機能と連動した動作を実行している場合、又は操作者OPが音声機能を不要と設定した場合に、音声機能が不要であると判定してもよい。音声機能を不要とする設定は、表示装置D1に表示される画面で行われてもよい。
例えば、作業機械100の周辺に存在する人が検知されている場合、物体検出装置が正常に動作していることを意味している。この場合は、音声機能を用いずとも、操作者OPは作業機械100の周辺の状況を認識できるため、音声機能を停止しても、安全性が低下するおそれがない。
なお、作業機械100の周辺に存在する人が検知されている場合、検知された人の位置に応じて、第1動作モードを制御してもよい。例えば、検知された人の位置が作業機械100に近いほど、内部音出力装置SP2が出力する音の音量を大きくしてもよい。また、例えば、検知された人の位置が作業機械100の後方であれば、作業機械100との距離が遠くても内部音出力装置SP2による音の出力を開始してもよい。
例えば、作業機械100が繊細な動作又は急傾斜での動作を実行している場合、操作者OPは特に作業に集中する必要があるため、音声機能が操作の妨げとなり得る。この場合は、音声機能を停止すれば、操作者OPは操作に集中でき、安全性が向上する。
また、操作者OPは特に作業に集中する必要がある場合としては、例えば、作業機械100を輸送ダンプに載せる操作を実行している場合、作業機械100が所定の傾斜角以上の坂道を走行している場合、作業機械100の事故又は故障により走行又は旋回等が不安定である場合、作業機械100が危険を回避する動作をしている場合等が挙げられる。これらの場合も、音声機能を停止すれば、操作者OPは操作に集中でき、安全性が向上する。
例えば、運転室10の窓が解放されている場合、音声機能を用いずとも、作業機械100の操作者OPと作業機械100の周辺に存在する作業者WKとの会話が可能である。一方で、運転室10の窓が解放されている場合、音声機能を利用すると、ハウリングが発生するおそれがある。この場合、音声機能を停止すれば、操作者OPと作業者WKとの会話を妨げることなく、ハウリングの発生を抑止できる。
例えば、作業機械100がペイロード機能で負荷を感知している場合、操作者OPは特に作業に集中する必要があるため、音声機能が操作の妨げとなり得る。この場合は、音声機能を停止すれば、操作者OPは作業に集中でき、安全性が向上する。
動作制御部303は、音声機能が必要であると判定した場合、通知動作、開始動作又は音量変更動作を含む第2動作モードに移行する。動作制御部303は、例えば、音声機能以外の機能で作業機械100の周辺の動作が確認できない場合、操作者が作業機械100の周辺の作業者と連携した作業を実行している場合、又は作業機械100が操作者以外により操作されている場合に、音声機能が必要であると判定してもよい。具体的には、動作制御部303は、例えば、物体検出装置が物体の検出に失敗した場合、作業機械100がマシンコントロール機能又は遠隔操作機能と連動した動作を実行している場合、若しくは作業機械100がクレーンモードで動作している場合に、音声機能が必要であると判定してもよい。物体検出装置が物体の検出に失敗する場合としては、撮像装置S6又はLiDARが故障している場合、又は動作環境の影響で物体検出装置が正常に測定できない場合等が挙げられる。動作環境の影響とは、例えば、悪天候により暗過ぎる場合又は障害物が多い場合等が挙げられる。
例えば、物体検出装置が物体の検出に失敗する動作環境では、操作者OPは視界からの情報のみでは十分な情報が得られない。この場合は、音声機能を開始すれば、操作者OPは、作業機械100の周囲の音に基づいて作業機械100の状況を推測できるため、安全性が向上する。
例えば、作業機械100がマシンコントロール機能又は遠隔操作機能と連動して自動的に動作している場合には、操作者OPの集中力が減退するおそれがある。この場合は、音声機能を開始すれば、作業機械100の周辺に存在する作業者WKが操作者OPに作業機械100の状況を伝えることができるため、安全性が向上する。
例えば、作業機械100がクレーンモードで動作している場合には、操作者OPは作業機械100の近傍の作業者WKと連携して作業を行う必要がある。クレーンモードは、クレーン作業を行う際に、アタッチメントの動作を制限する動作モードである。例えば、クレーン作業では、アタッチメントに取り付けられたフックに吊り荷を取り付ける玉掛け作業が行われる。玉掛け作業者は、作業機械100の近傍で玉掛け作業を行うため、操作者OPと意思疎通しながら作業を進める必要がある。したがって、クレーンモードで動作している場合には、音声機能を開始すれば、操作者OPと玉掛け作業を行う作業者WKとが容易に意思疎通できるため、安全性が向上する。
雑音除去部304は、取得部301が外部集音装置M1から取得した音信号について、人の声の帯域を強調処理すると共に、人の声の帯域以外について低減処理をする。これらの処理としては、周知の手法を用いてよく、例えばノイズキャンセリング処理を行ってもよいし、バンドパスフィルタ等で人の声の帯域以外を抑制してもよい。具体的には、雑音除去部304は、ノイズキャンセリング処理として、複数の外部集音装置M1からの音信号に基づいて、エンジン11等の作業機械100から発生している音を抑制する処理を行う。これにより、雑音除去部304は、外部集音装置M1が収集した音信号から雑音を除去する。
操作受付部305は、入力装置D2、発話ボタンKS、及びスイッチSWのうち、いずれか一つ以上を介して操作者からの操作を受け付ける。例えば、操作受付部305は、発話ボタンKSが押下されたか否かの操作を受け付ける。
出力制御部306は、音信号に基づく音を、内部音出力装置SP2又は外部音出力装置SP1から出力する制御を行う。例えば、出力制御部306は、外部集音装置M1から取得した音信号に基づく音を、内部音出力装置SP2から出力する制御を行う。また、例えば、出力制御部306は、内部集音装置M2から取得した音信号に基づく音を、外部音出力装置SP1から出力する制御を行う。
出力制御部306は、発話ボタンKSが押下を受け付けた場合、内部集音装置M2から取得した音信号に基づく音を、外部音出力装置SP1から出力する制御を行う。出力制御部306は、発話ボタンKSの押下が継続している間、内部集音装置M2から取得した音信号に基づく音を、外部音出力装置SP1から出力する制御を行う。出力制御部306は、発話ボタンKSの押下が解除された場合に、内部集音装置M2から取得した音信号に基づく音を、外部音出力装置SP1から出力する制御を停止し、外部集音装置M1から取得した音信号に基づく音を、内部音出力装置SP2から出力する制御を行う。
当該制御によって、操作者は、所望のタイミングで、作業機械100の周辺に存在する人に話しかけることができる。また、当該制御によって、操作者は、作業機械100の周辺に存在する人に話しかける必要がないときは、作業機械100の周辺の音を聞くことができる。
なお、上述した出力制御を切り替えるための所定の操作は、発話ボタンKSの押下が継続しているか否かに制限されない。例えば、所定のボタンが押下される毎に、出力制御を切り替えてもよいし、運転室10内に設けられた撮像装置が撮像した画像に基づいて、表示装置D1に操作者が視線を向けたか否かに応じて、出力制御を切り替えてもよいし、入力装置D2に含まれるタッチパネルに対する操作に応じて、出力制御を切り替えてもよい。このように、所定の操作に応じた出力制御の切り替えであればよい。
出力制御部306は、発話ボタンKSの押下又はスイッチSWに対するオフにする操作を受け付けない限り、外部集音装置M1が収集した音を、外部音出力装置SP1から出力する制御を行う。当該制御によって、操作者が意図的に操作を行わない限り、外部集音装置M1が収集した音が外部音出力装置SP1から出力されるので、操作者は作業機械100の周辺の状況を認識できる。
出力制御部306は、内部音出力装置SP2又は外部音出力装置SP1から音を出力する際に、音に対してノイズキャンセリング機能を実行する。ノイズキャンセリングは、周知の手法を用いてよく、例えば、雑音成分と逆位相の音を重ねることで、雑音成分を取り除くことが考えられる。さらに、出力制御部306は、出力する音に対して、人の声の帯域の強調処理を行ってもよい。出力制御部306がノイズキャンセリング機能を実行することで、何を話しているのか把握することが容易になる。
出力制御部306は、内部集音装置M2が収集した音、アラーム、及びホーンのうちいずれか一つを、外部音出力装置SP1から出力する制御を行う。出力制御部306は、外部音出力装置SP1から出力される音が複数種類存在する場合に、優先度に基づいて、内部集音装置M2が集音した音、アラーム、及びホーンのうちいずれか一つを、外部音出力装置SP1から出力する制御を行う。
表示制御部307は、表示装置D1の表示を制御する。表示制御部307は、動作制御部303による通知動作に応じて、音声機能に関連する動作状態を表示装置D1に表示する。表示制御部307は、音声機能に関連する動作状態と共に、音声機能の動作モードに関する情報を表示装置D1に表示してもよい。音声機能の動作モードに関する情報としては、音声機能の動作モードを移行した旨、又は音声機能の動作モードの移行を提案する旨を示す情報が挙げられる。
[表示装置の表示例]
図8は、表示装置D1の表示例を示す図である。作業機械100の表示装置D1は、画像表示部142を有する。画像表示部142には、表示制御部307からの制御に従って、日時表示領域142a、走行モード表示領域142b、アタッチメント表示領域142c、燃費表示領域142d、エンジン制御状態表示領域142e、エンジン稼働時間表示領域、冷却水温表示領域142g、燃料残量表示領域142h、回転数レベル表示領域142i、尿素水残量表示領域142j、作動油温表示領域142k、ショベル状態表示領域421、第1画像表示領域422、第2画像表示領域423、及び、通知表示領域424を含む表示画面185が表示される。
図8は、表示装置D1の表示例を示す図である。作業機械100の表示装置D1は、画像表示部142を有する。画像表示部142には、表示制御部307からの制御に従って、日時表示領域142a、走行モード表示領域142b、アタッチメント表示領域142c、燃費表示領域142d、エンジン制御状態表示領域142e、エンジン稼働時間表示領域、冷却水温表示領域142g、燃料残量表示領域142h、回転数レベル表示領域142i、尿素水残量表示領域142j、作動油温表示領域142k、ショベル状態表示領域421、第1画像表示領域422、第2画像表示領域423、及び、通知表示領域424を含む表示画面185が表示される。
走行モード表示領域142b、アタッチメント表示領域142c、エンジン制御状態表示領域142e、及び回転数レベル表示領域142iは、作業機械100の設定状態に関する情報である設定状態情報を表示する領域である。燃費表示領域142d、エンジン稼働時間表示領域、冷却水温表示領域142g、燃料残量表示領域142h、尿素水残量表示領域142j、及び作動油温表示領域142kは、各種センサの検知結果に基づいて、作業機械100の稼動状態を表した情報である稼動状態情報を表示する領域である。
日時表示領域142aは、現在の日時を表示する領域である。走行モード表示領域142bは、現在の走行モードを表示する領域である。アタッチメント表示領域142cは、現在装着されているアタッチメントを表す画像を表示する領域である。燃費表示領域142dは、コントローラ30によって算出された燃費情報を表示する領域である。燃費表示領域142dは、生涯平均燃費又は区間平均燃費を表示する平均燃費表示領域142d1、瞬間燃費を表示する瞬間燃費表示領域142d2を含む。
エンジン制御状態表示領域142eは、エンジン11の制御状態を表示する領域である。エンジン稼働時間表示領域は、エンジン11の累積稼働時間を表示する領域である。冷却水温表示領域142gは、現在のエンジン冷却水の温度状態を表示する領域である。燃料残量表示領域142hは、燃料タンクに貯蔵されている燃料の残量状態を表示する領域である。
回転数レベル表示領域142iは、ダイヤルによって設定されたエンジン11の現在のレベルを画像で表示する領域である。回転数レベル表示領域142iには、選択されているレベルを示す数字が表示される。回転数レベル表示領域142iに表示された「1」は、選択されている回転数レベルが「第1レベル」であることを示す。回転数レベル表示領域142iに表示された数字「n」は、選択されている回転数レベルが「第nレベル」であることを示す。「n」は、自然数である。操作者がダイヤルを回転させると、回転数レベル表示領域142iに表示される数字が変化する。
尿素水残量表示領域142jは、尿素水タンクに貯蔵されている尿素水の残量状態を画像で表示する領域である。作動油温表示領域142kは、作動油タンク内の作動油の温度状態を表示する領域である。
ショベル状態表示領域421は、作業機械100と、作業機械100の周辺で検出された人との間の位置関係を表した情報を表示する領域である。
ショベル状態表示領域421は、作業機械100を中心とした実空間を所定の縮尺率で表した表示領域とする。ショベル状態表示領域421は、当該領域の中心に、作業機械100の存在を示すショベルアイコン421bが配置される。
ショベル状態表示領域421には、作業機械100を表したショベルアイコン421b以外に、作業機械100の進行可能な方向を示す方向表示アイコン421aと、作業機械100の周囲から検出された人を表した人検出アイコン421e、421f、421gとが同時に表示される。ショベル状態表示領域421は、ショベルアイコン421b、方向表示アイコン421a、及び、人検出アイコン421e、421f、421g以外の領域(換言すれば背景)は、例えば単色(例えば黒)で表された領域であってもよい。
ショベルアイコン421bは、旋回角度に基づいた上部旋回体3と下部走行体1との位置関係に従って、上部旋回体3を示す画像と、下部走行体1を示す画像と、を組み合わせたアイコンとする。
方向表示アイコン421aは、走行レバーを前に倒した時に作業機械100が走行する向きを三角形状で示している。なお、本実施形態は、走行レバーを前に倒した時に作業機械100が走行する向きを表したアイコンの一例を示したものであって、作業機械100の進行可能な方向を表した形状であれば、任意の形状でよい。
人検出アイコン421e、421f、421gは、撮像装置S6が撮像した画像情報により検出された人を表すアイコンとする。具体的には、人検出アイコン421e、421f、421gは、コントローラ30から受信した人の位置情報に基づいて配置される。例えば、人検出アイコン421e、421f、421gは、作業機械100を基準として、検出された人が存在する方向及び距離を、所定の縮尺率で乗算した位置に配置される。
このように、ショベルアイコン421bと人検出アイコン421e、421f、421gとの位置関係は、実空間の作業機械100と作業機械100の周囲に存在する人との間の位置関係に対応している。
作業機械100の周辺に人がいるものの車外音を内部音出力装置SP2から出力させない場合、作業機械100と周辺にいる人とを表示装置D1に表示させることで、作業機械100と周辺にいる人との位置関係を作業機械100の操作者に認識させることができる。
なお、図示例では、ショベル状態表示領域421は作業機械100と、作業機械100の周囲に存在する人と、をアイコンで表示したアイコン画像を表示しているが、ショベル状態表示領域421は俯瞰画像を表示してもよい。俯瞰画像は、例えば作業機械100に設けられた撮像装置S6が撮像した画像情報を合成して生成した画像でもよく、作業機械100の上空から例えばドローン等で空撮した画像でもよい。
ショベル状態表示領域421には、作業機械100を基準として、当該作業機械100からの距離に応じて定められた第1円領域421cと、第2円領域421dと、が表示される。
図示例では、第1円領域421c、及び、第2円領域421dは、ショベルアイコン421bを基準として、操作者に作業機械100からの相対的な距離を認識させるための円として表されている。
画像表示部142には、ショベル状態表示領域421が表示されると共に、撮像装置S6により撮像された画像情報が表示される。操作者は、ショベル状態表示領域421と共に画像情報を確認することで、作業機械100の周囲の具体的な状況を認識できる。したがって安全性の向上を実現できる。
図示例では、第1画像表示領域422、及び、第2画像表示領域423は、撮像装置S6が撮像した画像情報を表示する領域である。第1画像表示領域422には、右方画像が表示される。第2画像表示領域423には、後方画像が表示される。右方画像は、作業機械100の右方の空間を映し出す画像であり、上部旋回体3の上面右端の画像422cを含む。右方画像は、表示制御部307によって生成される実視点画像であり、カメラS6Rが取得した画像に基づいて生成される。後方画像は、作業機械100の後方の空間を映し出す画像であり、カウンタウェイトの画像423cを含む。後方画像は、表示制御部307によって生成される実視点画像であり、カメラS6Bが取得した画像に基づいて生成される。
第1画像表示領域422は、ショベル状態表示領域421を基準として右方に表示される。また、第2画像表示領域423は、ショベル状態表示領域421を基準として下方に表示される。なお、本実施形態は、画像表示部142の上方が、上部旋回体3の前方に対応する例とする。換言すれば、第2画像表示領域423は、ショベル状態表示領域421を基準として後方に対応する位置に表示される。つまり、画像表示部142は、ショベル状態表示領域421を基準として、撮像装置S6が撮像した方向に、撮像装置S6が撮像した画像情報が表示される。本実施形態では、ショベル状態表示領域421を基準として、撮像した方向に撮像した画像情報を表示しているので、操作者は、画像情報を参照した際に、画像情報がどの方向の状況を表しているのか直感的に認識できる。したがって、安全性の向上を実現できる。
また、コントローラ30が、右方画像及び後方画像のうちいずれか一つ以上から人を検出した場合、表示制御部307において、人を検出した領域を示す情報を示す枠を、右方画像及び後方画像のうち人が検出された画像に重畳する。これにより、第1画像表示領域422の右方画像には枠422bが表示され、第2画像表示領域423の後方画像には枠423bが表示される。そして、枠422b内に人アイコン422aが表示され、枠423b内に人アイコン423aが表示されることになる。
通知表示領域424は、音声機能に関連する動作状態424aを表示する。通知表示領域424は、音声機能の動作モードに関する情報424bを表示してもよい。動作モードに関する情報424bは、動作モードの移行を提案する旨の文字列を含んでもよい。動作モードに関する情報424bは、動作モードを移行したことを通知する旨の文字列を含んでもよい。
通知表示領域424は、文字列以外で動作状態424a又は動作モードに関する情報424bを表示してもよい。例えば、動作状態424aは、動作状態を示すアイコン、画像又は動画でもよい。同様に、動作モードに関する情報424bは、例えば、動作モードを示すアイコン、画像又は動画でもよい。
図示例では、通知表示領域424には、音声機能に関連する動作状態の一例として、「車外音の音量が異常です」といった文字列が表示されている。また、通知表示領域424には、動作モードの移行を提案する旨の一例として、「会話機能をオフにしてください」といった文字列が表示されている。なお、動作モードを移行したことを通知する旨としては、例えば、「会話機能をオフにしました」といった文字列が挙げられる。
通知表示領域424は、設定スイッチ424cを表示してもよい。設定スイッチ424cは、会話機能を必要とする(オン)か、会話機能を不要とする(オフ)かを切り替えるスイッチである。図示例では、スイッチが左側に位置するときはオンであり、右側に位置するときはオフとする。コントローラ30は、設定スイッチ424cがオフであるとき、音声機能を不要と判定する。
音声機能に関連する動作状態が表示装置D1に表示されることで、操作者OPは音声機能に関連する動作状態を即時に認識できる。音声機能に異常が発生している場合には、操作者OPは迅速に対策を講じることができる。例えば、操作者OPは作業機械100の周辺に存在する作業者WK、又は現場を管理する管理者に注意喚起できる。
通知表示領域424は、ショベル状態表示領域421、第1画像表示領域422及び第2画像表示領域423と共に表示装置D1に表示されている。操作者は、通知表示領域424で音声機能に関連する動作状態を確認するためには、表示装置D1に視線を向ける必要がある。すると、操作者は作業機械100の周囲の状況を肉眼で確認できなくなる。このとき、表示装置D1には、通知表示領域424と同じ画面に、ショベル状態表示領域421、第1画像表示領域422及び第2画像表示領域423が表示されている。操作者は、作業機械100の周囲の状況を確認しながら通知表示領域424を確認できるため、安全性を損ねることなく音声機能に関連する動作状態を確認できる。
[動作制御処理の流れ]
次に、コントローラ30が実行する動作制御処理について説明する。図9は、動作制御処理の一例を示すフローチャートである。
次に、コントローラ30が実行する動作制御処理について説明する。図9は、動作制御処理の一例を示すフローチャートである。
動作制御処理は、作業機械100が稼働している間、所定の時間間隔で繰り返し実行される。所定の時間間隔は、例えば、雑音除去処理のフレーム長に相当する時間長でもよい。
ステップS101において、コントローラ30の取得部301は、外部集音装置M1から、作業機械100の周辺で生じた音を表した音信号を取得する。取得部301は、取得した音信号を雑音除去部304に送る。
ステップS102において、コントローラ30の検出部302は、各種センサの出力に基づいて、作業機械100の動作状態を検出する。検出部302は、検出した動作状態を示す情報を動作制御部303に送る。
ステップS103において、コントローラ30の動作制御部303は、検出部302から動作状態を示す情報を受け取る。動作制御部303は、作業機械100の動作状態に基づいて、音声機能が正常に動作するか否かを判定する。音声機能が正常に動作すると判定した場合(YES)、動作制御部303はステップS104に処理を進める。一方、音声機能が正常に動作しないと判定した場合(NO)、動作制御部303はステップS105に処理を進める。
ステップS104において、コントローラ30の動作制御部303は、作業機械100の動作状態に基づいて、音声機能が必要であるか否かを判定する。音声機能が必要であると判定した場合(YES)、動作制御部303はステップS106に処理を進める。一方、音声機能が不要であると判定した場合(NO)、動作制御部303はステップS105に処理を進める。
ステップS105において、コントローラ30の動作制御部303は、停止動作又は音量変更動作を含む第1動作モードに移行する。第1動作モードが停止動作を含む場合、動作制御部303は、音声機能を停止する。ただし、音声機能が既に停止している場合、動作制御部303は、停止動作を実行しなくてもよい。第1動作モードが音量変更動作を含む場合、動作制御部303は、内部音出力装置SP2の音量を下げる。
第1動作モードが停止動作を含む場合、動作制御部303はステップS110に処理を進める。一方、第1動作モードが音量変更動作を含む場合、動作制御部303はステップS107に処理を進める。
ステップS106において、コントローラ30の動作制御部303は、開始動作又は音量変更動作を含む第2動作モードに移行する。第2動作モードが開始動作を含む場合、動作制御部303は、音声機能を開始する。ただし、音声機能が既に開始している場合、動作制御部303は、開始動作を実行しなくてもよい。第2動作モードが音量変更動作を含む場合、動作制御部303は、内部音出力装置SP2の音量を上げる。
ステップS107において、コントローラ30の雑音除去部304は、雑音除去処理を調整する。例えば、雑音除去部304は、特定の周波数帯をカットするフィルタを自動作成する。特定の周波数帯は、作業機械100の操作者又は管理者等の人物により手作業で設定されてもよい。特定の周波数帯は、特定の音(例えば、ブザー音等)の帯域を含んでもよい。また、例えば、雑音除去部304は、外部集音装置M1により収集された音信号に基づいて、特定の周波数帯をカットするフィルタを学習してもよい。この場合、特定の周波数帯は、音信号に定常的に存在するノイズの帯域を含んでもよい。
雑音除去部304が雑音除去処理を調整した場合、表示制御部307は、雑音除去処理を調整した旨を表示装置D1に表示してもよい。表示制御部307は、雑音除去処理を調整した旨と共に、カットする周波数帯又はカットする音を示す情報を、表示装置D1に表示してもよい。例えば、表示制御部307は、フィルタに設定された周波数ごとの音圧レベルを波形等で表示してもよい。
図10は、雑音除去調整画面の一例を示す図である。図10に示されるように、雑音除去調整画面430は、レベル調整領域431、平坦化ボタン432、反転ボタン433及び適用ボタン434を有する。雑音除去調整画面430は、表示制御部307の制御により、表示装置D1に表示される。
レベル調整領域431は、周波数ごとに音圧レベルを設定する領域である。レベル調整領域431において、カットしたい周波数帯の音圧レベルを下げることで、当該周波数帯の雑音を除去するフィルタが作成される。平坦化ボタン432は、レベル調整領域431における各周波数帯の音圧レベルを平坦化するためのボタンである。反転ボタン433は、レベル調整領域431における各周波数帯の音圧レベルを反転するためのボタンである。適用ボタン434は、レベル調整領域431で設定した周波数ごとの音圧レベルを確定し、フィルタを作成するためのボタンである。
雑音除去処理を調整することで、音声機能が必要な場合に、雑音をより低減した音声を内部音出力装置SP2から出力できるようになる。例えば、操作者が手作業で雑音除去処理を調整することで、操作者にとって不要な音を重点的に抑圧し、必要な音声を聞き取り易くできる。また、外部集音装置M1により収集された音信号からフィルタを学習することで、作業現場で定常的に発生しているノイズを精度よく除去することが可能となる。
ステップS108において、コントローラ30の雑音除去部304は、取得部301から音信号を受け取る。雑音除去部304は、音信号に対して雑音除去処理を実行する。雑音除去部304は、雑音除去後の音信号を出力制御部306に送る。
ステップS109において、コントローラ30の出力制御部306は、雑音除去部304から雑音除去後の音信号を受け取る。出力制御部306は、雑音除去後の音信号を内部音出力装置SP2に送る。内部音出力装置SP2は、雑音除去後の音信号を受け取る。内部音出力装置SP2は、雑音除去後の音信号に基づく音を出力する。
ステップS110において、コントローラ30の動作制御部303は、通知動作を実行する。コントローラ30の表示制御部307は、動作制御部303による通知動作に応じて、音声機能に関連する動作状態を表示装置D1に表示する。
本実施形態では、コントローラ30が、作業機械100の動作状態に応じて、特定の音声機能の動作モードに移行する。音声機能が正常に動作しない動作状態である場合、又は音声機能が必要でない動作状態である場合には、音声機能を実行すると操作者OPの操作の妨げとなることがある。作業機械100の動作状態に応じて音声機能の動作モードを移行することで、音声機能が操作者OPの操作の妨げとならず、作業機械100の安全性を向上できる。
[その他の実施形態]
その他の実施形態として、操作者が双方向会話を実現するための音の出力機能及び作業者に話しかけるか否かの切り替えについて説明する。
その他の実施形態として、操作者が双方向会話を実現するための音の出力機能及び作業者に話しかけるか否かの切り替えについて説明する。
内部音量ダイヤルDL2は、内部音出力装置SP2から出力される音量を調整する他に、押しボタンスイッチ機能を有している。本実施形態に係る内部音量ダイヤルDL2が押下されたか否かに応じて、音の出力をミュートにするか否かが切り替えられる。
スイッチSWは、押下に応じて音の出力機能のオン、オフを切り替えるためのボタンである。スイッチSWの具体的な機能は、上述した通りとして説明を省略する。
作業機械100のコントローラ30は、音の出力機能がオフの状態において、スイッチSWから押下されたことを示す信号を受信した場合に、音の出力機能をオンとする。
外部音量ダイヤルDL1は、外部音出力装置SP1から出力される音の音量を調整する他に、押しボタンスイッチ機能を有している。本実施形態に係る外部音量ダイヤルDL1が押下されたか否かに応じて、作業機械100の周囲にいる作業者に話しかけるか否かが切り替えられる。換言すれば、外部音量ダイヤルDL1の押下は、図5に示されるノブスイッチの発話ボタンKSと同様の発話ボタンとして機能する。
つまり、作業機械100のコントローラ30は、外部音量ダイヤルDL1(発話ボタン)が押下されたことを示す信号を受信した場合に、内部集音装置M2が収集した(操作者OPが発した音声を含む)音を外部音出力装置SP1から出力する制御を可能とする。
また、作業機械100のコントローラ30は、音の出力機能がオンの状態において、内部音量ダイヤルDL2から押下されたことを示す信号を受信した場合に、出力される音をミュートにする。これにより、コントローラ30は、外部集音装置M1が収集した(作業機械100周辺に存在している作業者WKが発した音声を含む)音を内部音出力装置SP2から出力する制御を停止する。
本実施形態においては、音の出力機能が利用可能となる条件を制限するものではなく、実施態様に応じて定めてよい。
例えば、作業機械100のコントローラ30は、作業機械100の駆動源11が動作した状態に限り、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能とする。したがって、コントローラ30は、作業機械100の駆動源11が動作した状態において、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御を可能とし、且つ、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御を可能とする。そして、コントローラ30は、駆動源11が動作していない状態において、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御を抑制し、且つ、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御を抑制する。本実施形態においては、作業機械100の駆動源11が動作した状態において、双方向会話を可能としている。したがって、操作者は、作業機械100の作業中において、作業機械100の周辺に存在する人との間でコミュニケーションを行うことで、作業効率の向上を実現できる。さらに、コントローラ30が、音の出力機能の利用を、作業機械100の駆動源11が動作した状態に制限することで、電力消費量を抑制できる。
他の例としては、作業機械100のコントローラ30は、(作業機械100の駆動源11が動作した状態を含む)作業機械100がキーオン状態に限り、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能とする。つまり、作業機械100では、作業機械100に設けられている周辺機器(例えば空調機器、ラジオチューナ等)に電力の供給が行われている場合には、音の出力機能のオンにできると共に作業者に話しかけることができる。したがって、コントローラ30は、作業機械100に設けられている周辺機器(例えば空調機器、ラジオチューナ等)に電力の供給が行われているキーオン状態において、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御を可能とし、且つ、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御を可能とする。そして、コントローラ30は、キーオフ状態において、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御を抑制し、且つ、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御を抑制する。本実施形態においては、作業機械100がキーオン状態において、双方向会話を可能としている。したがって、操作者は、作業機械100による作業が行われていない時、例えば、作業前の事前打合せ等でも、作業機械100の周辺に存在する人との間でコミュニケーションを容易に行うことができるので、作業効率の向上を実現できる。
他の例としては、作業機械100のコントローラ30は、作業機械100のゲートロックレバーGLが第2操作位置にありゲートバー55が通過禁止状態にある場合に限り、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能とする。さらには、作業機械100のコントローラ30は、作業機械100のゲートロックレバーGLが第1操作位置にありゲートバー55が通過可能状態にある場合に、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能としてもよい。
さらなる例としては、作業機械100のコントローラ30は、作業機械100がキーオフ状態、換言すれば、駆動源11が動作していない、且つ、作業機械100に設けられている周辺機器等に電力の供給が行われていない状態であっても、内部音量ダイヤルDL2からの信号に応じて、音の出力機能のオンとオフとを切り替えることを可能とする手法がある。つまり、コントローラ30は、キーオン状態及びキーオフ状態を問わず、外部集音装置M1が収集した音を内部音出力装置SP2から出力する制御を可能とし、且つ、内部集音装置M2が収集した音を外部音出力装置SP1から出力する制御を可能とする。本実施形態においては、作業機械100が任意のタイミングで、双方向会話を可能としている。したがって、操作者が話したにもかかわらず、周囲に聞こえていない等の状況が生じることを抑制できるので、コミュニケーションの疎通が容易になる。
[作業機械の別の構成例]
次に、図11を参照し、作業機械100の別の構成例について説明する。図11は、作業機械100の別の構成例の上面図である。図11に示す作業機械100は、外部音出力装置SP1が4台のスピーカ(前スピーカSP1F、左スピーカSP1L、右スピーカSP1R、及び後スピーカSP1B)によって構成されている点で、図1に示す作業機械100と異なる。図1に示す作業機械100では、外部音出力装置SP1は、運転室10の上に設けられた1台の無指向性スピーカによって構成されている。
次に、図11を参照し、作業機械100の別の構成例について説明する。図11は、作業機械100の別の構成例の上面図である。図11に示す作業機械100は、外部音出力装置SP1が4台のスピーカ(前スピーカSP1F、左スピーカSP1L、右スピーカSP1R、及び後スピーカSP1B)によって構成されている点で、図1に示す作業機械100と異なる。図1に示す作業機械100では、外部音出力装置SP1は、運転室10の上に設けられた1台の無指向性スピーカによって構成されている。
この構成により、図11に示す作業機械100は、例えば、前スピーカSP1Fをオン(音を出力できる状態)にし、左スピーカSP1L、右スピーカSP1R、及び後スピーカSP1Bをオフ(音を出力できない状態)にすることにより、作業機械100の左方、右方、及び後方にいる作業者WKに向けて音を出力することなく、作業機械100の前方にいる作業者WKに向けて音を出力することができる。
また、図11に示す例では、前スピーカSP1Fに隣接するように前カメラS6F及び前マイクM1Fが設けられ、前マイクM1Fの筐体には前ライトバーG1Fが設けられている。また、左スピーカSP1Lに隣接するように左カメラS6L及び左マイクM1Lが設けられ、左マイクM1Lの筐体には左ライトバーG1Lが設けられている。また、右スピーカSP1Rに隣接するように右カメラS6R及び右マイクM1Rが設けられ、右マイクM1Rの筐体には右ライトバーG1Rが設けられている。また、後スピーカSP1Bに隣接するように後カメラS6B及び後マイクM1Bが設けられ、後マイクM1Bの筐体には後ライトバーG1Bが設けられている。
この構成により、作業機械100は、オンにしたスピーカに対応するライトバーをオン(発光可能な状態)にし、オフにしたスピーカに対応するライトバーをオフ(発光不能な状態)にすることができる。
なお、外部音出力装置SP1は、1台又は複数台のパラメトリックスピーカで構成されていてもよい。パラメトリックスピーカは、特定の狭い範囲にいる人に選択的に音を伝えることができる、超音波を利用したスピーカである。パラメトリックスピーカは、任意の位置に向けて音を伝えることができる。
図11に示す作業機械100では、コントローラ30は、撮像装置S6が撮像した画像に基づいて作業機械100の周囲にいる作業者WKを検出し、作業者WKの位置を特定してもよい。また、作業機械100の周囲に複数の作業者WKがいる場合には、コントローラ30は、四つの外部集音装置M1の出力に基づき、会話対象者(声を出している作業者WK)と非対象者(声を出していない作業者WK)とを判別してもよい。なお、コントローラ30は、撮像装置S6が撮像した画像に基づき、会話対象者(作業機械100の方を向いている作業者WK)と非対象者(作業機械100の方を向いていない作業者WK)とを判別してもよい。そして、コントローラ30は、作業者WKの方を向いているスピーカ及びライトバーをオンにしてもよい。例えば、作業機械100の後方に(声を出している)作業者WKがいる場合には、コントローラ30は、前スピーカSP1F、左スピーカSP1L、及び右スピーカSP1Rをオフにしたまま、後スピーカSP1Bをオンにしてもよい。この場合、コントローラ30は、前ライトバーG1F、左ライトバーG1L、及び右ライトバーG1Rをオフにしたまま、後ライトバーG1Bをオンにしてもよい。なお、このような機能は、図1~図5に示す作業機械100において実現されてもよい。
この構成により、コントローラ30は、作業者WKがいない方向に向けて音を出力することなく、作業者WKがいる方向に向けて音を出力することができる。そのため、作業者WKは、自身が会話対象者とされているか非対象者とされているかを容易に認識することができる。
[作業機械の操作システム]
次に、図12を参照し、本開示の実施形態に係る操作システムSYS(作業機械のシステムの一例)の構成例について説明する。図12は、操作システムSYSの構成例を示す概要図である。操作システムSYSは、図12に示すように、作業機械100、遠隔操作室RC、及び管理センタMCを含む。なお、図12では、作業機械100の詳細な構成については図示が省略されている。図12に示す作業機械100は、図1又は図11に示す作業機械100と同じ構成を有するためである。
次に、図12を参照し、本開示の実施形態に係る操作システムSYS(作業機械のシステムの一例)の構成例について説明する。図12は、操作システムSYSの構成例を示す概要図である。操作システムSYSは、図12に示すように、作業機械100、遠隔操作室RC、及び管理センタMCを含む。なお、図12では、作業機械100の詳細な構成については図示が省略されている。図12に示す作業機械100は、図1又は図11に示す作業機械100と同じ構成を有するためである。
作業機械100、遠隔操作室RC、及び管理センタMCは、通信ネットワークNWを介してデータの送受信ができるように互いに接続されている。なお、作業機械100、遠隔操作室RC、及び管理センタMCは、通信ネットワークNWを介さずに互いに直接的にデータの送受信ができるように互いに接続されていてもよい。図示例では、作業機械100は、作業現場に関する情報を遠隔操作室RCに送信する。これにより、遠隔操作室RCにいる遠隔操作者ROは、作業機械100からの情報に基づいて作業現場の状況を把握することができる。
作業機械100には、作業現場に存在する物体の位置及び形状を3次元的に認識可能なセンサが設けられている。例えば、作業機械100には空間認識装置が設けられている。そのため、作業機械100は、作業現場を3次元的に測定した結果を遠隔操作室RCに送信できる。
空間認識装置は、作業機械100の周囲にある空間を認識するための装置である。図示例では、空間認識装置はLiDARである。LiDARは、例えば、監視範囲内にある100万点以上の点のそれぞれとLiDARとの間の距離を測定する。なお、空間認識装置は、物体との間の距離を計測可能な装置であればよい。例えば、空間認識装置は、ステレオカメラであってもよいし、撮像装置S6とミリ波レーダ等の測距装置との組み合わせであってもよい。
操作システムSYSに含まれる作業機械100は、一台であってもよいし、複数台であってもよい。複数台の作業機械100を含む場合、特定の一台の作業機械100の遠隔操作者ROは、その特定の一台の作業機械100が入手する作業現場に関する情報に加え、他の一台又は複数台の作業機械100が入手する作業現場に関する情報を取得することができる。
遠隔操作室RCには、通信装置T2、遠隔コントローラ40、操作装置42、操作センサ43、表示装置D1E、内部集音装置M2E、及び内部音出力装置SP2Eが設置されている。また、遠隔操作室RCには、作業機械100を遠隔操作する遠隔操作者ROが座る操作席DSが設置されている。
通信装置T2は、作業機械100に取り付けられた通信装置T1との間で通信できるように構成されている。
遠隔コントローラ40は、各種演算を実行する演算装置である。本実施形態では、遠隔コントローラ40は、CPU及びメモリを含むマイクロコンピュータで構成されている。そして、遠隔コントローラ40の各種機能は、CPUがメモリに格納されたプログラムを実行することで実現される。
表示装置D1Eは、各種情報を表示可能な装置である。表示装置D1Eは、遠隔操作室RCにいる遠隔操作者ROが作業機械100の周囲を視認するために、作業機械100から送信されてくる情報に基づいた画像を表示する。図示例では、表示装置D1Eは、作業機械100に搭載されている撮像装置S6が撮像した画像を表示する液晶ディスプレイである。なお、表示装置D1Eは、裸眼立体視を実現するディスプレイ又はプロジェクタであってもよく、VRゴーグル等であってもよい。
内部音出力装置SP2Eは、各種音情報を出力可能な装置である。内部音出力装置SP2Eは、遠隔操作室RCにいる遠隔操作者ROが作業現場で発せられる音を聞くことができるよう、作業機械100から送信されてくる情報に基づいて音を出力する。内部音出力装置SP2Eは、例えば、運転室10の外部に取り付けられた外部集音装置M1が捉えた音を出力するように構成されていてもよく、運転室10の内部に取り付けられた内部集音装置M2が捉えた音を出力するように構成されていてもよい。この場合、内部集音装置M2は、運転室10内の運転席50に着座する操作者の耳の位置に相当する位置に設けられていてもよい。内部音出力装置SP2Eは、スピーカ等の設置型の装置であってもよく、イヤホン又はヘッドホン等の装着型の装置であってもよい。スピーカは、モノラルスピーカであってもよく、ステレオスピーカであってもよく、サラウンドスピーカであってもよい。また、スピーカは、無指向性スピーカであってもよく、指向性スピーカであってもよい。装着型の装置は、ノイズキャンセリング機能を備えたものであってもよく、空間オーディオ機能(立体音響機能)を備えたものであってもよく、骨伝導機能を備えたものであってもよい。
操作装置42には、操作装置42の操作内容を検出するための操作センサ43が設置されている。操作センサ43は、例えば、操作レバーの傾斜角度を検出する傾斜センサ、又は、操作レバーの揺動軸回りの揺動角度を検出する角度センサ等である。操作センサ43は、圧力センサ、電流センサ、電圧センサ、又は距離センサ等の他のセンサで構成されていてもよい。操作センサ43は、検出した操作装置42の操作内容に関する情報を遠隔コントローラ40に対して出力する。遠隔コントローラ40は、受信した情報に基づいて操作信号を生成し、生成した操作信号を作業機械100に向けて送信する。操作センサ43が操作信号を生成するように構成されていてもよい。この場合、操作センサ43は、遠隔コントローラ40を経由せずに、操作信号を通信装置T2に出力してもよい。このような構成により、遠隔操作者ROは、遠隔操作室RCから作業機械100を遠隔操作できる。
管理センタMCは、作業現場にある作業機械100、又は、遠隔操作室RCにいる遠隔操作者ROによる作業機械100の遠隔操作等を管理するための各種装置が設けられる施設である。図示例では、管理センタMCは、作業機械100の作業現場及び遠隔操作室RCのそれぞれから離れた位置に設置されている。そして、管理センタMCには、管理装置200、内部集音装置M2C、及び内部音出力装置SP2Cが設置されている。
管理装置200は、制御装置の一例であり、例えば、サーバコンピュータ(いわゆるクラウドサーバ)又はエッジサーバである。管理装置200は、典型的には固定型の端末装置であるが、可搬型の端末装置(例えば、ラップトップ型のコンピュータ、タブレット、又はスマートフォン等)であってもよい。
この構成により、管理センタMCにいる管理者は、例えば、作業機械100に取り付けられた集音装置(外部集音装置M1又は内部集音装置M2)と内部音出力装置SP2Cとを利用し、作業現場で発せられる音を聞くことができる。また、管理センタMCにいる管理者は、例えば、遠隔操作室RCに設けられた内部集音装置M2Eと内部音出力装置SP2Cとを利用し、遠隔操作室RCで発せられる音を聞くことができる。また、管理センタMCにいる管理者は、例えば、内部集音装置M2Cと作業機械100に取り付けられた外部音出力装置SP1とを利用し、自身が発した声を作業機械100の周囲にいる作業者WKに伝えることができる。また、管理センタMCにいる管理者は、例えば、内部集音装置M2Cと作業機械100に取り付けられた内部音出力装置SP2とを利用し、自身が発した声を作業機械100の操作者OPに伝えることができる。また、管理センタMCにいる管理者は、例えば、内部集音装置M2Cと遠隔操作室RCに設けられた内部音出力装置SP2Eとを利用し、自身が発した声を遠隔操作室RCにいる遠隔操作者ROに伝えることができる。
上述した操作システムSYSにおいては、外部集音装置M1が収集した作業機械100の周辺の音は、内部音出力装置SP2Eから出力されることになる。その際、遠隔コントローラ40は、作業機械100の動作状態に応じて、特定の音声機能の動作モードに移行する。これにより、作業機械100を遠隔操作する場合でも、音声機能が遠隔操作者ROの操作の妨げとならず、作業機械100の安全性を向上できる。
[操作システムの別の構成例]
上述した実施形態においては、外部集音装置M1と外部音出力装置SP1とが上部旋回体3に設けられている例について説明した。しかしながら、上述した実施形態は、外部集音装置M1と外部音出力装置SP1を、上部旋回体3に設ける態様に制限するものではない。第7の実施形態では、外部集音装置と外部音出力装置とを、作業機械100から離れた位置に設ける例について説明する。
上述した実施形態においては、外部集音装置M1と外部音出力装置SP1とが上部旋回体3に設けられている例について説明した。しかしながら、上述した実施形態は、外部集音装置M1と外部音出力装置SP1を、上部旋回体3に設ける態様に制限するものではない。第7の実施形態では、外部集音装置と外部音出力装置とを、作業機械100から離れた位置に設ける例について説明する。
図13を参照し、本開示の実施形態に係る操作システムSYS1(作業機械のシステムの他の一例)の構成例について説明する。図13は、本実施形態に係る作業機械100Aの操作システムSYS1の構成例を示す概略図である。操作システムSYS1は、図13に示すように、作業機械100A、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504を含む。
作業機械100Aは、図1又は図11に示す作業機械100と同じ構成でもよいし、作業機械100から外部集音装置M1及び外部音出力装置SP1のうちいずれか一つ以上が取り外された構成でもよい。つまり、本実施形態は、外部集音装置M1及び外部音出力装置SP1のうちいずれか一つ以上が設けられていない作業機械100Aでも双方向会話を実現する場合について説明する。
設置型マイク1501は、作業現場に設けられた集音装置であって、作業機械100Aと無線通信又は有線で接続可能とする。設置型マイク1501は、収集した音を示す音信号を、作業機械100に送信する。
設置型スピーカ1502は、作業現場に設けられた音出力装置であって、作業機械100と無線通信又は有線で接続可能とする。設置型スピーカ1502は、作業機械100Aから受信した音信号で示される音を出力する。
自律移動ロボット1504は、集音装置1504A及び音出力装置1504Bが設けられ、作業機械100と無線通信又は有線で接続可能とする。自律移動ロボット1504は、集音装置1504Aにより収集された音を示す音信号を、作業機械100Aに送信する。また、自律移動ロボット1504は、作業機械100から受信した音信号で示される音を、音出力装置1504Bから出力する。
自律移動ロボット1504は、作業現場の領域内を移動可能とする。本実施形態は、自律移動ロボット1504の移動態様を制限するものではない。例えば、自律移動ロボット1504に(図示しない)カメラ(検出装置の一例)が設けられている場合に、自律移動ロボット1504は、カメラで撮像された画像情報に基づいて、作業機械100Aが存在する位置を特定し、作業機械100Aが移動する場合に、作業機械100Aに追従するように移動してもよい。また、自律移動ロボット1504は、作業機械100Aとの間の通信における信号強度が所定の閾値以上になるように、作業機械100Aに追従してもよい。さらには、自律移動ロボット1504は、カメラで撮像された画像情報に基づいて、作業者が存在する位置を特定し、作業者の音声を収集可能な位置まで移動してもよい。
ドローン1503は、集音装置1503A及び音出力装置1503Bが設けられ、作業機械100Aと無線通信又は有線で接続可能とする。ドローン1503は、集音装置1503Aにより収集された音を示す音信号を、作業機械100Aに送信する。また、ドローン1503は、作業機械100Aから受信した音信号で示される音を、音出力装置1503Bから出力する。
ドローン1503は、作業現場の領域内を飛行可能に設けられている。本実施形態は、ドローン1503の移動態様を制限するものではなく、自律移動ロボット1503と同様に作業機械100Aに追従して移動してもよいし、作業者の音声を収集可能な位置まで移動してもよい。ドローン1503は、飛行しているので、作業現場の地形又は障害物にかかわらず、移動できる。
作業現場に設けられる、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々の数は、1つでもよいし、複数でもよい。
作業機械100Aは、作業機械100と同様にコントローラ30を備えている。コントローラ30は、通信装置T1を用いることで、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々との間で情報の送受信を可能とする。
つまり、本実施形態に係るコントローラ30は、内部集音装置M2によって収集された音を示す音信号を、通信装置T1を介して、作業機械100Aから離れた位置に存在する音出力装置に送信する制御を行い、作業機械100Aから離れた位置に存在する集音装置から通信装置を介して受信した音信号に示される音を、内部音出力装置SP2から出力する制御を行う。
例えば、コントローラ30は、内部集音装置M2が収集した音を示す音信号を、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504のうち少なくとも一つ以上に送信する。
他の例としては、コントローラ30は、設置型マイク1501、ドローン1503、及び、自律移動ロボット1504のうち少なくとも一つ以上から音信号を受信し、受信した音信号で示される音を、内部音出力装置SP2から出力する。
作業現場に設置される集音装置及び音出力装置は、上述した態様に制限するものではない。例えば、作業現場を監視する監視装置が、空間認識装置(例えば撮像装置)に加えて、集音装置及び音出力装置が備えられる手法がある。
ところで、作業現場が広い場合には、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々が複数設けられることになる。さらには、作業現場に存在する作業機械100Aの数も多くなる。この場合、作業現場に存在する設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の全てが、作業機械100Aから受信した音信号による音声を出力すると、作業現場に存在する人は、どの作業機械100Aからの音声か認識するのが難しい。
そこで、本実施形態に係る作業機械100Aは、所定の条件を満たした場合に限り、作業現場に存在する、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504のうち少なくとも一つ以上と通信を確立し、双方向会話を実現可能とする。本実施形態では、例えば、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々のうち、作業機械100Aと所定の距離内と判定された機器について、通信を確立して双方向会話を実現する。
作業現場に存在する機器が作業機械100Aと所定の距離内か否かを判定する手法は、周知の手法を問わず、あらゆる手法を用いてよい。例えば、撮像装置S6が撮像した画像情報に機器が写っている場合に、写っているサイズ及び位置等から、当該機器までの距離を判定してもよい。その際に、機器に2次元コードが示されたシール等を張り付けることも考えられる。コントローラ30は、画像情報に写っている2次元コードから、画像情報に写っている機器に関する情報(例えば機器の固有情報、接続先のアドレス情報等)を認識できる。
他の例としては、作業機械100Aのコントローラ30が、設置型マイク1501及び設置型スピーカ1502の位置情報を予め記憶する手法がある。そして、コントローラ30は、測位装置PSによって測定された位置に基づいて、設置型マイク1501及び設置型スピーカ1502が所定の範囲内に存在するか否かを判定する。さらには、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々は、作業機械100Aに対して定期的に位置情報を送信する手法がある。
また、本実施形態は、音の出力及び音の収集のうち少なくとも一つ以上を実現する条件を、所定の距離内という条件を満たした場合に制限するものではない。例えば、作業機械100Aが複数存在する場合に、複数の作業機械100Aのうち最も近い作業機械100Aが、音の出力機能を実現するための機器(例えば、設置型マイク1501、設置型スピーカ1502、ドローン1503、又は、自律移動ロボット1504)と、音の出力及び音の収集のうち少なくとも一つ以上を実現するために、通信を確立してもよい。さらには、複数の作業機械100Aの各々に優先順位が設定されてもよい。そして、音の出力機能を実現するための機器(例えば、設置型マイク1501、設置型スピーカ1502、ドローン1503、又は、自律移動ロボット1504)は、複数の作業機械100Aのうち、優先順位が最も高い作業機械100Aとの間で、音の出力及び音の収集のうち少なくとも一つ以上を実現するために、通信を確立してもよい。
また、本実施形態は、作業機械100Aとの間の音信号の送受信の対象を、図13に示される、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504に制限するものではない。例えば、作業機械100Aは、人が所有する通信端末との間で音信号を送受信してもよい。
本実施形態では、コントローラ30による、運転室の外側に設けられた音出力装置から出力するための制御として、作業機械100Aと離れた位置に存在する音出力装置を有する機器に、音信号を送信する例について説明した。本実施形態では、作業機械100Aに外部音出力装置SP1及び外部集音装置M1が設けられていない場合でも、作業機械100Aに搭乗している操作者と、作業機械100Aの外部に存在する人と、の間の双方向会話を実現できる。
さらに、本実施形態では、作業機械100Aと離れた位置に存在する集音装置及び音出力装置を用いるので、作業機械100Aに設けられている外部音出力装置SP1及び外部集音装置M1を利用する場合と比べて、外部に存在する人に音声の伝達、及び外部に存在する人の音声の収集の際に、騒音等の影響を抑制して、双方向会話を容易にできる。
本実施形態では、作業機械100Aに操作者が搭乗している場合について説明したが、作業機械100Aに操作者が搭乗している場合に制限するものではなく、遠隔操作者ROが作業機械100Aを遠隔操作室RCから操作する場合でも、本実施形態で示したような、作業機械100Aから離れた位置に設けられた音出力装置及び集音装置を用いて、双方向会話を実現してもよい。つまり、作業機械を操作している操作者が存在する領域と、作業機械の外部との各々の領域に設けられた集音装置及び音出力装置によって、互いの領域でそれぞれの音を伝達する機能が設けられていればよい。
上述した実施形態で示した内部集音装置、外部集音装置、内部音出力装置、及び、外部音出力装置は、様々な実施態様が考えられる。
例えば、操作者が発した音声を取得可能な位置に設けられた内部集音装置は、内部集音装置M2、M2C、M2Eを含む。また、操作者が発した音声を取得可能である、操作者の口付近に設けられた内部集音装置は、内部集音装置M2、M2C、M2Eを含む。また、操作者がコミュニケーションを行いたい場合に、操作者が向く方向に設けられている内部集音装置は、内部集音装置M2、M2C、M2Eを含む。
例えば、作業機械が作業を行う作業現場で生じた音を取得可能な位置に設けられた外部集音装置は、外部集音装置M1(M1F、M1R、M1L、M1B)、1501、1503A、1504Aを含む。例えば、作業機械が作業を行う作業現場に存在する人が発した音声を取得可能な位置に設けられた外部集音装置は、外部集音装置M1(M1F、M1R、M1L、M1B)、1501、1503A、1504Aを含む。作業機械100と連携して作業を行いたい作業者が発した音声を取得可能な位置に設けられた外部集音装置は、外部集音装置M1(M1F、M1R、M1L、M1B)、1501、1503A、1504Aを含む。
例えば、操作者が出力された音を聞くことが可能な位置に設けられた内部音出力装置は、内部音出力装置SP2(SP2R、SP2L)、SP2C、SP2Eを含む。また、操作者が出力された音を聞くことができるように、操作者の各耳付近に設けられた内部音出力装置は、内部音出力装置SP2(SP2R、SP2L)、SP2C、SP2Eを含む。
例えば、作業機械が作業を行う作業現場に存在する人が、作業機械の操作者が発した音声を聞くことが可能になる位置に設けられた外部音出力装置は、外部音出力装置SP1、1502、1503B、1504Bを含む。作業機械と連携して作業を行いたい作業者が、作業機械の操作者が発した音声を聞くことが可能になる位置に設けられた外部音出力装置は、外部音出力装置SP1、1502、1503B、1504Bを含む。
図14は、本実施形態に係る作業機械100Aと通信端末との間で行われる通信を示す概略図である。図14に示されるように、作業機械100Aは、4個の通信端末1701~1704との間で通信可能に接続される。
例えば、作業機械100Aは、4個の通信端末1701~1704の各々が収集した音を内部音出力装置SP2から出力する制御を可能とし、且つ、内部集音装置M2が収集した音を4個の通信端末1701~1704の各々から出力する制御を可能とする。
通信端末1701は、作業現場を監視する事務所に存在する現場監督が所有する端末とする。作業機械100Aの操作者は、作業機械100Aと通信端末1701との間で音信号の送受信を行うことで、現場監督との間で双方向会話を実現できる。したがって、作業機械100Aの操作者は、現場監督による作業方針、又は作業現場の状況を認識できる。
通信端末1702は、作業現場に存在する他の作業機械100Bを操作する操作者が所有する端末とする。作業機械100Aと通信端末1702との間で音信号の送受信を行うことで、作業機械100Aの操作者と作業機械100Bの操作者との間で双方向会話を実現できる。したがって、作業機械100Aと作業機械100Bとによる連携作業を可能とする。さらには、作業機械100Aを操作している操作者が、作業機械100Bを操作している操作者に対して、作業機械の操作に関する質問、教育又は指導等を行うことができる。
通信端末1703は、作業現場で作業しているダンプトラック1713を運転する運転手が所有する端末とする。作業機械100Aと通信端末1703との間で音信号の送受信を行うことで、作業機械100Aの操作者とダンプトラック1713の運転手との間で双方向会話を可能とする。したがって、作業機械100Aとダンプトラック1713の運転手とによる連携作業を可能とする。
通信端末1704は、作業現場で作業している作業者が所有する端末とする。作業機械100Aと通信端末1704との間で音信号の送受信を行うことで、作業機械100Aの操作者と作業者との間で双方向会話を可能とする。したがって、作業機械100Aと作業者とによる連携作業を可能とする。
本実施形態では、作業機械100Aに外部音出力装置SP1及び外部集音装置M1が設けられていない場合でも、作業機械100Aに搭乗している操作者と、作業機械100Aの外部に存在する人との間の双方向会話を実現できる。
さらに、本実施形態では、作業機械100Aと離れた位置に存在する集音装置及び音出力装置を用いるので、作業機械100Aに設けられている外部音出力装置SP1及び外部集音装置M1を利用する場合と比べて、外部に存在する人に音声の伝達、及び外部に存在する人の音声の収集の際に、騒音等の影響を抑制して、双方向会話を容易にできる。
本実施形態では、作業機械100Aに操作者が搭乗している場合について説明したが、作業機械100Aに操作者が搭乗している場合に制限するものではなく、遠隔操作者ROが作業機械100Aを遠隔操作室RCから操作する場合でも、本実施形態で示したような、作業機械100Aから離れた位置に設けられた音出力装置及び集音装置を用いて、双方向会話を実現してもよい。
以上、本開示の好ましい実施形態が説明された。しかしながら、本開示に係る発明は、上述した実施形態に限定されることはない。上述した実施形態は、本開示に係る発明の範囲を逸脱することなしに、種々の変形、置換等が適用され得る。また、上述した実施形態を参照して説明された特徴のそれぞれは、技術的に矛盾しない限り、適宜に組み合わされてもよい。
本願は、日本国特許庁に2024年3月11日に出願された日本国特許出願2024-37502号の優先権を主張するものであり、その全内容を参照することにより本願に援用する。
100、100A 作業機械
1 下部走行体
2 旋回機構
3 上部旋回体
4 ブーム
5 アーム
6 バケット
S6 撮像装置
G1 情報伝達装置
M1 外部集音装置
M2、M2C、M2E 内部集音装置
SP1 外部音出力装置
SP2、SP2C、SP2E 内部音出力装置
SW スイッチ
KS 発話ボタン
DL1 外部音量ダイヤル
DL2 内部音量ダイヤル
T1、T2 通信装置
30 コントローラ
301 取得部
302 検出部
303 動作制御部
304 雑音除去部
305 操作受付部
306 出力制御部
307 表示制御部
RC 遠隔操作室
40 遠隔コントローラ
200 管理装置
1501 設置型マイク
1502 設置型スピーカ
1503 ドローン
1504 自律移動ロボット
1503A、1504A 集音装置
1503B、1504B 音出力装置
1 下部走行体
2 旋回機構
3 上部旋回体
4 ブーム
5 アーム
6 バケット
S6 撮像装置
G1 情報伝達装置
M1 外部集音装置
M2、M2C、M2E 内部集音装置
SP1 外部音出力装置
SP2、SP2C、SP2E 内部音出力装置
SW スイッチ
KS 発話ボタン
DL1 外部音量ダイヤル
DL2 内部音量ダイヤル
T1、T2 通信装置
30 コントローラ
301 取得部
302 検出部
303 動作制御部
304 雑音除去部
305 操作受付部
306 出力制御部
307 表示制御部
RC 遠隔操作室
40 遠隔コントローラ
200 管理装置
1501 設置型マイク
1502 設置型スピーカ
1503 ドローン
1504 自律移動ロボット
1503A、1504A 集音装置
1503B、1504B 音出力装置
Claims (13)
- 作業機械であって、
下部走行体と、
前記下部走行体に旋回可能に搭載された上部旋回体と、
前記上部旋回体に設けられた運転室と、
前記運転室の外部に配置される外部集音装置と、
前記運転室の内部に配置される内部音出力装置と、
前記作業機械の動作状態に応じて、特定の音声機能の動作モードに移行する制御装置と、
を備える作業機械。 - 前記動作モードは、前記音声機能に関連する前記動作状態を通知する通知動作、前記音声機能を開始する開始動作、前記音声機能を停止する停止動作、又は前記内部音出力装置の音量を変更する音量変更動作のうち少なくとも1つ又は複数を含む、
請求項1に記載の作業機械。 - 前記通知動作は、前記音声機能に関連する前記動作状態を表示装置に表示する、
請求項2に記載の作業機械。 - 前記制御装置は、前記音声機能が正常に動作しないと判定した場合、前記通知動作又は前記停止動作を含む前記動作モードに移行する、
請求項2に記載の作業機械。 - 前記制御装置は、前記外部集音装置が音の収集に失敗した場合、前記外部集音装置が収集した音の音量が閾値以上である場合、又は前記外部集音装置が収集した音に含まれる目的音の音量が閾値以上である場合に、前記音声機能が正常に動作しないと判定する、
請求項4に記載の作業機械。 - 前記制御装置は、前記音声機能が不要であると判定した場合、前記通知動作又は前記停止動作を含む前記動作モードに移行する、
請求項2に記載の作業機械。 - 前記制御装置は、前記音声機能以外の機能で前記作業機械の周辺の状況が確認できる場合、前記作業機械の操作者が操作に集中する必要がある場合、又は前記作業機械の動作が不安定である場合に、前記音声機能が不要であると判定する、
請求項6に記載の作業機械。 - 前記制御装置は、前記音声機能が必要であると判定した場合、前記通知動作又は前記開始動作を含む前記動作モードに移行する、
請求項2に記載の作業機械。 - 前記制御装置は、前記音声機能以外の機能で前記作業機械の周辺の状況が確認できない場合、前記作業機械の操作者が前記作業機械の周辺の作業者と連携した作業を実行している場合、又は前記作業機械が前記操作者以外により操作されている場合に、前記音声機能が必要であると判定する、
請求項8に記載の作業機械。 - 前記運転室の内部に配置される内部集音装置と、
前記運転室の外部に配置される外部音出力装置と、
をさらに備え、
前記制御装置は、前記内部集音装置が収集した音を前記外部音出力装置から出力する制御を行う、
請求項1から9のいずれかに記載の作業機械。 - 前記制御装置は、所定の操作を受け付けた場合、前記内部集音装置が収集した音を前記外部音出力装置から出力する制御を行う、
請求項10に記載の作業機械。 - 前記制御装置は、
前記外部集音装置が収集した音に対して雑音除去処理を実行し、
前記雑音除去処理を調整可能に構成されている、
請求項1から9のいずれかに記載の作業機械。 - 下部走行体と、前記下部走行体に旋回可能に搭載された上部旋回体と、を備える作業機械と、
前記作業機械の外部に配置される外部集音装置と、
前記作業機械を操作する操作席の周辺に設けられる音出力装置と、
前記作業機械の動作状態に応じて、前記作業機械を特定の音声機能の動作モードに移行させる制御を行う制御装置と、
を備える作業機械のシステム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024-037502 | 2024-03-11 | ||
| JP2024037502 | 2024-03-11 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2025192554A1 true WO2025192554A1 (ja) | 2025-09-18 |
Family
ID=97064080
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2025/008897 Pending WO2025192554A1 (ja) | 2024-03-11 | 2025-03-10 | 作業機械及び作業機械のシステム |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2025192554A1 (ja) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004226482A (ja) * | 2003-01-20 | 2004-08-12 | Canon Inc | 画像形成装置 |
| JP2012058314A (ja) * | 2010-09-06 | 2012-03-22 | Hitachi Ltd | 音響処理システム及びこれを用いた機械 |
| JP2014182038A (ja) * | 2013-03-19 | 2014-09-29 | Sumitomo Heavy Ind Ltd | 作業機械用周辺監視装置 |
| JP2019167680A (ja) * | 2018-03-22 | 2019-10-03 | 住友重機械工業株式会社 | ショベル |
| US20190348057A1 (en) * | 2018-05-10 | 2019-11-14 | Caterpillar Inc. | Sound Dampening And Pass Through Filtering |
| JP2020093269A (ja) * | 2018-12-11 | 2020-06-18 | ロボテック株式会社 | 発生音源音質解析によるダイカスト工程管理装置 |
-
2025
- 2025-03-10 WO PCT/JP2025/008897 patent/WO2025192554A1/ja active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004226482A (ja) * | 2003-01-20 | 2004-08-12 | Canon Inc | 画像形成装置 |
| JP2012058314A (ja) * | 2010-09-06 | 2012-03-22 | Hitachi Ltd | 音響処理システム及びこれを用いた機械 |
| JP2014182038A (ja) * | 2013-03-19 | 2014-09-29 | Sumitomo Heavy Ind Ltd | 作業機械用周辺監視装置 |
| JP2019167680A (ja) * | 2018-03-22 | 2019-10-03 | 住友重機械工業株式会社 | ショベル |
| US20190348057A1 (en) * | 2018-05-10 | 2019-11-14 | Caterpillar Inc. | Sound Dampening And Pass Through Filtering |
| JP2020093269A (ja) * | 2018-12-11 | 2020-06-18 | ロボテック株式会社 | 発生音源音質解析によるダイカスト工程管理装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7407178B2 (ja) | ショベル | |
| US20250283305A1 (en) | Work machine and operation system for work machine | |
| JP2020097866A (ja) | 作業機械用周辺監視装置 | |
| US20250283306A1 (en) | Work machine and control system for work machine | |
| WO2025192553A1 (ja) | 作業機械及び作業機械のシステム | |
| WO2025192541A1 (ja) | 作業機械及びシステム | |
| US20250283307A1 (en) | Work machine and control system for work machine | |
| JP2025138397A (ja) | 作業機械及び作業機械の操作システム | |
| WO2025192547A1 (ja) | 作業機械、及び作業機械の制御システム | |
| WO2025192546A1 (ja) | 作業機械、操作支援システム | |
| WO2025192550A1 (ja) | 作業機械、作業機械システム | |
| WO2025192552A1 (ja) | 作業機械、作業機械システム | |
| WO2025192555A1 (ja) | 作業機械、及び作業機械の操作システム | |
| WO2025192542A1 (ja) | 作業機械、及び作業機械の制御システム | |
| US20250283300A1 (en) | Work machine and operation support system | |
| WO2025192548A1 (ja) | 作業機械及びシステム | |
| WO2025192545A1 (ja) | 作業機械、作業機械システム | |
| JP2025138417A (ja) | 作業機械及び作業機械の遠隔操作システム | |
| WO2025192544A1 (ja) | 作業機械及び作業機械の操作システム | |
| JP2025138402A (ja) | 作業機械、作業機械の操作システム | |
| JP2025138398A (ja) | 作業機械、作業機械の遠隔操作システム、作業機械の管理システム | |
| JP2025138419A (ja) | 作業機械、及び作業機械の制御システム | |
| JP2025075717A (ja) | ショベル、ショベルの音声出力システム、及び、ショベルの遠隔制御システム | |
| WO2025192543A1 (ja) | 作業機械、及び作業機械の制御システム | |
| JP2025138612A (ja) | 作業機械及び作業機械の操作システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 25769523 Country of ref document: EP Kind code of ref document: A1 |