WO2025192555A1 - 作業機械、及び作業機械の操作システム - Google Patents

作業機械、及び作業機械の操作システム

Info

Publication number
WO2025192555A1
WO2025192555A1 PCT/JP2025/008898 JP2025008898W WO2025192555A1 WO 2025192555 A1 WO2025192555 A1 WO 2025192555A1 JP 2025008898 W JP2025008898 W JP 2025008898W WO 2025192555 A1 WO2025192555 A1 WO 2025192555A1
Authority
WO
WIPO (PCT)
Prior art keywords
work machine
sound
information
worker
operator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
PCT/JP2025/008898
Other languages
English (en)
French (fr)
Inventor
裕一 綾戸
育美 潮▲崎▼
俊介 大槻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Heavy Industries Ltd
Original Assignee
Sumitomo Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Heavy Industries Ltd filed Critical Sumitomo Heavy Industries Ltd
Publication of WO2025192555A1 publication Critical patent/WO2025192555A1/ja
Pending legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/10Speech classification or search using distance or distortion measures between unknown speech and reference templates
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination

Definitions

  • This disclosure relates to a work machine and an operation system for the work machine.
  • Patent Document 1 discloses an excavator equipped with a microphone (sound collection device) that is located outside the cabin (cab) on the upper rotating body and collects sounds around the cab.
  • This disclosure provides technology that can improve the operator's recognition when a work machine operator is conversing with an external worker.
  • a work machine is a work machine comprising a lower running body, an upper rotating body rotatably mounted on the lower running body, a cab mounted on the upper rotating body and capable of housing an operator, an external sound collection device mounted outside the cab, an internal sound output device mounted inside the cab, and a control device that processes sound information acquired by the external sound collection device, wherein the control device sets the importance of the sound information acquired by the external sound collection device, selects sound information with a high importance level, and outputs the sound information to the internal sound output device.
  • the operator's awareness can be improved.
  • FIG. 1 is a side view of a work machine according to an embodiment of the present disclosure
  • FIG. FIG. 2 is a top view of the work machine shown in FIG. 1
  • 2 is a diagram showing an example of the configuration of an external sound collecting device and an information transmitting device attached to the work machine shown in FIG. 1
  • FIG. FIG. 2 is a diagram illustrating an example of the configuration of the work machine illustrated in FIG. 1
  • FIG. 2 is a top view of the operator's cab of the work machine shown in FIG. 1
  • FIG. 1 is a perspective view of a work machine on which an operator is riding and workers around the work machine.
  • FIG. 1 is a top view illustrating a conversation between a work machine operator and one worker.
  • FIG. 10 is a top view illustrating an example of a conversation between a work machine operator and a plurality of workers.
  • 10 is a diagram illustrating the relationship between various situations of a work machine and sound information of a sound source whose importance is increased according to the situation.
  • FIG. 2 is a diagram illustrating an example of a display screen displayed by a display device.
  • 10 is a flowchart showing a processing flow of a controller in which a work machine operator and a worker in the vicinity of the work machine communicate with each other.
  • FIG. 10 is a top view showing a conversation with a worker when an array microphone is applied to the external sound collection device.
  • FIG. 10 is a top view of a work machine showing another example configuration of the work machine according to an embodiment of the present disclosure.
  • 1 is a schematic diagram illustrating a configuration example of an operation system according to an embodiment of the present disclosure.
  • FIG. 10 is a schematic diagram showing an example of the configuration of an operation system for a work machine according to another embodiment.
  • the work machine 100 is a shovel.
  • the work machine 100 may also be a machine other than a shovel, such as a crane, asphalt finisher, or forklift.
  • the shovel as the work machine 100 is an excavator equipped with a bucket 6 as an end attachment, but it may also be an applied machine such as a forestry machine equipped with an end attachment other than the bucket 6.
  • Figure 1 is a side view of the work machine 100
  • Figure 2 is a top view of the work machine 100.
  • +X represents one direction of the X axis that constitutes a three-dimensional Cartesian coordinate system
  • -X represents the other direction of the X axis.
  • +Y represents one direction of the Y axis that constitutes a three-dimensional Cartesian coordinate system
  • -Y represents the other direction of the Y axis.
  • +Z represents one direction of the Z axis that constitutes a three-dimensional Cartesian coordinate system
  • -Z represents the other direction of the Z axis.
  • the +X side of the work machine 100 corresponds to the front side of the work machine 100
  • the -X side of the work machine 100 corresponds to the rear side of the work machine 100.
  • the +Y side of the work machine 100 corresponds to the left side of the work machine 100, and the -Y side of the work machine 100 corresponds to the right side of the work machine 100. Furthermore, the +Z side of the work machine 100 corresponds to the top side of the work machine 100, and the -Z side of the work machine 100 corresponds to the bottom side of the work machine 100. The same applies to the other figures.
  • the work machine 100 comprises a lower running body 1, an upper rotating body 3 mounted on the lower running body 1 so as to be rotatable via a rotating mechanism 2, an attachment AT for performing various tasks, and a driver's cab 10.
  • the driver's cab 10 is also called a cabin or cab.
  • the front side of the work machine 100 (upper rotating body 3) corresponds to the side of the upper rotating body 3 to which the attachment AT is attached when the work machine 100 is viewed from directly above along the rotation axis of the upper rotating body 3.
  • the left, right, and rear sides of the work machine 100 (upper rotating body 3) correspond to the left, right, and rear, respectively, as seen from the perspective of an operator seated in the driver's seat in the driver's cab 10.
  • the lower traveling body 1 includes, for example, a pair of left and right crawlers 1C.
  • the crawlers 1C include a left crawler 1CL and a right crawler 1CR.
  • the left crawler 1CL is driven by a left traveling hydraulic motor 2ML
  • the right crawler 1CR is driven by a right traveling hydraulic motor 2MR.
  • the left traveling hydraulic motor 2ML is a traveling drive unit that drives the left crawler 1CL as a driven part, and can rotate the left crawler 1CL.
  • the right traveling hydraulic motor 2MR is a traveling drive unit that drives the right crawler 1CR as a driven part, and can rotate the right crawler 1CR.
  • the traveling drive units may also be electric motors.
  • the upper rotating body 3 rotates relative to the lower traveling body 1 when the rotating mechanism 2 is driven by the rotating hydraulic motor 2A.
  • the rotating hydraulic motor 2A is a rotating drive unit that drives the upper rotating body 3 as a driven part, and can change the orientation of the upper rotating body 3.
  • the rotating drive unit may also be an electric motor.
  • a boom 4 is rotatably attached to the front center of the upper rotating body 3, an arm 5 is rotatably attached to the tip of the boom 4, and a bucket 6 is rotatably attached to the tip of the arm 5.
  • the boom 4, arm 5, and bucket 6 make up an excavation attachment, which is an example of an attachment AT.
  • the boom 4, arm 5, and bucket 6 are driven by a boom cylinder 7, arm cylinder 8, and bucket cylinder 9, respectively.
  • the bucket 6 is an example of a work tool (end attachment).
  • the bucket 6 is used, for example, for excavation work.
  • another work tool may be attached to the end of the arm 5 depending on the work content, etc.
  • the other work tool may be, for example, a large bucket, a slope bucket, a dredging bucket, or other types of bucket.
  • the other work tool may also be a type of work tool other than a bucket, such as an agitator, breaker, grapple, or lifting magnet.
  • the swing hydraulic motor 2A, left traveling hydraulic motor 2ML, right traveling hydraulic motor 2MR, boom cylinder 7, arm cylinder 8, and bucket cylinder 9 are hydraulic actuators driven by hydraulic oil discharged from a hydraulic pump.
  • the work machine 100 may have all or some of its driven parts, such as the lower traveling body 1, upper rotating body 3, boom 4, arm 5, and bucket 6, electrically driven.
  • the work machine 100 may be a hybrid work machine, an electric work machine, or the like, in which all or some of its driven parts are driven by electric actuators.
  • the work machine 100 is equipped with an information transmission device G1, an external sound collection device M1, an image capture device S6, and an external sound output device SP1.
  • the information transmission device G1, the external sound collection device M1, the image capture device S6, and the external sound output device SP1 are devices that include processing circuits.
  • the imaging device S6 is provided on the upper rotating body 3 or the cab 10, and captures images of the area around the work machine 100 to obtain image information showing the area around the work machine 100.
  • the imaging device S6 includes a front camera S6F, a left camera S6L, a right camera S6R, and a rear camera S6B.
  • the front camera S6F is a camera that captures images in front of the work machine 100, and is attached outside the cab 10, such as on the roof of the cab 10 or the side of the boom 4.
  • the front camera S6F may also be attached inside the cab 10, for example, on the ceiling of the cab 10.
  • the left camera S6L is a camera that captures images to the left of the work machine 100
  • the right camera S6R is a camera that captures images to the right of the work machine 100
  • the rear camera S6B is a camera that captures images to the rear of the work machine 100.
  • the front camera S6F, left camera S6L, right camera S6R, and rear camera S6B are all monocular wide-angle cameras equipped with imaging elements such as CCD or CMOS, and output the captured images to the display device D1. Information about the images captured by the imaging device S6 is also input into the controller 30.
  • the front camera S6F is attached to the roof of the driver's cab 10
  • the left camera S6L is attached to the left end of the top surface of the upper rotating body 3
  • the right camera S6R is attached to the right end of the top surface of the upper rotating body 3
  • the rear camera S6B is attached to the rear end of the top surface of the upper rotating body 3.
  • the imaging device S6 may constitute an object detection device that detects objects around the work machine 100.
  • Objects may be, for example, people, animals, vehicles, construction machinery, buildings, or holes.
  • the object detection device may be configured to be able to distinguish between people and non-human objects when detecting them.
  • the object detection device may be configured to function as a person detection device.
  • the object detection device may be constituted by a device other than a camera.
  • the object detection device may be a LiDAR.
  • LiDAR is a device that can measure the distance between the LiDAR (laser source) and a point cloud of, for example, one million or more points within the monitoring range.
  • the object detection device may also be another device that can measure the distance to an object, such as a stereo camera, a range imaging camera, or a millimeter-wave radar.
  • the object detection device may emit a number of signals (such as laser light) toward the object and receive the reflected signals to derive the distance and direction of the object.
  • the object detection device may be a combination of two or more types of devices.
  • the object detection device may be a combination of an imaging device and LiDAR, a combination of an imaging device and millimeter-wave radar, or a combination of an imaging device and a stereo camera.
  • the external sound collection device M1 is a device that collects external sounds and is also called a microphone or mic.
  • the external sound collection device M1 functions as an information acquisition device IAD that acquires information to determine the volume of background noise occurring around the work machine 100.
  • Background noise means, for example, when focusing on sound from a specific source, all other sounds that are occurring simultaneously.
  • background noise is sound other than the sound output by the external sound output device SP1, and includes operating sounds of the work machine 100, traffic noise, household noise, urban noise, etc.
  • the external sound collection device M1 is provided on the upper rotating body 3 or the cab 10, and converts sounds (air vibrations) generated around the work machine 100 into mechanical vibrations, and then converts the mechanical vibrations into electrical signals.
  • the external sound collection device M1 may be provided on a structure such as a pole (steel tower), fence, wall, or building at the work site, an aircraft such as a multicopter or balloon, or an autonomous mobile robot that moves around the work site, or it may be a sound collection device (microphone) mounted on a mobile information terminal such as a smartphone carried by a worker or the like around the work machine 100.
  • the external sound collection device M1 is configured to be able to pick up the voices of workers around the work machine 100, and includes a front microphone M1F, a left microphone M1L, a right microphone M1R, and a rear microphone M1B.
  • the front microphone M1F is a microphone that collects sounds generated in front of the work machine 100, and is attached to the outside of the cab 10, such as on the roof of the cab 10 or on the side of the boom 4.
  • the front microphone M1F may also be attached inside the cab 10, for example on the ceiling of the cab 10.
  • the left microphone M1L is a microphone that collects sounds generated to the left of the work machine 100
  • the right microphone M1R is a microphone that collects sounds generated to the right of the work machine 100
  • the rear microphone M1B is a microphone that collects sounds generated behind the work machine 100.
  • the electrical signals generated by the front microphone M1F, left microphone M1L, right microphone M1R, and rear microphone M1B are taken into the controller 30.
  • the front microphone M1F is attached to the roof of the cab 10, the left microphone M1L is attached to the left end of the top surface of the upper rotating body 3, the right microphone M1R is attached to the right end of the top surface of the upper rotating body 3, and the rear microphone M1B is attached to the rear end of the top surface of the upper rotating body 3.
  • the four external sound collection devices M1 front microphone M1F, left microphone M1L, right microphone M1R, and rear microphone M1B
  • the controller 30 can detect the direction of the sound source based on differences in the sounds collected by each of the four external sound collection devices M1 (for example, differences in volume).
  • an array microphone is used as the external sound collection device M1
  • the direction of the sound source can be detected based on, for example, a phase shift or differences in volume.
  • the four external sound collection devices M1 and the four image capture devices S6 are arranged to correspond to each other.
  • the front microphone M1F is arranged adjacent to the front camera S6F
  • the left microphone M1L is arranged adjacent to the left camera S6L
  • the right microphone M1R is arranged adjacent to the right camera S6R
  • the rear microphone M1B is arranged adjacent to the rear camera S6B.
  • the external sound output device SP1 is a device that outputs sound toward the surroundings of the work machine 100.
  • the external sound output device SP1 is an omnidirectional speaker attached to the cab 10, and is configured to output sound uniformly in all directions.
  • the external sound output device SP1 may also be a directional speaker that outputs sound toward a specific direction, such as forward.
  • the external sound output device SP1 may also be provided on structures at the work site, such as poles (steel towers), fences, walls, or buildings, on flying objects such as multicopters or balloons, or on autonomous mobile robots that move around within the work site, or it may be a sound output device (speaker) mounted on a mobile information terminal, such as a smartphone, carried by a worker or the like near the work machine 100.
  • structures at the work site such as poles (steel towers), fences, walls, or buildings, on flying objects such as multicopters or balloons, or on autonomous mobile robots that move around within the work site, or it may be a sound output device (speaker) mounted on a mobile information terminal, such as a smartphone, carried by a worker or the like near the work machine 100.
  • the information transmission device G1 is a device for communicating the status of the work machine 100 to those outside the work machine 100.
  • the information transmission device G1 is provided on the upper rotating body 3 or the cab 10, and is configured to be able to communicate the status of the work machine 100 to workers around the work machine 100.
  • the information transmission device G1 is a light-emitting device, and includes a front light bar G1F, a left light bar G1L, a right light bar G1R, and a rear light bar G1B.
  • the front light bar G1F is a light-emitting device that can visually convey information to workers and others located in front of the work machine 100, and is attached to the outside of the cab 10, such as on the roof of the cab 10 or the side of the boom 4.
  • the front light bar G1F may also be attached inside the cab 10, for example, on the ceiling of the cab 10.
  • the left light bar G1L is a light-emitting device that can visually convey information to workers and others located to the left of the work machine 100
  • the right light bar G1R is a light-emitting device that can visually convey information to workers and others located to the right of the work machine 100
  • the rear light bar G1B is a light-emitting device that can visually convey information to workers and others located behind the work machine 100.
  • Each of the front light bar G1F, left light bar G1L, right light bar G1R, and rear light bar G1B emits light in response to an electrical signal from the controller 30.
  • the light-emitting devices are LED lights, but they may also be other light-emitting devices, such as halogen lamps. Additionally, the light-emitting device is a multi-color light-emitting type, but it may also be a monochromatic light-emitting type.
  • the front light bar G1F is attached to the roof of the cab 10
  • the left light bar G1L is attached to the left end of the top surface of the upper rotating body 3
  • the right light bar G1R is attached to the right end of the top surface of the upper rotating body 3
  • the rear light bar G1B is attached to the rear end of the top surface of the upper rotating body 3.
  • the four information transmission devices G1 front light bar G1F, left light bar G1L, right light bar G1R, and rear light bar G1B
  • the controller 30 can communicate the status of the work machine 100 to workers and others located at the front, left, right, and rear of the work machine 100.
  • the four information transmission devices G1 and the four external sound collection devices M1 are arranged to correspond to each other.
  • the front light bar G1F is arranged adjacent to the front microphone M1F
  • the left light bar G1L is arranged adjacent to the left microphone M1L
  • the right light bar G1R is arranged adjacent to the right microphone M1R
  • the rear light bar G1B is arranged adjacent to the rear microphone M1B.
  • Figure 3 is a diagram showing an example configuration of an external sound collection device M1 and information transmission device G1 attached to a work machine 100.
  • Figure 3 is a perspective view of a left microphone M1L and left light bar G1L attached to a housing having a substantially rectangular parallelepiped shape. Note that the following explanation referring to Figure 3 relates to the combination of the left microphone M1L and left light bar G1L, but also applies to the combination of the front microphone M1F and front light bar G1F, the combination of the right microphone M1R and right light bar G1R, and the combination of the rear microphone M1B and rear light bar G1B.
  • the left microphone M1L and left light bar G1L are arranged on the left side of the approximately rectangular parallelepiped housing so as to face to the left of the work machine 100.
  • This arrangement allows the left microphone M1L to efficiently collect sounds generated to the left of the work machine 100, and the left light bar G1L to efficiently communicate the status of the work machine 100 to an operator on the left of the work machine 100.
  • the left microphone M1L can pick up the voice of an operator on the left of the work machine 100, and the left light bar G1L can emit light in a predetermined color to notify the operator that the left microphone M1L has picked up the operator's voice.
  • an operator on the left of the work machine 100 who speaks into the left microphone M1L can confirm that their voice has reached the left microphone M1L (i.e., the operator of the work machine 100) by looking at the left light bar G1L emitting light in a predetermined color.
  • the information transmission device G1 may be provided at the top of each of the four side surfaces of the cab 10 (see Figure 6).
  • the information transmission device G1 may be configured so that the front light bar G1F is attached to the top of the front of the cab 10, the left light bar G1L is attached to the top of the left side of the cab 10, the right light bar G1R is attached to the top of the right side of the cab 10, and the rear light bar G1B is attached to the top of the rear side of the cab 10.
  • the information transmission device G1 may also be a single rotating light such as a Nico Torch attached to the top surface of the cab 10, or a display device such as an LCD display or an organic EL display.
  • the controller 30 is an example of a control device that includes a processing circuit, and is configured, for example, by a computer that includes a CPU, volatile storage device, non-volatile storage device, and various input/output interfaces. The controller 30 then realizes various functions, for example, by reading programs from the non-volatile storage device, loading them into the volatile storage device, and having the CPU execute them. In the illustrated example, the controller 30 is configured to realize various functions and control the work machine 100.
  • the various functions include, for example, a machine guidance function that guides the operator in manually operating the work machine 100.
  • the various functions may also include a contact avoidance function that automatically or autonomously operates or stops the work machine 100 to avoid contact between the work machine 100 and objects that exist within the monitoring range around the work machine 100.
  • the boom angle sensor S1 detects the boom angle, which is the rotation angle of the boom 4 relative to the upper rotating body 3.
  • the arm angle sensor S2 detects the arm angle, which is the rotation angle of the arm 5 relative to the boom 4.
  • the bucket angle sensor S3 detects the bucket angle, which is the rotation angle of the bucket 6 relative to the arm 5.
  • Each of the boom angle sensor S1, arm angle sensor S2, and bucket angle sensor S3 may be, for example, a rotary encoder, an acceleration sensor, a six-axis sensor, an IMU (Inertial Measurement Unit), a potentiometer using a variable resistor, or a cylinder stroke sensor that detects the stroke amount of a hydraulic cylinder.
  • a rotary encoder for example, a rotary encoder, an acceleration sensor, a six-axis sensor, an IMU (Inertial Measurement Unit), a potentiometer using a variable resistor, or a cylinder stroke sensor that detects the stroke amount of a hydraulic cylinder.
  • the detection signal corresponding to the boom angle from the boom angle sensor S1, the detection signal corresponding to the arm angle from the arm angle sensor S2, and the detection signal corresponding to the bucket angle from the bucket angle sensor S3 are input into the controller 30.
  • the machine body tilt sensor S4 detects the tilt state of the machine body (undercarriage 1 or upper rotating body 3) relative to the horizontal plane.
  • the machine body tilt sensor S4 is attached, for example, to the upper rotating body 3, and detects the tilt angle of the work machine 100 (i.e., the upper rotating body 3) around two axes in the forward/backward and left/right directions.
  • the machine body tilt sensor S4 may be, for example, an acceleration sensor, a six-axis sensor, or an IMU.
  • the detection signal corresponding to the tilt angle detected by the machine body tilt sensor S4 is input into the controller 30.
  • the rotation sensor S5 outputs information related to the rotation of the upper rotating body 3.
  • the rotation sensor S5 detects, for example, the rotation angular velocity of the upper rotating body 3 relative to the lower running body 1.
  • the rotation sensor S5 may also detect the rotation angle.
  • the rotation sensor S5 may be, for example, a gyro sensor, resolver, or rotary encoder.
  • the detection signal corresponding to the rotation angle or rotation angular velocity of the upper rotating body 3 detected by the rotation sensor S5 is input to the controller 30.
  • the positioning device PS is a device that includes a processing circuit and measures the position of the upper rotating body 3.
  • the positioning device PS is, for example, a GNSS (Global Navigation Satellite System) compass, and detects the position and orientation of the upper rotating body 3. Detection signals corresponding to the position and orientation of the upper rotating body 3 are input into the controller 30. The function of detecting the orientation of the upper rotating body 3 may be achieved by a direction sensor attached to the upper rotating body 3.
  • GNSS Global Navigation Satellite System
  • the cab 10 is a compartment space in which the operator rides, and is located on the front left side of the upper rotating body 3. However, if the work machine 100 is remotely controlled or operates fully automatically, the cab 10 may be omitted.
  • Communication device T1 is a device that includes a processing circuit and communicates with external devices via a communication network, such as a mobile communication network, a satellite communication network, or the Internet.
  • Communication device T1 is, for example, a mobile communication module that supports mobile communication standards such as LTE (Long Term Evolution), 4G (4th Generation), or 5G (5th Generation), a communication module that supports short-range wireless communication standards such as Wi-Fi (registered trademark) or Bluetooth (registered trademark), or a satellite communication module for connecting to a satellite communication network.
  • the work machine 100 operates actuators in response to operations by an operator in the cab 10, driving driven parts such as the lower traveling body 1, upper rotating body 3, boom 4, arm 5, and bucket 6.
  • the work machine 100 may be configured so that it can be remotely operated from outside the work machine 100.
  • the inside of the cab 10 may be unmanned.
  • the work machine 100 may operate the actuators automatically, regardless of the operation performed by the operator. This allows the work machine 100 to realize a function that automatically operates at least some of the driven parts, such as the lower traveling body 1, upper rotating body 3, boom 4, arm 5, and bucket 6, i.e., a so-called "machine control function.”
  • Figure 4 is a diagram showing an example of the configuration of a work machine 100.
  • the mechanical power transmission system, hydraulic oil lines, pilot lines, and electrical control system are indicated by double lines, thick solid lines, thick dashed lines, and dotted lines, respectively.
  • the drive system of the work machine 100 includes an engine 11, a regulator 13, a main pump 14, and a control valve unit 17.
  • the hydraulic drive system of the work machine 100 also includes hydraulic actuators such as a swing hydraulic motor 2A, a left traveling hydraulic motor 2ML, a right traveling hydraulic motor 2MR, a boom cylinder 7, an arm cylinder 8, and a bucket cylinder 9.
  • the engine 11 is an example of a power source for the work machine 100, and is mounted, for example, at the rear of the upper rotating body 3.
  • the power source for the work machine 100 may be a combination of a power source such as a battery or fuel cell and an electric motor.
  • the engine 11 rotates at a constant speed at a preset target speed under direct or indirect control by the controller 30, and drives the main pump 14 and pilot pump 15.
  • the engine 11 is, for example, a diesel engine that uses diesel as fuel.
  • the engine 11 may also be a gasoline engine, a hydrogen engine, or the like.
  • the regulator 13 controls the discharge rate of the main pump 14.
  • the regulator 13 controls the discharge rate of the main pump 14 by adjusting the angle (tilting angle) of the swash plate of the main pump 14 in response to a control command from the controller 30.
  • the main pump 14 is mounted, for example, at the rear of the upper rotating body 3, similar to the engine 11, and supplies hydraulic oil to the control valve unit 17 through a hydraulic oil line.
  • the main pump 14 is a variable displacement hydraulic pump.
  • the control valve unit 17 is one of the hydraulic control devices that controls the hydraulic system in the work machine 100.
  • the control valve unit 17 includes control valves 171-176.
  • the control valve unit 17 is configured to selectively supply hydraulic oil discharged by the main pump 14 to one or more hydraulic actuators via the control valves 171-176.
  • the control valves 171-176 control the flow rate of hydraulic oil flowing from the main pump 14 to the hydraulic actuators, and the flow rate of hydraulic oil flowing from the hydraulic actuators to the hydraulic oil tank.
  • the hydraulic actuators include a boom cylinder 7, an arm cylinder 8, a bucket cylinder 9, a left traveling hydraulic motor 2ML, a right traveling hydraulic motor 2MR, and a swing hydraulic motor 2A.
  • control valve 171 corresponds to the swing hydraulic motor 2A
  • control valve 172 corresponds to the right traveling hydraulic motor 2MR
  • control valve 173 corresponds to the left traveling hydraulic motor 2ML
  • control valve 174 corresponds to bucket cylinder 9
  • control valve 175 corresponds to boom cylinder 7
  • control valve 176 corresponds to arm cylinder 8.
  • the pilot pump 15 is an example of a pilot pressure generating device, and is configured to supply hydraulic oil to hydraulic control devices via a pilot line.
  • the pilot pump 15 is a fixed displacement hydraulic pump.
  • the pilot pressure generating device may also be realized by the main pump 14. That is, in addition to the function of supplying hydraulic oil to the control valve unit 17 via a hydraulic oil line, the main pump 14 may also have the function of supplying hydraulic oil to various hydraulic control devices via a pilot line. In this case, the pilot pump 15 may be omitted.
  • the discharge pressure sensor 28 is configured to detect the discharge pressure of the main pump 14. In the illustrated example, the discharge pressure sensor 28 outputs the detected value to the controller 30.
  • the operating device 26 is a device used by an operator to operate the actuator.
  • the operating device 26 includes, for example, an operating lever and an operating pedal.
  • the actuator may be a hydraulic actuator or an electric actuator.
  • the operation sensor 29 is configured to detect the operation content of the operator using the operating device 26.
  • the operation sensor 29 detects the operation direction and operation amount of the operating device 26 corresponding to each actuator and outputs the detected value to the controller 30.
  • the controller 30 can control the opening area of the valve 31 according to the output of the operation sensor 29.
  • the controller 30 then supplies the hydraulic oil discharged from the pilot pump 15 to the pilot port of the corresponding control valve in the control valve unit 17.
  • the pressure of the hydraulic oil supplied to each pilot port is, in principle, a pressure that corresponds to the operation direction and operation amount of the operating device 26 corresponding to each hydraulic actuator.
  • the operating device 26 is configured to supply the hydraulic oil discharged from the pilot pump 15 to the pilot port of the corresponding control valve in the control valve unit 17.
  • Valve 31 which functions as a machine control control valve, is placed in a pipe connecting the pilot pump 15 and the pilot port of the control valve in the control valve unit 17, and is configured so that the flow path area of that pipe can be changed.
  • valve 31 is a solenoid valve that operates in response to control commands output by controller 30. Therefore, controller 30 can use valve 31 to adjust the pilot pressure acting on the pilot port of the control valve, regardless of the operation of the operating device 26 by the operator.
  • the controller 30 can operate the hydraulic actuator corresponding to a specific operating device 26 even when no operation is being performed on that specific operating device 26.
  • the control system of the work machine 100 includes a controller 30, a display device D1, an input device D2, a horn button HS, a talk button KS, an external sound collection device M1, an internal sound collection device M2, an external sound output device SP1, an internal sound output device SP2, an external volume dial DL1, an internal volume dial DL2, a switch SW, and a communication device T1.
  • the internal sound collection device M2 and the internal sound output device SP2 are devices that include processing circuits.
  • the controller 30 is configured to output control commands to the regulator 13 as necessary, thereby changing the discharge rate of the main pump 14.
  • the controller 30 may also be configured to control, for example, a machine guidance function that guides the operator in manually operating the work machine 100 via the operating device 26.
  • the controller 30 may also be configured to control, for example, a machine control function that automatically assists the operator in manually operating the work machine 100 via the operating device 26.
  • Some of the functions of the controller 30 may be implemented by another controller (a control device including a processing circuit). That is, the functions of the controller 30 may be implemented in a distributed manner by multiple controllers.
  • the machine guidance function and the machine control function may be implemented by dedicated controllers (control devices including a processing circuit).
  • Figure 5 is a top view of the interior of the cab 10.
  • the work machine 100 is equipped with a driver's seat 50, an operating device 26, a display device D1, and other devices that are arranged inside the cab 10.
  • a door for getting on and off is provided on the left side of the driver's seat 50. The operator can open the door to enter the cab 10.
  • the driver's seat 50 is located in the center of the driver's cab 10 when viewed from above.
  • the driver's seat 50 includes a seat portion 51 on which the operator sits and a backrest 52.
  • the driver's seat 50 is a reclining seat, and the tilt angle of the backrest 52 is adjustable.
  • a left armrest 53L is located on the left side of the driver's seat 50, and a right armrest 53R is located on the right side.
  • the left armrest 53L and right armrest 53R are rotatably supported by the backrest 52.
  • a left console 54L is located on the left side of the driver's seat 50, and a right console 54R is located on the right side.
  • the left console 54L and the right console 54R extend in the front-to-rear direction.
  • the driver's seat 50 is slidable in the front-to-rear direction.
  • the driver's seat 50 may also be configured to be slidable in the front-to-rear direction together with the left console 54L and the right console 54R.
  • the left armrest 53L is positioned on top of the left console 54L.
  • the right armrest 53R is positioned on top of the right console 54R.
  • the left armrest 53L is positioned so as to cover part of the left console 54L in a top view.
  • the right armrest 53R is positioned so as to cover part of the right console 54R in a top view.
  • the operating device 26 includes a left operating lever 26L, a right operating lever 26R, a left traveling pedal 26PL, a right traveling pedal 26PR, a left traveling lever 26DL, and a right traveling lever 26DR.
  • the left operating lever 26L is provided in front of the left console 54L.
  • the right operating lever 26R is provided in front of the right console 54R.
  • An operator seated in the driver's seat 50 can operate the left operating lever 26L while holding it with his left hand, and can operate the right operating lever 26R while holding it with his right hand.
  • An operator seated in the driver's seat 50 can operate the left operating lever 26L with his left hand to drive the arm cylinder 8 and the swing hydraulic motor 2A.
  • An operator seated in the driver's seat 50 can also operate the right operating lever 26R with his right hand to drive the boom cylinder 7 and the bucket cylinder 9.
  • the bases of the left operating lever 26L and right operating lever 26R are covered with lever boots 27.
  • the left travel pedal 26PL and right travel pedal 26PR are located on the floor in front of the driver's seat 50.
  • An operator seated in the driver's seat 50 can operate the left travel pedal 26PL with their left foot to drive the left travel hydraulic motor 2ML.
  • an operator seated in the driver's seat 50 can operate the right travel pedal 26PR with their right foot to drive the right travel hydraulic motor 2MR.
  • the left travel lever 26DL and right travel lever 26DR are located between the left travel pedal 26PL and right travel pedal 26PR in a top view.
  • the left travel lever 26DL and right travel lever 26DR extend upward from the floor in front of the driver's seat 50.
  • An operator seated in the driver's seat 50 can drive the left travel hydraulic motor 2ML by gripping and operating the left travel lever 26DL with their left hand, in the same way as operating the left travel pedal 26PL.
  • an operator seated in the driver's seat 50 can drive the right travel hydraulic motor 2MR by gripping and operating the right travel lever 26DR with their right hand, in the same way as operating the right travel pedal 26PR.
  • the left travel lever 26DL and right travel lever 26DR are positioned so that the operator can operate the left travel lever 26DL and right travel lever 26DR simultaneously with one hand.
  • the display device D1 is provided in a location that is easily visible to the operator seated in the cab 10, and displays various information images under the control of the controller 30.
  • the display device D1 also functions as an example of a notification device that notifies the operator of the status of a conversation, and is located on the front right side of the driver's seat 50 and connected to the controller 30 via a dedicated line.
  • the display device D1 displays various types of image information.
  • the display device D1 includes a display screen that displays information such as the working conditions or operating status of the work machine 100. The operator seated in the driver's seat 50 can perform work using the work machine 100 while checking the various information displayed on the display device D1.
  • the display device D1 may also be provided with an input device D2.
  • Input device D2 is a device including a processing circuit, and is located within reach of the operator seated in driver's seat 50. It accepts various operational inputs from the operator and outputs signals corresponding to the operational inputs to controller 30.
  • Input device D2 includes a touch panel mounted on the display of display device D1 that displays various information images, a knob switch provided at the tip of one or more of the multiple operating levers included in operating device 26, or a button switch, lever, toggle switch, or rotary dial installed around display device D1. A signal corresponding to the content of the operation performed on input device D2 is input into controller 30.
  • a gate bar 55 is attached to the front of the front end of the left console 54L.
  • the gate bar 55 operates in conjunction with the operation of a gate lock lever GL provided on the left console 54L.
  • the gate bar 55 is attached to a frame inside the left console 54L so that it can be raised and lowered around an axis extending left and right at the top end.
  • the gate lock lever GL is a mechanical input operation unit for switching between a state in which the work machine 100 can be operated by the operating device 26 (operable state) and a state in which the work machine 100 cannot be operated by the operating device 26 (inoperable state).
  • the gate lock lever GL is configured so that the operator can switch between a first operating position that realizes the inoperable state and a second operating position that realizes the operable state.
  • the controller 30 switches between the operable state and the inoperable state depending on the operating state of the gate lock lever GL.
  • the controller 30 switches between the operable state and the inoperable state of the work machine 100 by electrically switching between a connected state and a disconnected state of the pilot line depending on the operating state of the gate lock lever GL.
  • the gate bar 55 is raised forward (passage prohibited state) to prevent the operator from passing through the boarding/alighting door, as shown in Figure 5.
  • the gate bar 55 is housed inside the left console 54L (passage permitted state) so as not to prevent the operator from passing through the boarding/alighting door.
  • this configuration can prevent the work machine 100 from moving unintentionally, even if the operator inadvertently touches the operating device 26 when getting on or off the machine. Therefore, this configuration can improve the safety of the work machine 100.
  • the work machine 100 may be configured so that it can accept a predetermined operation to start the engine 11 only when the gate lock lever GL is in the second operating position and the gate bar 55 is in a passage prohibiting state. In other words, the work machine 100 may be configured so that it cannot start the engine 11 when the gate lock lever GL is in the first operating position and the gate bar 55 is in a passage permitting state.
  • a switch SW is installed on the right console 54R.
  • a window console 56 is installed to the right of the right console 54R.
  • the window console 56 extends the entire length of the driver's cab 10 in the fore-and-aft direction and is arranged parallel to the right console 54R.
  • a display device D1 is installed in front of the window console 56.
  • An external volume dial DL1, an internal volume dial DL2, an internal sound collector M2, a radio tuner, etc. are installed on the window console 56.
  • the radio tuner, etc. may be installed on the left console 54L or the right console 54R.
  • the internal sound collection device M2 is a device that collects sounds generated within the driver's cab 10.
  • the internal sound collection device M2 is an indoor microphone that is configured to pick up the voice of the operator inside the driver's cab 10.
  • the horn button HS is a button that the operator of the work machine 100 operates to sound the horn.
  • the horn button HS is a knob switch provided at the tip of the left operating lever 26L.
  • the speech button KS is a button that the operator of the work machine 100 operates when speaking to workers around the work machine 100.
  • the speech button KS is a knob switch provided at the tip of the right operating lever 26R.
  • the internal sound output device SP2 is a device that outputs sound to the operator in the cab 10 and also functions as an example of a notification device that notifies the operator of the status of a conversation. It is installed in the cab 10.
  • the internal sound output device SP2 converts electrical signals input from the controller 30 into physical sound (air vibrations) and outputs the sound.
  • the internal sound output device SP2 may be installed in any position, for example, near the display device D1, near the input device D2, or near the boarding/exiting door of the cab 10.
  • the internal sound output device SP2 includes a left interior speaker SP2L attached to the upper left corner of the rear wall of the cab 10 and a right interior speaker SP2R attached to the upper right corner of the rear wall of the cab 10.
  • the internal sound output device SP2 may be headphones or earphones worn by the operator, or may be an internal speaker built into the display device D1.
  • the headphones, earphones, or internal speaker are connected to the controller 30 so as to be able to communicate with the controller 30 via, for example, Bluetooth (registered trademark) or the like.
  • the external volume dial DL1 is configured to adjust the volume of the sound output by the external sound output device SP1. Additionally, the volume of the sound output by each external sound output device SP1 may be configured to be adjustable using a device other than the external volume dial DL1, such as a touch panel attached to the display device D1.
  • the external volume dial DL1 may be configured to be infinitely rotatable in both the clockwise and counterclockwise directions. This is to accommodate cases where volume adjustment using the external volume dial DL1 is used in conjunction with volume adjustment using a device other than the external volume dial DL1.
  • the internal volume dial DL2 is configured to adjust the volume of the sound output by the internal sound output device SP2. Additionally, the volume of the sound output by each internal sound output device SP2 may be configured to be adjustable using a device other than the internal volume dial DL2, such as a touch panel attached to the display device D1.
  • the internal volume dial DL2 may be configured to be infinitely rotatable in both the clockwise and counterclockwise directions. This is to accommodate cases where volume adjustment using the internal volume dial DL2 is used in conjunction with volume adjustment using a device other than the internal volume dial DL2.
  • the switch SW is an example of an operating device for switching the operating state of a conversation function, which is an example of a voice transmission function.
  • the switch SW is provided on the top surface of the right console 54R.
  • the switch SW may also be one of the input devices D2, may be realized by a touch panel provided on the display device D1, or may be a knob switch.
  • the voice transmission function is a function for realizing one-way or two-way voice transmission between the operator OP of the work machine 100 and a person (worker WK) around the work machine 100, as shown in FIG. 6.
  • the voice transmission function includes an internal sound reproduction function, which collects the operator OP's voice using the internal sound collection device M2 and outputs it from the external sound output device SP1, and an external sound reproduction function, which collects the worker WK's voice using the external sound collection device M1 and outputs it from the internal sound output device SP2.
  • the conversation function is realized by combining the internal sound reproduction function and the external sound reproduction function.
  • the function for realizing one-way voice transmission is also called a one-way dialogue function, which means that, for example, the function for transmitting voice from the operator OP to the worker WK (internal sound reproduction function) and the function for transmitting voice from the worker WK to the operator OP (external sound reproduction function) are executed at different times (alternately), like a conventional walkie-talkie.
  • the function for realizing two-way voice transmission is also called a two-way dialogue function, and means that, for example, a function for transmitting voice from the operator OP to the worker WK (internal sound playback function) and a function for transmitting voice from the worker WK to the operator OP (external sound playback function) are simultaneously executed.
  • the conversation function may be configured to be available in at least one of the following states: key-off state (state in which the drive source is stopped), accessory-on state (state in which the drive source is stopped but the on-board electronic devices are operating), engine-on state (state in which the drive source is operating), gate lock-on state (state in which the gate lock lever GL has been activated to disable operation), and gate lock-off state (state in which the gate lock lever GL has been activated to enable operation).
  • key-off state state in which the drive source is stopped
  • accessory-on state state in which the drive source is stopped but the on-board electronic devices are operating
  • engine-on state state in which the drive source is operating
  • gate lock-on state state in which the gate lock lever GL has been activated to disable operation
  • gate lock-off state state in which the gate lock lever GL has been activated to enable operation
  • the conversation function is a function for enabling conversation between the operator OP of the work machine 100 and a worker WK located around the work machine 100, as shown in Figure 6.
  • Figure 6 is a perspective view of the work machine 100 on which the operator OP is riding and the worker WK located at the front left of the work machine 100.
  • Figure 6 shows the operator OP's voice being collected by the internal sound collection device M2 and output from the external sound output device SP1, and the worker WK's voice being collected by the external sound collection device M1 and output from the internal sound output device SP2.
  • an information transmission device G1 is provided at the top of each of the four side surfaces of the cab 10.
  • the front light bar G1F provided at the top of the front of the cab 10 emits green light
  • the left light bar G1L provided at the top of the left side of the cab 10 emits white light
  • the front light bar G1F emitting green light has a dot pattern attached.
  • worker WK sees the front light bar G1F glowing green, he or she can recognize that his or her voice is being detected by the front microphone M1F.
  • other devices such as the imaging device S6 are not shown in Figure 6.
  • the operating states of the conversation function include an ON state (the state shown in Figure 6) in which conversation between the operator OP and worker WK is possible, and an OFF state in which conversation between the operator OP and worker WK is not possible.
  • the operating states of the conversation function may additionally include at least one of an audible state (with respect to the operator OP) in which the operator OP can hear the voice of the worker WK but the worker WK cannot hear the voice of the operator OP, and a speechable state (with respect to the operator OP) in which the worker WK can hear the voice of the operator OP but the operator OP cannot hear the voice of the worker WK.
  • switch SW when switch SW is operated to switch the operation state of the conversation function to the on state, external sound collection device M1, external sound output device SP1, internal sound collection device M2, and internal sound output device SP2 become available for use. Conversely, when switch SW is operated to switch the operation state of the conversation function to the off state, external sound collection device M1, external sound output device SP1, internal sound collection device M2, and internal sound output device SP2 become unavailable. Furthermore, when switch SW is operated to switch the operation state of the conversation function to the audible state, external sound collection device M1 and internal sound output device SP2 become available for use. Furthermore, when switch SW is operated to switch the operation state of the conversation function to the speech-enabled state, external sound output device SP1 and internal sound collection device M2 become available for use. In the illustrated example, when the internal sound collection device M2 is available, the operator OP can speak to the worker WK using the external sound output device SP1 by pressing the talk button KS and speaking.
  • the work machine 100 When the operator OP and a worker WK outside the work machine 100 are conversing, the work machine 100 outputs the sound information collected by each sound collection device to each sound output device via the controller 30.
  • the controller 30 performs appropriate processing on the sound information of the worker WK collected by the external sound collection device M1 and outputs it from the internal sound output device SP2.
  • the controller 30 also performs appropriate processing on the sound information of the operator OP collected by the internal sound collection device M2 and outputs it from the external sound output device SP1. Examples of sound information processing by the controller 30 include noise cancellation processing to remove noise other than the voice of the worker WK and the voice of the operator OP, and volume adjustment processing to automatically adjust the volume.
  • the controller 30 may calculate position information of the worker WK, who is the sound source. For example, if a worker WK located on the right side of the work machine 100 speaks, the external sound collection device M1 will pick up a loud sound volume from the right microphone M1R, while the other microphones will pick up a soft sound volume. Therefore, the controller 30 can recognize the direction in which the worker WK, who is the sound source, is located relative to the work machine 100 based on the difference in the volume of the sound collected by each microphone.
  • the controller 30 can recognize the direction of the worker WK, who is the sound source, based on the time difference between the sounds collected by multiple microphones (for example, the microphone that collected the sound earliest).
  • the external sound collection device M1 can also recognize the direction of the worker WK, who is the sound source, in more detail based on the phase difference of the sound waves.
  • the controller 30 can also calculate the position information of the worker WK present in the vicinity of the work machine 100 based on the image information captured by the imaging device S6.
  • the controller 30 may identify the worker WK making the sound by extracting the direction the worker WK is facing, mouth movements, etc. from the image information captured by the imaging device S6.
  • the controller 30 may also calculate the distance from the work machine 100 to the worker WK using an object detection device (including the imaging device S6). In other words, the controller 30 can more accurately identify the position information of the worker WK by combining the information on the sound collected by the external sound collection device M1 and the image information captured by the imaging device S6.
  • the controller 30 is configured to set an importance level for the sound information collected by the external sound collection device M1 separately from the noise cancellation process, and selectively output sound information with a high importance level to the operator OP.
  • the importance setting process for setting the importance level of sound information in the controller 30 will be explained.
  • the controller 30 recognizes various situations of the work machine 100 and sets the importance of sound information according to those situations.
  • Examples of various situations of the work machine 100 include position information of the sound source (worker WK), the operating mode of the work machine 100, the worker WK selected by the operator OP, the content of the sound information, the worker's condition, etc.
  • Figure 7A is a top view illustrating an example of a conversation between the operator OP of the work machine 100 and one worker WK.
  • Figure 7B is a top view illustrating an example of a conversation between the operator OP of the work machine 100 and multiple workers WK.
  • the example of Figure 7A shows a situation in which one worker WK, who is the subject of conversation, is present on the right side of the work machine 100.
  • the controller 30 calculates position information where the worker WK is located on the right side of the work machine 100 based on the sound information detected by the external sound collection device M1 and/or the image information captured by the image capture device S6. Then, based on the position information of the worker WK, the controller 30 increases the importance of sound information in the direction where the worker WK is located in the importance setting process. This allows the controller 30 to select sound information with a high importance level and output it to the internal sound output device SP2, while omitting sound information with a low importance level.
  • the controller 30 will prioritize the sound information collected primarily by the right microphone M1R and output that sound information from the internal sound output device SP2. At this time, sound information from the other microphones (front microphone M1F, left microphone M1L, rear microphone M1B) may be blocked or the volume may be sufficiently reduced.
  • the operator OP can easily recognize the sound information of the worker WK on the right side output from the internal sound output device SP2. Note that, upon output, the controller 30 may output sound information only from the speaker in the same direction (right interior speaker SP2R) in response to the sound information acquired by the right microphone M1R.
  • the operator OP responds to the worker WK, he or she speaks appropriate content while pressing the speak button KS.
  • the controller 30 When the internal sound collection device M2 acquires the sound information of the operator OP, the controller 30 outputs the sound information of the operator OP from the external sound output device SP1. This allows the work machine 100 to carry out a stable conversation between the worker WK and the operator OP.
  • the example in Figure 7B shows a situation in which one worker WK1, who is the subject of conversation, is present on the right side of the work machine 100, and another worker WK2, who is also the subject of conversation, is present on the rear side of the work machine 100.
  • the worker WK1 on the right side and the worker WK2 on the rear side emit sounds at the same time, but the sound information is not processed in the controller, mixed sound information will be output from the internal sound output device.
  • the operator OP will not be able to easily recognize who they are talking to.
  • the controller 30 recognizes the position information of multiple workers WK1, WK2, and then performs a priority setting process based on the status of the work machine 100, thereby prioritizing conversation with the worker WK associated with sound information of a higher importance. For example, in a situation where the worker WK2 at the rear of the work machine 100 is conversing with the operator OP, there is a high possibility of some kind of danger. For this reason, the controller 30 compares the worker WK1 on the right side with the worker WK2 at the rear, and sets the importance of the worker WK2 at a higher level than that of the worker WK1 on the right side.
  • the controller 30 then prioritizes processing the sound information of the worker WK2 at the rear, whose sound is collected primarily by the rear microphone M1B, and outputs the sound information from the internal sound output device SP2. This allows the operator OP to listen to the sound information of the worker WK2 at the rear, which is output from the internal sound output device SP2, and to have a stable conversation with the worker WK2 at the rear.
  • the rear worker WK2 can be said to be a sound source located near the blind spot in the direction in which the work machine 100 is working.
  • blind spot is used to mean a direction that is not directly visible to the operator OP, is not captured by the imaging device S6, or is not intended by the operator OP when working with the work machine 100.
  • FIGs 7A and 7B above an example has been described in which the importance is set based on the difference in the direction (position) of the worker WK relative to the work machine 100 as position information for the worker WK.
  • the importance setting process is not limited to the above patterns, and the importance may be set based on various situations of the work machine 100.
  • Figure 8 is a diagram illustrating the relationship between various situations of the work machine 100 and the sound information of sound sources whose importance is increased depending on these situations.
  • the controller 30 may set the importance level based on the surrounding environment information of the work machine 100 as the status of the work machine 100.
  • This surrounding environment information is information obtained by detecting the surrounding environment with the work machine 100 as the base point using the surrounding environment recognition device.
  • the surrounding environment information includes, for example, position information of the worker WK, voice information of the worker WK, status information of the worker WK, etc.
  • the surrounding environment information may also include the status of the work site, people other than the worker WK, obstacles, surrounding houses, etc.
  • An external sound collection device M1, an image capture device S6, etc. can be used as the surrounding environment recognition device that recognizes the surrounding environment information.
  • the controller 30 may also set the importance level as the status of the work machine 100 based on the machine status information of the work machine 100.
  • This machine status information is information obtained by the machine status recognition device detecting the operation of each component within the work machine 100, the processing required to perform that operation, and the details of operations performed by the operator OP.
  • the machine status information includes, for example, the operating mode of the work machine 100 and the details of operations performed by the operator OP.
  • the machine status recognition device that recognizes the machine status information can be various sensors of the work machine 100, the input device D2, the controller 30 itself, etc.
  • the controller 30 When the position information of the worker WK is recognized as ambient environment information, the controller 30 performs a position-importance setting process to select a worker WK whose importance is to be increased based on the position information of the worker WK. For example, in the position-importance setting process, the controller 30 sets the importance of the worker WK by reading out the importance defined for each direction of the worker WK relative to the work machine 100 described above.
  • the position-importance setting process that recognizes the position information of the worker WK as the status of the work machine 100 is not limited to the direction of the worker WK relative to the work machine 100.
  • the controller 30 may calculate the distance between the work machine 100 and one or more workers WK based on information acquired by the imaging device S6 and the external sound collection device M1, and increase the importance of workers WK who are closer. For example, using Figure 7B as an example, if the worker WK1 on the right is closer to the work machine 100 than the worker WK2 behind him, the controller 30 may increase the importance of the sound information of the worker WK1 on the right. By prioritizing conversations with workers WK who are closer to the work machine 100, the operator OP is more likely to obtain important work-related information.
  • whether to prioritize the direction of the worker WK relative to the work machine 100 or the distance from the work machine 100 to the worker WK may be freely designed or may be set at the operator's discretion. For example, even if the worker WK1 on the right is closer than the worker WK2 behind, the controller 30 may be set to give higher importance to the worker WK2 behind. In short, when multiple situations overlap, the controller 30 may be freely designed to decide which situation to prioritize and increase its importance. The same applies when other subsequent situations overlap.
  • the controller 30 may calculate the distance between the work machine 100 and one or more workers WK, and increase the importance of that worker WK if the distance is far but the volume of the sound information is loud (for example, louder than the volume of the voice of a nearby worker). This is because if the distance to the work machine 100 is far but the volume is loud, there is a high possibility that the worker WK has spoken something important.
  • the controller 30 may also perform a voice-importance setting process that selects a worker WK whose importance is to be increased based on the voice information of the worker WK.
  • the controller 30 has the function of analyzing the sound information acquired by the external sound collection device M1. Examples of sound information analysis by the controller 30 include extracting keywords from conversations and detecting the amplitude and frequency of sound waves.
  • the controller 30 may extract keywords from the sound information and increase the importance of the sound information if the keywords are close to pre-registered reference keywords. Examples of such keywords include words related to the dangers of the work, such as "dangerous" and "stop.” This allows the operator OP to prioritize conversations with workers WK who utter keywords with increased importance, enabling them to take appropriate action early.
  • the controller 30 may analyze the sound information acquired by the external sound collection device M1 and convert the sound information into a numerical value to indicate the worker WK's level of tension or urgency, and increase the importance of sound information for which this numerical value is high. This allows the operator OP to prioritize conversations with workers WK who are highly tense, and to take appropriate action early on depending on the content of the conversation.
  • the controller 30 may perform a worker status-importance setting process that selects a worker WK to increase the importance of based on the status information of the worker WK.
  • the controller 30 may recognize a worker WK who is speaking while facing the work machine 100 from the image information of the imaging device S6, and increase the importance of that worker WK. This is because if the worker WK is speaking while facing the direction of the work machine 100, it can be said that the worker WK wants to have a conversation with the operator OP.
  • the controller 30 may recognize a worker WK who is speaking without facing the work machine 100 from the image information of the imaging device S6, and decrease the importance of that worker WK.
  • the external sound collection device M1 can be prevented from collecting the sound and outputting it to the internal sound output device SP2.
  • the controller 30 may extract the gestures of the worker WK by image processing the image information captured by the imaging device S6. If the extracted gesture is close to a pre-registered reference gesture, the controller 30 increases the importance of the sound information of that worker WK. This allows the operator OP to prioritize conversation with the worker WK who made the gesture, allowing them to quickly understand the intentions of that worker WK.
  • the controller 30 may perform an operation mode-importance setting process that sets the importance of sound information based on the operation mode of the work machine 100 itself as machine status information.
  • operation modes of the work machine 100 include a travel mode in which the work machine travels using the lower traveling body 1, a swing mode in which the upper rotating body 3 swings, and an attachment operation mode (working unit operation mode) in which the attachment AT, which is the working unit, is operated.
  • the controller 30 can determine the operation mode based on the various sensors of the work machine 100, which is a machine status recognition device, the processing content of the controller 30 itself, etc.
  • the controller 30 recognizes a state (traveling mode) in which the work machine 100 has started traveling or is currently traveling. In this traveling mode, if the controller 30 detects a worker WK ahead in the direction of travel based on information acquired by the imaging device S6 and the external sound collection device M1, it is preferable to increase the importance of that worker WK.
  • "ahead in the direction of travel” refers to the forward direction when the work machine 100 is traveling forward, and the reverse direction when the work machine 100 is traveling backward.
  • conversation with the worker WK ahead in the direction of travel becomes important, for example, to request a halt to travel because work is being performed ahead in the direction of travel. For this reason, the controller 30 can prioritize conversation with the worker WK in that direction by increasing the importance of sound information ahead in the direction of travel.
  • the controller 30 recognizes a state (swing mode) in which the upper rotating body 3 of the work machine 100 has started to rotate or is currently rotating.
  • this swing mode if the controller 30 detects a worker WK ahead in the direction of rotation based on information acquired by the imaging device S6 and the external sound collection device M1, it is preferable to increase the importance of that worker WK. This is because when the work machine 100 rotates, it is important to have a conversation with the worker WK ahead in the direction of rotation, for example, to request that the rotation be stopped because work is being done ahead in the direction of rotation.
  • the controller 30 recognizes a state (attachment operation mode) in which the attachment AT of the work machine 100 has started operating or is currently operating.
  • this attachment operation mode if the controller 30 detects a worker WK in the blind spot of the cab 10 or attachment AT based on information acquired by the imaging device S6 and the external sound collection device M1, it is preferable to increase the importance of that worker WK.
  • the operator OP is concentrating on working with the attachment AT, making it easier to notice a worker WK in the direction of the attachment AT (forward), but harder to notice a worker WK in the blind spot.
  • the operator OP may suddenly move the attachment AT in the blind spot depending on the work being done.
  • it is important to communicate with the worker WK in the blind spot such as requesting a stop to swing because work is being done in the blind spot.
  • attachment operation modes such as ATT mode, which operates end attachments other than the bucket 6, fully automatic or semi-automatic operation using a machine controller (MC), machine guidance (MG) mode, crane mode, etc.
  • MC machine controller
  • MG machine guidance
  • crane mode etc.
  • the importance setting process may change the worker WK whose importance is increased for each of these multiple modes. For example, when executing crane mode as the attachment operation mode, it is often desirable to have close conversations with rigging workers and the like located in front of the work machine 100, so conversations with the worker WK in front may be prioritized by increasing the importance of the worker WK in front.
  • the controller 30 may also acquire information on the operation details of the input device D2 by the operator OP as machine status information, and perform an operation detail-importance setting process that sets the importance of sound information based on this operation detail information.
  • the display device D1 of the cab 10 displays image information captured by the imaging device S6 during work on the work machine 100.
  • the image information displayed by the display device D1 shows one or more workers WK who are present in the vicinity of the work machine 100.
  • the controller 30 allows the operator OP to increase the importance of the worker WK by having the operator OP touch the displayed worker WK on the display device D1 and input device D2, which are configured as a touch panel.
  • FIG. 9 is a diagram illustrating a display screen 85 displayed by the display device D1.
  • the display device D1 generates the display screen 85 based on the imaging information from the imaging device S6 and various information received from the controller 30.
  • the display screen 85 displays, for example, setting status information, which is information relating to the setting status of the work machine 100, and operating status information, which is information showing the operating status of the work machine 100, at the top of the screen.
  • the display screen 85 also has an excavator status display area 851, which shows the positional relationship between the work machine 100 and people (including workers WK) detected in the vicinity of the work machine 100, a first image display area 852, which displays image information from the imaging device S6, and a second image display area 853.
  • the first image display area 852 displays image information from the right camera S6R of the imaging device S6.
  • the second image display area 853 displays image information from the rear camera S6B of the imaging device S6.
  • the operator OP may specify any camera for the imaging information displayed in the shovel status display area 851, first image display area 852, and second image display area 853. Furthermore, one of the shovel status display area 851, first image display area 852, and second image display area 853 may display imaging information from a camera adjacent to the microphone that is being used preferentially among the microphones of the external sound collection device M1.
  • the shovel status display area 851 displays a two-dimensional planar image (or a three-dimensional image of the work machine 100) looking down on the work machine 100.
  • This shovel status display area 851 is positioned with the simulated work machine 851m at its center, and displays area information 851e indicating the area on all four sides based on the simulated work machine 851m.
  • the shovel status display area 851 also positions a person detection icon 851a around the simulated work machine 851m based on the position information of the detected worker WK.
  • Area information 851e is divided into multiple sections based on the installation position and imaging direction (direction) of each camera of imaging device S6 and each microphone of external sound collection device M1.
  • area information 851e is divided into four sections (front, back, left, right) in accordance with the four cameras (front camera S6F, left camera S6L, right camera S6R, rear camera S6B) and four microphones (front microphone M1F, left microphone M1L, right microphone M1R, rear microphone M1B).
  • the shovel status display region 851 can display a different display 851c from other areas to indicate the prioritized microphone or camera position.
  • the different display 851c can be a background color or a blinking display for the area where the prioritized microphone or camera position is located (the right side in Figure 9).
  • the operator OP may, for example, touch the person detection icon 851a displayed in the shovel status display area 851. Alternatively, if the worker WK is shown in the first image display area 852 or the second image display area 853, the operator OP may touch the image 852a, 853a of the worker WK.
  • the controller 30 can prioritize the conversation with the worker WK touched by the operator OP.
  • the controller 30 may superimpose frame displays 851f, 852f, etc. on the worker WK selected by the operator OP when displaying the image information on the display device D1, thereby allowing the operator OP to recognize the subject of the conversation.
  • the controller 30 may display frame displays 851f, 852f for the worker WK who has spoken to the work machine 100.
  • the display device D1 is displaying person detection frames 852b, 853b extracted from the image information, it is preferable to display frame displays 851f, 852f with decorations different from the person detection frames 852b, 853b for the selected worker WK.
  • the controller 30 may increase the importance of sound information in the direction corresponding to the camera by having the operator OP switch the camera in the imaging direction of the imaging device S6.
  • the operator OP operates the input device D2 to select imaging information from one camera.
  • the controller 30 also acquires sound information from the worker WK through the microphone corresponding to the camera in the selected direction for the external sound collection device M1. Even in this case, the work machine 100 can increase the importance of the worker WK selected by the operator OP and prioritize conversations with that worker WK.
  • the controller 30 when switching cameras to talk with the worker, the controller 30 preferably displays decorations in the display areas (first image display area 852, second image display area 853, etc.) displayed on the display device D1 to notify the operator OP that the camera and microphone in that direction have priority.
  • decorations displayed in the display areas (first image display area 852, second image display area 853, etc.) displayed on the display device D1 to notify the operator OP that the camera and microphone in that direction have priority.
  • a decorative frame 852o is displayed in the first image display area 852 to let the operator OP know that the camera and microphone in that direction have priority.
  • the controller 30 may assign a numerical importance to the sound information from the worker WK. In this case, a high importance number may be assigned to situations with high urgency, and a low importance number may be assigned to situations with low urgency.
  • the importance value of the worker WK ahead in the swing direction is set higher than the importance value of the worker WK selected by the operator OP. This makes it possible to easily communicate sound information to the operator OP when the worker WK ahead in the swing direction makes a sound.
  • the importance values for each situation can be stored in the controller 30 as pre-set table information and read out during the importance setting process by the controller 30. Alternatively, the importance values can be set arbitrarily by the operator OP, etc.
  • the controller 30 may perform a process to determine the sound information with the highest importance by adding a numerical importance level to each piece of sound information (each worker WK) depending on the situation. For example, when the attachment operation mode is being executed and the position information of multiple workers WK is recognized, the controller 30 will increase the importance level the closer the worker WK is, and will further increase the importance level of workers WK who are in blind spots. This allows the operator OP to prioritize listening to the sound emitted by the worker WK with the highest importance level.
  • FIG. 10 is a flowchart showing the processing flow of the controller 30, which allows communication between the operator OP of the work machine 100 and workers WK around the work machine 100.
  • the controller 30 When communicating with a worker WK in the vicinity of the work machine 100, the controller 30 performs the processing flow of steps S101 to S105.
  • the external sound collection device M1 detects the worker's voice as sound information (step S101). Note that before the worker WK makes a sound, the voice of the operator OP may be output from the internal sound collection device M2 to the worker WK via the external sound output device SP1 (in other words, the operator OP may speak to the worker WK).
  • the controller 30 identifies the position information of the worker WK who emitted the sound information based on the sound information acquired by the external sound collection device M1 and/or the imaging information acquired by the imaging device S6 (step S102). Note that, as shown in Figure 8 above, some conditions of the work machine 100 have an importance setting item that does not depend on the position information of the worker WK. For this reason, the controller 30 may perform the importance setting process and output sound information with a high importance level, even without acquiring the position information of the worker WK in step S102.
  • the controller 30 judges the detection information from the various sensors of the work machine 100 and the processing details inside the controller 30, and recognizes the status of the work machine 100 (step S103).
  • the status of the work machine 100 may be recognized before the worker WK makes a sound.
  • the operating mode of the work machine 100 can be recognized in advance.
  • the number and location information of the workers WK around the work machine 100 can also be recognized in advance based on the image information from the image capture device S6.
  • the operator OP operates the input device D2 to select a worker WK with whom he or she wants to talk, this can also be recognized in advance.
  • the controller 30 performs an importance setting process based on the situation recognized in step S103 and sets the importance of the sound information (step S104).
  • the controller 30 can quickly set the importance based on the recognized situation by previously storing table information showing the correspondence between the situation of the work machine 100 and the importance, as shown in Figure 8.
  • the controller 30 selects the sound information to be communicated to the operator OP based on the set importance level, and outputs that sound information via the internal sound output device SP2 (step S105). This allows the operator OP to have a smooth conversation with the worker WK who emitted the sound information with a high importance level.
  • the work machine 100 selects sound information appropriate to the situation, thereby significantly improving the operator's recognition. This allows the operator to reliably hear the content of the voice that they want to hear first.
  • the controller 30 can select sound information based on importance, making it possible to effectively communicate the voice that should be prioritized to the operator OP.
  • the work machine 100 of the present disclosure is not limited to the above configuration and can take various modified forms.
  • an example was described in which the importance of sound information is set according to the status of the work machine 100, and sound information of a higher importance is simply output.
  • the sound information output from the internal sound output device SP2 immediately switches (interrupt processing is performed). While this interrupt processing is convenient, for example, when informing the operator OP of danger, depending on the content of the conversation, the operator OP may become confused if the information is switched inadvertently.
  • the controller 30 is not limited to immediately switching sound information when the importance of sound information changes, but may also be configured to output sound information of high importance after a conversation has ended, for example.
  • the controller 30 may also be configured to output sound information of high importance after a conversation has ended, for example.
  • the sound source of sound information of high importance changes depending on the status of the work machine 100, it is advisable to notify the operator on the display screen 85 of the display device D1 that sound information of high importance has been emitted. In other words, notification may be made via the display device D1, like a call waiting system, and the sound information may be switched under the operation of the operator OP.
  • the controller 30 may perform processing so as not to switch the importance of that worker WK. Also, for example, the controller 30 may not switch the importance for a certain period of time after the operator OP has finished speaking to the worker WK. This allows the controller 30 to smoothly continue the conversation between the specific worker WK and the operator OP.
  • Figure 11 is a top view showing a conversation with a worker WK when an array microphone 90 is applied to the external sound collection device M1.
  • the external sound collection device M1 of the work machine 100 may apply array microphones 90 to some or all of the microphones (front microphone M1F, left microphone M1L, right microphone M1R, rear microphone M1B).
  • the array microphone 90 is a device in which multiple mini microphones are installed in an appropriate arrangement, allowing each mini microphone to simultaneously capture sound.
  • the angular range (directivity) at which this array microphone 90 can collect sound can be set according to the arrangement of each mini microphone. For example, by setting the array microphone 90 to an angular range of 180° on each of the front, left, right, and rear sides of the work machine 100, it is possible to stably capture sound from all around the work machine 100.
  • the array microphone 90 by giving the array microphone 90 directionality based on the input sound information, it is possible to acquire sound information emphasizing that of a specific worker WK (who has emitted sound) among multiple workers WK present around the work machine 100. For example, as shown in FIG. 11, if two workers WK1 and WK2 are present on the right side of the work machine 100, the array microphone 90 can stably collect the voice (sound information) of worker WK1 by giving it directionality toward worker WK1 who has emitted sound.
  • the controller 30 can accurately perform processes such as recognizing location information and setting importance levels for the sound information acquired by the external sound collection device M1. Therefore, the work machine 100 can more smoothly carry out conversations between the operator OP and the external worker WK selected based on importance levels.
  • Figure 12 is a top view of another example configuration of the work machine 100.
  • the work machine 100 shown in Figure 12 differs from the work machine 100 shown in Figure 1 in that the external sound output device SP1 is made up of four speakers (front speaker SP1F, left speaker SP1L, right speaker SP1R, and rear speaker SP1B).
  • the external sound output device SP1 is made up of a single omnidirectional speaker provided above the cab 10.
  • the work machine 100 shown in FIG. 12 can output sound toward the worker WK in front of the work machine 100 without outputting sound toward the workers WK to the left, right, and rear of the work machine 100, for example, by turning on the front speaker SP1F (a state in which sound can be output) and turning off the left speaker SP1L, right speaker SP1R, and rear speaker SP1B (a state in which sound cannot be output).
  • the front speaker SP1F a state in which sound can be output
  • the left speaker SP1L, right speaker SP1R, and rear speaker SP1B a state in which sound cannot be output
  • a front camera S6F and a front microphone M1F are provided adjacent to the front speaker SP1F, and a front light bar G1F is provided on the housing of the front microphone M1F.
  • a left camera S6L and a left microphone M1L are provided adjacent to the left speaker SP1L, and a left light bar G1L is provided on the housing of the left microphone M1L.
  • a right camera S6R and a right microphone M1R are provided adjacent to the right speaker SP1R, and a right light bar G1R is provided on the housing of the right microphone M1R.
  • a rear camera S6B and a rear microphone M1B are provided adjacent to the rear speaker SP1B, and a rear light bar G1B is provided on the housing of the rear microphone M1B.
  • the work machine 100 can turn on the light bar corresponding to the speaker that is turned on (in a state where it can emit light), and turn off the light bar corresponding to the speaker that is turned off (in a state where it cannot emit light).
  • the external sound output device SP1 may also be composed of one or more parametric speakers.
  • a parametric speaker is a speaker that uses ultrasonic waves and can selectively transmit sound to people within a specific narrow range.
  • a parametric speaker can transmit sound toward any position.
  • the controller 30 may detect a worker WK around the work machine 100 based on images captured by the imaging device S6 and identify the position of the worker WK. Furthermore, if there are multiple workers WK around the work machine 100, the controller 30 may distinguish between a conversation target (a worker WK who is speaking) and a non-conversation target (a worker WK who is not speaking) based on the output of the four external sound collection devices M1. Furthermore, the controller 30 may distinguish between a conversation target (a worker WK facing the work machine 100) and a non-conversation target (a worker WK who is not facing the work machine 100) based on images captured by the imaging device S6. The controller 30 may then turn on the speaker and light bar facing the worker WK.
  • the controller 30 may turn on the rear speaker SP1B while keeping the front speaker SP1F, left speaker SP1L, and right speaker SP1R off. In this case, the controller 30 may turn on the rear light bar G1B while keeping the front light bar G1F, left light bar G1L, and right light bar G1R off.
  • This function may also be implemented in the work machine 100 shown in Figures 1 to 5.
  • the controller 30 can output sound in the direction where the worker WK is located, without outputting sound in the direction where the worker WK is not present. This allows the worker WK to easily recognize whether he or she is considered a conversation target or non-target.
  • FIG. 13 is a schematic diagram showing an example configuration of the operation system SYS.
  • the operation system SYS includes a work machine 100, a remote control room RC, and a management center MC. Note that the detailed configuration of the work machine 100 is omitted from FIG. 13. This is because the work machine 100 shown in FIG. 13 has the same configuration as the work machine 100 shown in FIG. 1 or FIG. 12.
  • the work machine 100, remote control room RC, and management center MC are connected to one another so that they can send and receive data via the communication network NW.
  • the work machine 100, remote control room RC, and management center MC may also be connected to one another so that they can send and receive data directly without going through the communication network NW.
  • the work machine 100 sends information about the work site to the remote control room RC. This allows the remote operator RO in the remote control room RC to understand the situation at the work site based on the information from the work machine 100.
  • the work machine 100 is equipped with a sensor that can recognize the position and shape of objects present at the work site in three dimensions.
  • the work machine 100 is equipped with a spatial recognition device.
  • the work machine 100 can transmit the results of three-dimensional measurements of the work site to the remote control room RC.
  • the spatial recognition device is a device for recognizing the space around the work machine 100.
  • the spatial recognition device is a LiDAR.
  • the LiDAR measures the distance between the LiDAR and each of over one million points within the monitoring range.
  • the spatial recognition device may be any device that is capable of measuring the distance to an object.
  • the spatial recognition device may be a stereo camera, or a combination of the imaging device S6 and a ranging device such as millimeter-wave radar.
  • the operation system SYS may include one or more work machines 100.
  • the remote operator RO of a specific work machine 100 can obtain information about the work site obtained by that specific work machine 100, as well as information about the work site obtained by one or more other work machines 100.
  • the remote control room RC is equipped with a communication device T2, a remote controller 40, an operation device 42, an operation sensor 43, a display device D1E, an internal sound collection device M2E, and an internal sound output device SP2E.
  • the remote control room RC also is equipped with an operation seat DS where the remote operator RO sits to remotely operate the work machine 100.
  • the communication device T2 is configured to be able to communicate with the communication device T1 attached to the work machine 100.
  • the remote controller 40 is an example of a control device that includes a processing circuit, and is a calculation device that performs various calculations.
  • the remote controller 40 is configured as a microcomputer that includes a CPU and memory. The various functions of the remote controller 40 are realized when the CPU executes programs stored in the memory.
  • the display device D1E is a device capable of displaying various types of information.
  • the display device D1E displays images based on information transmitted from the work machine 100 so that the remote operator RO in the remote control room RC can visually confirm the area around the work machine 100.
  • the display device D1E is a liquid crystal display that displays images captured by the imaging device S6 mounted on the work machine 100.
  • the display device D1E may also be a display or projector that provides naked-eye stereoscopic vision, or may be VR goggles, etc.
  • the internal sound output device SP2E is a device capable of outputting various types of sound information.
  • the internal sound output device SP2E outputs sound based on information transmitted from the work machine 100 so that the remote operator RO in the remote control room RC can hear sounds emitted at the work site.
  • the internal sound output device SP2E may be configured, for example, to output sound captured by an external sound collection device M1 attached to the outside of the cab 10, or may be configured to output sound captured by an internal sound collection device M2 attached to the inside of the cab 10.
  • the internal sound collection device M2 may be provided at a position corresponding to the ears of the operator seated in the cab 10.
  • the internal sound output device SP2E may be a stationary device such as a speaker, or a wearable device such as earphones or headphones.
  • the speaker may be a monaural speaker, a stereo speaker, or a surround speaker.
  • the speaker may also be an omnidirectional speaker or a directional speaker.
  • the wearable device may be equipped with a noise canceling function, a spatial audio function (stereophonic sound function), or a bone conduction function.
  • the operating device 42 is equipped with an operation sensor 43 for detecting the operation content of the operating device 42.
  • the operation sensor 43 is, for example, an inclination sensor that detects the tilt angle of the operating lever, or an angle sensor that detects the swing angle of the operating lever around the swing axis.
  • the operation sensor 43 may also be composed of other sensors such as a pressure sensor, current sensor, voltage sensor, or distance sensor.
  • the operation sensor 43 outputs information related to the detected operation content of the operating device 42 to the remote controller 40.
  • the remote controller 40 generates an operation signal based on the received information and transmits the generated operation signal to the work machine 100.
  • the operation sensor 43 may be configured to generate the operation signal. In this case, the operation sensor 43 may output the operation signal to the communication device T2 without passing through the remote controller 40. With this configuration, the remote operator RO can remotely operate the work machine 100 from the remote control room RC.
  • the management center MC is a facility equipped with various devices for managing the work machine 100 at the work site or the remote operation of the work machine 100 by the remote operator RO in the remote control room RC.
  • the management center MC is installed in a location away from both the work site of the work machine 100 and the remote control room RC.
  • the management center MC is also equipped with a management device 200, an internal sound collection device M2C, and an internal sound output device SP2C.
  • the management device 200 is an example of a control device that includes a processing circuit, and is, for example, a server computer (a so-called cloud server) or an edge server.
  • the management device 200 is typically a fixed terminal device, but may also be a portable terminal device (for example, a laptop computer, tablet, or smartphone).
  • a manager at the management center MC can, for example, use a sound collection device (external sound collection device M1 or internal sound collection device M2) attached to the work machine 100 and an internal sound output device SP2C to listen to sounds emitted at the work site. Furthermore, a manager at the management center MC can, for example, use an internal sound collection device M2E and internal sound output device SP2C provided in a remote control room RC to listen to sounds emitted in the remote control room RC. Furthermore, a manager at the management center MC can, for example, use the internal sound collection device M2C and an external sound output device SP1 attached to the work machine 100 to communicate the voices he or she makes to workers WK around the work machine 100.
  • a manager at the management center MC can, for example, use the internal sound collection device M2C and an internal sound output device SP2 attached to the work machine 100 to communicate the voices he or she makes to the operator OP of the work machine 100.
  • an administrator at the management center MC can, for example, use the internal sound collection device M2C and the internal sound output device SP2E provided in the remote control room RC to transmit the voices they make to the remote operator RO in the remote control room RC.
  • the internal volume dial DL2 In addition to adjusting the volume output from the internal sound output device SP2, the internal volume dial DL2 also functions as a push button switch. Depending on whether the internal volume dial DL2 in this embodiment is pressed, the sound output can be muted or not.
  • Switch SW is a button that switches the sound output function on and off when pressed.
  • the specific function of switch SW is as described above, so a detailed explanation will be omitted.
  • the controller 30 turns the sound output function on.
  • the external volume dial DL1 In addition to adjusting the volume of the sound output from the external sound output device SP1, the external volume dial DL1 also functions as a push button switch. Whether or not the external volume dial DL1 in this embodiment is pressed determines whether or not to speak to the worker around the work machine 100. In other words, pressing the external volume dial DL1 functions as a speech button similar to the speech button KS of the knob switch shown in FIG. 5.
  • the controller 30 of the work machine 100 receives a signal indicating that the external volume dial DL1 (speak button) has been pressed, it is possible to control the output from the external sound output device SP1 of the sound collected by the internal sound collection device M2 (including the sound emitted by the operator OP).
  • the controller 30 of the work machine 100 receives a signal indicating that the internal volume dial DL2 has been pressed while the sound output function is on, it mutes the sound being output. This causes the controller 30 to stop controlling the output from the internal sound output device SP2 of sounds collected by the external sound collection device M1 (including sounds emitted by workers WK present around the work machine 100).
  • the conditions under which the sound output function becomes available are not limited, and may be determined depending on the implementation.
  • the controller 30 of the work machine 100 can switch the sound output function on and off in response to a signal from the switch SW only when the drive source 11 of the work machine 100 is operating, and can also switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed. Therefore, when the drive source 11 of the work machine 100 is operating, the controller 30 can control the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and can control the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
  • the controller 30 suppresses output control of sound collected by the external sound collection device M1 from the internal sound output device SP2, and suppresses output control of sound collected by the internal sound collection device M2 from the external sound output device SP1.
  • two-way conversation is possible when the drive source 11 of the work machine 100 is operating. Therefore, while the operator is working with the work machine 100, they can communicate with people around the work machine 100, thereby improving work efficiency.
  • the controller 30 can reduce power consumption by limiting the use of the sound output function to a state in which the drive source 11 of the work machine 100 is operating.
  • the controller 30 of the work machine 100 can switch the sound output function on and off in response to a signal from the switch SW only when the work machine 100 is in the key-on state (including when the drive source 11 of the work machine 100 is operating), and can switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed.
  • peripheral devices e.g., air conditioners, radio tuners, etc.
  • the controller 30 can control the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and can also control the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
  • the controller 30 suppresses output control from the internal sound output device SP2 of sounds collected by the external sound collection device M1, and also suppresses output control from the external sound output device SP1 of sounds collected by the internal sound collection device M2.
  • two-way conversation is possible when the work machine 100 is in the key-on state. Therefore, when the work machine 100 is not performing work, the operator can easily communicate with people present in the vicinity of the work machine 100, even during pre-work meetings, for example, thereby improving work efficiency.
  • the controller 30 of the work machine 100 may be able to switch the sound output function on and off in response to a signal from the switch SW only when the gate lock lever GL of the work machine 100 is in the second operating position and the gate bar 55 is in a passage-prohibiting state, and may be able to switch whether or not to speak to the worker in response to a signal indicating that the external volume dial DL1 has been pressed.
  • the controller 30 of the work machine 100 may be able to switch the sound output function on and off in response to a signal from the switch SW and may be able to switch whether or not to speak to the worker in response to a signal from the talk button KS (on the external volume dial DL1) when the gate lock lever GL of the work machine 100 is in the first operating position and the gate bar 55 is in a passage-prohibiting state.
  • the controller 30 of the work machine 100 can switch the sound output function on and off in response to a signal from the internal volume dial DL2, even when the work machine 100 is in the key-off state, in other words, when the engine 11 is not running and power is not being supplied to peripheral devices and the like provided on the work machine 100.
  • the controller 30 can control the output of sound collected by the external sound collection device M1 from the internal sound output device SP2, and can also control the output of sound collected by the internal sound collection device M2 from the external sound output device SP1.
  • the work machine 100 enables two-way conversation at any time. This can prevent situations where the operator is speaking but those around him or her cannot hear, making communication easier.
  • the above-described embodiment an example was described in which the external sound collection device M1 and the external sound output device SP1 were provided on the upper rotating body 3.
  • the above-described embodiment is not limited to providing the external sound collection device M1 and the external sound output device SP1 on the upper rotating body 3.
  • an example will be described in which the external sound collection device and the external sound output device are provided in a position away from the work machine 100.
  • FIG. 14 is a schematic diagram showing an example configuration of an operation system (an example of a control system for a work machine) SYS1 for a work machine 100A according to this embodiment.
  • the operation system SYS1 includes a work machine 100A, an installed microphone 1501, an installed speaker 1502, a drone 1503, and an autonomous mobile robot 1504.
  • the work machine 100A may have the same configuration as the work machine 100 shown in Figure 1, or may have a configuration in which one or more of the external sound collection device M1 and the external sound output device SP1 have been removed from the work machine 100.
  • this embodiment describes a case in which two-way conversation can be achieved even with a work machine 100A that is not equipped with one or more of the external sound collection device M1 and the external sound output device SP1.
  • the installed microphone 1501 is a sound collection device installed at the work site and can be connected to the work machine 100A via wireless communication or wired communication.
  • the installed microphone 1501 transmits a sound signal indicating the collected sound to the work machine 100.
  • the installed speaker 1502 is a sound output device installed at the work site and can be connected to the work machine 100 via wireless or wired communication.
  • the installed speaker 1502 outputs a sound indicated by a sound signal received from the work machine 100A.
  • the autonomous mobile robot 1504 is equipped with a sound collection device 1503A and a sound output device 1503B, and can be connected to the work machine 100 via wireless communication or wired communication.
  • the autonomous mobile robot 1504 transmits a sound signal indicating the sound collected by the sound collection device 1503A to the work machine 100A.
  • the autonomous mobile robot 1504 also outputs the sound indicated by the sound signal received from the work machine 100 from the sound output device 1503B.
  • the autonomous mobile robot 1504 is capable of moving within the work site area. This embodiment does not limit the manner in which the autonomous mobile robot 1504 moves. For example, if the autonomous mobile robot 1504 is equipped with a camera (an example of a detection device) (not shown), the autonomous mobile robot 1504 may identify the location of the work machine 100A based on image information captured by the camera, and may move to follow the work machine 100A when the work machine 100A moves. The autonomous mobile robot 1504 may also follow the work machine 100A so that the signal strength in communication with the work machine 100A is above a predetermined threshold. Furthermore, the autonomous mobile robot 1504 may identify the location of a worker based on image information captured by the camera, and move to a position where the worker's voice can be collected.
  • a camera an example of a detection device
  • the drone 1503 is equipped with a sound collection device 1503A and a sound output device 1503B, and can be connected to the work machine 100A via wireless communication or wired communication.
  • the drone 1503 transmits a sound signal indicating the sound collected by the sound collection device 1503A to the work machine 100A.
  • the drone 1503 also outputs the sound indicated by the sound signal received from the work machine 100A from the sound output device 1503B.
  • the drone 1503 is provided so that it can fly within the work site area. This embodiment does not limit the movement mode of the drone 1503; it may move by following the work machine 100A, similar to the autonomous mobile robot 1504, or it may move to a position where it can collect the voice of the worker. Because the drone 1503 is flying, it can move regardless of the terrain or obstacles at the work site.
  • the number of each of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 installed at the work site may be one or more.
  • the work machine 100A is equipped with a controller 30.
  • the controller 30 is able to send and receive information to and from each of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504.
  • the controller 30 controls the transmission of a sound signal indicating the sound collected by the internal sound collection device M2 via the communication device T1 to a sound output device located at a distance from the work machine 100A, and controls the output of the sound indicated in the sound signal received via the communication device from the sound collection device located at a distance from the work machine 100A from the internal sound output device SP2.
  • the controller 30 transmits a sound signal indicating the sound collected by the internal sound collection device M2 to at least one of the installed speaker 1502, the drone 1503, and the autonomous mobile robot 1504.
  • the controller 30 receives a sound signal from at least one of the installed microphone 1501, the drone 1503, and the autonomous mobile robot 1504, and outputs the sound indicated by the received sound signal from the internal sound output device SP2.
  • the sound collection device and sound output device installed at the work site are not limited to the above-mentioned configurations.
  • a monitoring device that monitors the work site to be equipped with a sound collection device and sound output device in addition to a spatial recognition device (e.g., an imaging device).
  • a spatial recognition device e.g., an imaging device
  • the work machine 100A establishes communication with at least one of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 present at the work site only when certain conditions are met, thereby enabling two-way conversation.
  • communication is established with each of the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 that is determined to be within a certain distance from the work machine 100A, enabling two-way conversation.
  • Any method, including well-known methods, may be used to determine whether the work machine 100A is within a predetermined range. For example, if a device is captured in image information captured by the imaging device S6, the distance to the device may be determined from the size and position of the captured image. In this case, a sticker or similar with a two-dimensional code may be attached to the device.
  • the controller 30 can recognize information about the device captured in the image information (for example, the device's unique information, the address of the connection destination, etc.) from the two-dimensional code captured in the image information.
  • Another example is a method in which the controller 30 of the work machine 100A stores the position information of the installed microphone 1501 and the installed speaker 1502 in advance. The controller 30 then determines whether the installed microphone 1501 and the installed speaker 1502 are present within a predetermined range based on the positions measured by the positioning device PS. A further method is for the installed microphone 1501, the installed speaker 1502, the drone 1503, and the autonomous mobile robot 1504 to each periodically transmit position information to the work machine 100A.
  • this embodiment does not limit the condition for realizing at least one of sound output and sound collection to being within a specified distance.
  • the closest of the multiple work machines 100A may establish communication with a device for realizing the sound output function (e.g., the installed microphone 1501, the installed speaker 1502, the drone 1503, or the autonomous mobile robot 1504) to realize at least one of sound output and sound collection.
  • a priority may be set for each of the multiple work machines 100A.
  • the device for realizing the sound output function e.g., the installed microphone 1501, the installed speaker 1502, the drone 1503, or the autonomous mobile robot 1504 may establish communication with the work machine 100A with the highest priority among the multiple work machines 100A to realize at least one of sound output and sound collection.
  • the targets of transmission and reception of sound signals to and from the work machine 100A are not limited to the installed microphone 1501, installed speaker 1502, drone 1503, and autonomous mobile robot 1504 shown in FIG. 14.
  • the work machine 100A may transmit and receive sound signals to and from a communication terminal owned by a person.
  • the controller 30 controls output from a sound output device provided outside the cab, and sends a sound signal to equipment having a sound output device located away from the work machine 100A.
  • the controller 30 controls output from a sound output device provided outside the cab, and sends a sound signal to equipment having a sound output device located away from the work machine 100A.
  • the work machine 100A is not provided with an external sound output device SP1 and an external sound collection device M1, two-way conversation can be realized between the operator on board the work machine 100A and a person located outside the work machine 100A.
  • a sound collection device and sound output device are used that are located away from the work machine 100A.
  • the effects of noise and the like are suppressed when transmitting sound to people outside and collecting the sound of people outside, making it easier to have two-way conversations.
  • the internal sound collection device, external sound collection device, internal sound output device, and external sound output device shown in the above-described embodiments can be implemented in a variety of ways.
  • internal sound collection devices provided in positions capable of acquiring sounds uttered by the operator include internal sound collection devices M2, M2C, and M2E.
  • internal sound collection devices provided near the operator's mouth capable of acquiring sounds uttered by the operator include internal sound collection devices M2, M2C, and M2E.
  • internal sound collection devices provided in the direction the operator faces when the operator wishes to communicate include internal sound collection devices M2, M2C, and M2E.
  • external sound collection devices installed in positions capable of collecting sounds generated at a work site where a work machine is working include external sound collection devices M1 (M1F, M1R, M1L, M1B), an installed microphone 1501, a sound collection device 1503A, and an external sound collection device 1504A.
  • external sound collection devices installed in positions capable of collecting sounds emitted by people present at a work site where a work machine is working include external sound collection devices M1 (M1F, M1R, M1L, M1B), an installed microphone 1501, a sound collection device 1503A, and an external sound collection device 1504A.
  • External sound collection devices installed in positions capable of collecting sounds emitted by workers who wish to work in cooperation with the work machine 100 include external sound collection devices M1 (M1F, M1R, M1L, M1B), an installed microphone 1501, a sound collection device 1503A, and an external sound collection device 1504A.
  • internal sound output devices provided in positions where the operator can hear the output sound include internal sound output devices SP2 (SP2R, SP2L), SP2C, and SP2E.
  • internal sound output devices provided near each ear of the operator so that the operator can hear the output sound include internal sound output devices SP2 (SP2R, SP2L), SP2C, and SP2E.
  • external sound output devices provided in positions where people present at a work site where a work machine is performing work can hear the sound emitted by the work machine operator include external sound output device SP1, installed speaker 1502, sound output device 1503B, and external sound output device 1504B.
  • External sound output devices provided in positions where workers who wish to perform work in cooperation with a work machine can hear the sound emitted by the work machine operator include external sound output device SP1, installed speaker 1502, sound output device 1503B, and external sound output device 1504B.
  • a work machine 100 comprises a lower traveling body 1, an upper rotating body 3 rotatably mounted on the lower traveling body 1, a cab 10 mounted on the upper rotating body 3 and capable of housing an operator, an external sound collection device M1 mounted outside the cab 10, an internal sound output device SP2 mounted inside the cab 10, and a control device (controller 30) that processes sound information acquired by the external sound collection device M1.
  • the control device sets the importance of the sound information acquired by the external sound collection device M1, selects sound information with a high importance level, and outputs it to the internal sound output device SP2.
  • the work machine 100 can improve the operator OP's ability to recognize when the operator OP is conversing with an external worker WK.
  • the control device sets the importance of sound information from the external sound collection device M1 and outputs sound information with a high level of importance from the internal sound output device SP2, allowing the operator OP to selectively listen to sounds with a high level of importance.
  • the operator OP can recognize content with a high level of importance and take appropriate action, such as reflecting this in the operation of the work machine 100.
  • the control device may also be configured to set an importance level for two or more pieces of sound information acquired by the external sound collection device M1, and output the one piece of sound information with the highest importance level to the internal sound output device SP2.
  • the control device also recognizes the status of the work machine 100 when the sound information is acquired, and sets the importance of the sound information based on the recognized status.
  • the control device also recognizes at least one of the following as the status of the work machine 100: the position information of the sound source (worker WK) of the sound information, the operating mode of the work machine 100, the worker WK selected by the operator, and the content of the sound information, and sets the importance of the sound information according to the recognized status.
  • an imaging device S6 is provided to capture images of the area outside the cab 10, and the control device (controller 30) calculates the position information of the sound source (worker WK) of the sound information based on the sound information acquired by the external sound collection device M1 or the image information captured by the imaging device S6.
  • control device assigns a higher level of importance to sound sources (workers WK) located closer to the blind spots of the work machine 100.
  • control device assigns a higher level of importance to sound sources located closer to the work machine.
  • the control device also extracts the worker WK included in the image information and increases the importance of the sound information of the worker WK who is speaking while facing the work machine 100.
  • control device recognizes that the operating mode of the work machine 100 is a traveling mode in which the work machine 100 is traveling, it increases the importance of sound information from a sound source (worker WK) located ahead of the work machine 100 in the direction of travel.
  • control device recognizes that the operating mode of the work machine 100 is a swing mode in which the work machine 100 swings, it increases the importance of sound information from a sound source (worker WK) located ahead of the work machine 100 in the swing direction.
  • control device recognizes that the operation mode of the work machine 100 is a working unit operation mode (attachment operation mode) in which the working unit of the work machine 100 operates, it increases the importance of sound information from a sound source (worker WK) located in the blind spot of the work machine 100.
  • a sound source worker WK
  • the operator's cab 10 also includes an input device D2 that can be operated by the operator, and the control device (controller 30) increases the importance of sound information emitted by a worker WK selected by the operator OP through operation of the input device D2.
  • the system also includes an imaging device S6 that captures images of the outside of the cab 10, and a display device D1 that displays the image information captured by the imaging device S6 in the cab 10.
  • the control device (controller 30) allows the operator OP to select the worker WK whose image information is displayed on the display device D1.
  • the control device also extracts keywords contained in the sound information as part of its content, and increases the importance of sound information that contains keywords close to pre-stored reference keywords.
  • the control device also calculates the level of tension in the sound information as part of its content, and increases the importance of sound information with a high level of tension.
  • the system also includes an imaging device S6 that captures images of the outside of the cab 10, and the control device (controller 30) extracts gestures of the worker WK contained in the image information captured by the imaging device S6, and increases the importance of sound information of the worker WK whose gestures are close to pre-stored reference gestures.
  • the work machine 100 can raise the volume of the sound information of the worker WK who wants to converse with the operator OP, allowing the conversation to take place smoothly.
  • the driver's cab 10 also has a talk button KS, and when the talk button KS is pressed, the internal sound collection device M2 collects sound, and the external sound output device SP1 outputs the sound collected by the internal sound collection device M2.
  • the operation system SYS for a work machine 100 comprises a work machine 100 having a lower traveling body 1 and an upper rotating body 3 rotatably mounted on the lower traveling body 1, an operation room (remote operation room RC) for operating the work machine 100, an internal sound output device (internal sound output device SP2E) located inside the operation room, a sound collection device (external sound collection device M1) located outside the operation room, and a control device (controller 30) that processes sound information acquired by the sound collection device.
  • the control device sets the importance of sound information acquired by the sound collection device, selects sound information with a high importance, and outputs it to the internal sound output device.
  • the operation system SYS of the work machine 100 can improve the recognition ability of the operator OP when the operator OP of the work machine 100 is conversing with an external worker WK.
  • Boom angle sensor S2 Arm angle sensor S3: Bucket angle sensor S4: Machine tilt sensor S5: Rotation sensor S6: Image capture device S6B: Rear camera S6F: Front camera S6L: Left camera S6R: Right camera SP1: External sound output device SP1B: Rear speaker SP1F: Front speaker SP1L: Left speaker SP1R: Right speaker SP2, SP2C, SP2E: Internal sound output device SP2L: Left interior speaker SP2R: Right interior speaker SW: Switch SYS: Operation system T1, T2: Communication device WK: Operator

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Civil Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Mining & Mineral Resources (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Component Parts Of Construction Machinery (AREA)

Abstract

作業機械100は、下部走行体1と、下部走行体1に旋回可能に設けられる上部旋回体3と、上部旋回体3に設けられ、操作者OPが搭乗可能な運転室10と、運転室10の外部に設けられる外部集音装置M1と、運転室10の内部に設けられる内部音出力装置SP2と、外部集音装置M1により取得した音情報を処理するコントローラ30と、を備える。コントローラ30は、外部集音装置M1により取得した音情報の重要度を設定し、重要度が高い音情報を選択して内部音出力装置SP2に出力する。

Description

作業機械、及び作業機械の操作システム
 本開示は、作業機械、及び作業機械の操作システムに関する。
 従来、作業機械において周囲環境の音を収音するマイクを備え、運転室に搭乗した操作者に作業者の声を届けることが可能な技術が知られている。例えば、特許文献1には、上部旋回体に設けられるキャビン(運転室)の外部に配置され、運転室の周囲の音を集音するマイク(集音装置)を備えたショベルが開示されている。
特開2019-167680号公報
 本開示は、作業機械の操作者と外部の作業者とが会話する場合に、操作者の認識性を向上させることができる技術を提供する。
 本開示の一態様に係る作業機械は、下部走行体と、前記下部走行体に旋回可能に設けられる上部旋回体と、前記上部旋回体に設けられ、操作者が搭乗可能な運転室と、前記運転室の外部に設けられる外部集音装置と、前記運転室の内部に設けられる内部音出力装置と、前記外部集音装置により取得した音情報を処理する制御装置と、を備える作業機械であって、前記制御装置は、前記外部集音装置により取得した前記音情報の重要度を設定し、前記重要度が高い前記音情報を選択して前記内部音出力装置に出力する。
 一態様によれば、作業機械の操作者と外部の作業者とが会話する場合に、操作者の認識性を向上させることができる。
本開示の実施形態に係る作業機械の側面図である。 図1に示す作業機械の上面図である。 図1に示す作業機械に取り付けられる外部集音装置及び情報伝達装置の構成例を示す図である。 図1に示す作業機械の構成の一例を概略的に示す図である。 図1に示す作業機械の運転室内の上面図である。 操作者が搭乗している作業機械とその周囲にいる作業者の斜視図である。 作業機械の操作者と1人の作業者との会話を例示する上面図である。 作業機械の操作者と複数の作業者との会話を例示する上面図である。 作業機械の様々な状況と、この状況に応じて重要度が高められる音源の音情報との関係を例示する図表である。 表示装置が表示する表示画面を例示する図である。 作業機械の操作者と、作業機械の周辺の作業者とが会話するコントローラの処理フローを示すフローチャートである。 外部集音装置にアレイマイクを適用した場合の作業者との会話を示す上面図である。 本開示の実施形態に係る作業機械の別の構成例を示す作業機械の上面図である。 本開示の実施形態に係る操作システムの構成例を示す概要図である。 他の実施形態に係る作業機械の操作システムの構成例を示す概略図である。
 以下、本開示の実施形態について図面を参照して説明する。以下で説明する実施形態は、例示であり、発明を限定するものではない。本開示の実施形態における全ての特徴及びその組み合わせは、必ずしも発明の本質的なものであるとは限らない。なお、各図面において同一の又は対応する構成には同一の又は対応する符号を付し、重複する説明を省略する場合がある。
 本開示の実施形態に係る作業機械100は、ショベルである。作業機械100は、クレーン、アスファルトフィニッシャ、又はフォークリフト等のショベル以外の機械であってもよい。また、図示例では、作業機械100としてのショベルは、エンドアタッチメントとしてバケット6を備えた掘削機であるが、バケット6以外のエンドアタッチメントを備えた林業機械等の応用機であってもよい。
 まず、図1及び図2を参照し、作業機械100の概要について説明をする。図1は作業機械100の側面図であり、図2は、作業機械100の上面図である。
 図1における+Xは三次元直交座標系を構成するX軸の一方向を表し、-XはX軸の他方向を表す。図2における+Yは三次元直交座標系を構成するY軸の一方向を表し、-YはY軸の他方向を表す。図1における+Zは三次元直交座標系を構成するZ軸の一方向を表し、-ZはZ軸の他方向を表す。図1では、作業機械100の+X側は、作業機械100の前側に相当し、作業機械100の-X側は、作業機械100の後側に相当する。また、作業機械100の+Y側は、作業機械100の左側に相当し、作業機械100の-Y側は、作業機械100の右側に相当する。また、作業機械100の+Z側は、作業機械100の上側に相当し、作業機械100の-Z側は、作業機械100の下側に相当する。他の図においても同様である。
 作業機械100は、下部走行体1と、旋回機構2を介して旋回自在に下部走行体1に搭載される上部旋回体3と、各種作業を行うためのアタッチメントATと、運転室10とを備える。運転室10は、キャビン又はキャブとも呼ばれる。作業機械100(上部旋回体3)の前側は、作業機械100を上部旋回体3の旋回軸に沿って真上から見たときに、上部旋回体3に対してアタッチメントATが取り付けられる側に対応する。また、作業機械100(上部旋回体3)の左側、右側、後側は、それぞれ、運転室10内の運転席に着座する操作者から見た左側、右側、後側に対応する。
 下部走行体1は、例えば、左右一対のクローラ1Cを含む。具体的には、クローラ1Cは、左クローラ1CL及び右クローラ1CRを含む。左クローラ1CLは左走行油圧モータ2MLによって駆動され、右クローラ1CRは右走行油圧モータ2MRによって駆動される。左走行油圧モータ2MLは、被駆動部としての左クローラ1CLを駆動する走行駆動部であり、左クローラ1CLを回転させることができる。右走行油圧モータ2MRは、被駆動部としての右クローラ1CRを駆動する走行駆動部であり、右クローラ1CRを回転させることができる。なお、走行駆動部は電動モータであってもよい。
 上部旋回体3は、旋回機構2が旋回油圧モータ2Aで駆動されることにより、下部走行体1に対して旋回する。旋回油圧モータ2Aは、被駆動部としての上部旋回体3を駆動する旋回駆動部であり、上部旋回体3の向きを変化させることができる。なお、旋回駆動部は電動モータであってもよい。
 上部旋回体3の前部中央には、ブーム4が回動可能に取り付けられ、ブーム4の先端には、アーム5が回動可能に取り付けられ、アーム5の先端には、バケット6が回動可能に取り付けられている。図示例では、ブーム4、アーム5、及びバケット6は、アタッチメントATの一例である掘削アタッチメントを構成している。ブーム4、アーム5、バケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、バケットシリンダ9により駆動される。
 バケット6は、作業具(エンドアタッチメント)の一例である。バケット6は、例えば、掘削作業等に用いられる。アーム5の先端には、作業内容等に応じて、バケット6の代わりに、他の作業具が取り付けられてもよい。他の作業具は、例えば、大型バケット、法面用バケット、浚渫用バケット等の他の種類のバケットであってよい。また、他の作業具は、攪拌機、ブレーカ、グラップル、又はリフティングマグネット等のバケット以外の種類の作業具であってもよい。
 旋回油圧モータ2A、左走行油圧モータ2ML、右走行油圧モータ2MR、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9は、油圧ポンプから吐出される作動油によって駆動される油圧アクチュエータである。
 なお、作業機械100は、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動部の全部又は一部が電気駆動されてもよい。すなわち、作業機械100は、被駆動部の全部又は一部が電動アクチュエータで駆動される、ハイブリッド作業機械又は電動作業機械等であってもよい。
 また、作業機械100には、情報伝達装置G1、外部集音装置M1、撮像装置S6、及び外部音出力装置SP1が取り付けられている。図示例では、情報伝達装置G1、外部集音装置M1、撮像装置S6、及び外部音出力装置SP1は、処理回路を含む装置である。
 撮像装置S6は、上部旋回体3又は運転室10に設けられ、作業機械100の周辺を撮像し、作業機械100の周辺を表した画像情報を取得する。図示例では、撮像装置S6は、前カメラS6F、左カメラS6L、右カメラS6R、及び、後カメラS6Bを含む。
 前カメラS6Fは、作業機械100の前方を撮像するカメラであり、運転室10の屋根、ブーム4の側面等、運転室10の外部に取り付けられる。なお、前カメラS6Fは、例えば、運転室10の天井等、運転室10の内部に取り付けられてもよい。左カメラS6Lは、作業機械100の左方を撮像するカメラであり、右カメラS6Rは、作業機械100の右方を撮像するカメラであり、後カメラS6Bは、作業機械100の後方を撮像するカメラである。具体的には、前カメラS6F、左カメラS6L、右カメラS6R、及び後カメラS6Bは何れも、CCD又はCMOS等の撮像素子を備えた単眼の広角カメラであり、撮像した画像を表示装置D1に出力する。また、撮像装置S6により撮像された画像の情報は、コントローラ30に取り込まれる。
 図示例では、前カメラS6Fは運転室10の屋根に取り付けられ、左カメラS6Lは上部旋回体3の上面左端に取り付けられ、右カメラS6Rは上部旋回体3の上面右端に取り付けられ、後カメラS6Bは上部旋回体3の上面後端に取り付けられている。
 撮像装置S6は、作業機械100の周囲にある物体を検出する物体検出装置を構成してもよい。物体は、例えば、人、動物、車両、建設機械、建造物、又は穴等である。物体検出装置は、人と人以外の物体とを区別して検出できるように構成されていてもよい。すなわち、物体検出装置は、人検出装置として機能するように構成されていてもよい。物体検出装置は、カメラ以外の装置で構成されていてもよい。例えば、物体検出装置はLiDARであってもよい。LiDARは、例えば、監視範囲内にある100万点以上の点群とLiDAR(レーザ源)との間の距離を計測可能な装置である。また、物体検出装置は、ステレオカメラ、距離画像カメラ、又はミリ波レーダ等、物体との間の距離を計測可能な他の装置であってもよい。物体検出装置としてミリ波レーダ等が利用される場合には、物体検出装置は、多数の信号(レーザ光等)を物体に向けて発信し、その反射信号を受信することにより、物体の距離及び方向を導き出してもよい。或いは、物体検出装置は、2種類以上の装置の組み合わせであってもよい。例えば、物体検出装置は、撮像装置とLiDARとの組み合わせであってもよいし、撮像装置とミリ波レーダとの組み合わせであってもよいし、撮像装置とステレオカメラとの組み合わせであってもよい。
 外部集音装置M1は、外部の音を集める装置であり、マイクロフォン又はマイクとも呼ばれる。図示例では、外部集音装置M1は、作業機械100の周囲で発生している暗騒音の大きさを決めるための情報を取得する情報取得装置IADとして機能する。暗騒音は、例えば、ある特定の発生源からの音に着目した場合、それ以外で同時に発生している全ての音を意味する。図示例では、暗騒音は、外部音出力装置SP1が出力する音以外の音であり、作業機械100の動作音、交通騒音、生活騒音、又は都市騒音等を含む。具体的には、外部集音装置M1は、上部旋回体3又は運転室10に設けられ、作業機械100の周辺で発生した音(空気振動)を機械的振動に変換し、その機械的振動を電気信号に変換する。なお、外部集音装置M1は、作業現場におけるポール(鉄塔)、塀、壁、若しくは建屋等の構造物、マルチコプター若しくはバルーン等の飛行体、又は、作業現場内で動き回る自律移動ロボット等に設けられていてもよく、作業機械100の周囲にいる作業者等が携帯しているスマートフォン等の携帯情報端末に搭載されている集音装置(マイク)であってもよい。図示例では、外部集音装置M1は、作業機械100の周囲にいる作業者が発する声を拾うことができるように構成され、前マイクM1F、左マイクM1L、右マイクM1R、及び、後マイクM1Bを含む。
 前マイクM1Fは、作業機械100の前方で生じた音を集めるマイクであり、運転室10の屋根、ブーム4の側面等、運転室10の外部に取り付けられる。なお、前マイクM1Fは、例えば、運転室10の天井等、運転室10の内部に取り付けられてもよい。左マイクM1Lは、作業機械100の左方で生じた音を集めるマイクであり、右マイクM1Rは、作業機械100の右方で生じた音を集めるマイクであり、後マイクM1Bは、作業機械100の後方で生じた音を集めるマイクである。そして、前マイクM1F、左マイクM1L、右マイクM1R、及び後マイクM1Bのそれぞれが生成する電気信号は、コントローラ30に取り込まれる。
 図示例では、前マイクM1Fは運転室10の屋根に取り付けられ、左マイクM1Lは上部旋回体3の上面左端に取り付けられ、右マイクM1Rは上部旋回体3の上面右端に取り付けられ、後マイクM1Bは上部旋回体3の上面後端に取り付けられている。このように、4個の外部集音装置M1(前マイクM1F、左マイクM1L、右マイクM1R、及び後マイクM1B)は、上部旋回体3の異なる位置に設けられている。そのため、コントローラ30は、4個の外部集音装置M1のそれぞれが集音した音の違い(例えば、音量の違い)に基づいて音の発生源がある方向を検出できる。また、外部集音装置M1としてアレイマイクを用いた場合は、例えば、位相のずれ、または音量の違いに基づいて、音の発生源がある方向を検出できる。
 図示例では、4個の外部集音装置M1のそれぞれと4個の撮像装置S6のそれぞれとは互いに対応するように配置されている。具体的には、前マイクM1Fは、前カメラS6Fに隣接するように配置され、左マイクM1Lは、左カメラS6Lに隣接するように配置され、右マイクM1Rは、右カメラS6Rに隣接するように配置され、後マイクM1Bは、後カメラS6Bに隣接するように配置されている。
 外部音出力装置SP1は、作業機械100の周囲に向けて音を出力する装置である。図示例では、外部音出力装置SP1は、運転室10に取り付けられた無指向性スピーカであり、全ての方向に音を均一に出力できるように構成されている。但し、外部音出力装置SP1は、前方等の特定の方向に向けて音を出力する指向性スピーカであってもよい。また、外部音出力装置SP1は、作業現場におけるポール(鉄塔)、塀、壁、若しくは建屋等の構造物、マルチコプター若しくはバルーン等の飛行体、又は、作業現場内で動き回る自律移動ロボット等に設けられていてもよく、作業機械100の周囲にいる作業者等が携帯しているスマートフォン等の携帯情報端末に搭載されている音出力装置(スピーカ)であってもよい。
 情報伝達装置G1は、作業機械100の外部に作業機械100の状態を知らせるための装置である。図示例では、情報伝達装置G1は、上部旋回体3又は運転室10に設けられ、作業機械100がどのような状態にあるかを作業機械100の周囲にいる作業者に伝えることができるように構成されている。具体的には、情報伝達装置G1は、発光装置であり、前ライトバーG1F、左ライトバーG1L、右ライトバーG1R、及び、後ライトバーG1Bを含む。
 前ライトバーG1Fは、作業機械100の前方にいる作業者等に視覚的に情報を伝えることができる発光装置であり、運転室10の屋根、ブーム4の側面等、運転室10の外部に取り付けられる。なお、前ライトバーG1Fは、例えば、運転室10の天井等、運転室10の内部に取り付けられてもよい。左ライトバーG1Lは、作業機械100の左方にいる作業者等に視覚的に情報を伝えることができる発光装置であり、右ライトバーG1Rは、作業機械100の右方にいる作業者等に視覚的に情報を伝えることができる発光装置であり、後ライトバーG1Bは、作業機械100の後方にいる作業者等に視覚的に情報を伝えることができる発光装置である。そして、前ライトバーG1F、左ライトバーG1L、右ライトバーG1R、及び後ライトバーG1Bのそれぞれは、コントローラ30からの電気信号に応じて発光する。図示例では、発光装置は、LEDライトであるが、ハロゲンランプ等の他の発光装置であってもよい。また、発光装置は、多色発光型であるが、単色発光型であってもよい。
 図示例では、前ライトバーG1Fは運転室10の屋根に取り付けられ、左ライトバーG1Lは上部旋回体3の上面左端に取り付けられ、右ライトバーG1Rは上部旋回体3の上面右端に取り付けられ、後ライトバーG1Bは上部旋回体3の上面後端に取り付けられている。このように、4個の情報伝達装置G1(前ライトバーG1F、左ライトバーG1L、右ライトバーG1R、及び後ライトバーG1B)は、上部旋回体3の異なる位置に設けられている。そのため、コントローラ30は、4個の情報伝達装置G1のそれぞれを別々に動作させることにより、作業機械100の前方、左方、右方、及び後方のそれぞれにいる作業者等に作業機械100がどのような状態にあるかを伝えることができる。
 図示例では、4個の情報伝達装置G1のそれぞれと4個の外部集音装置M1のそれぞれとは互いに対応するように配置されている。具体的には、前ライトバーG1Fは、前マイクM1Fに隣接するように配置され、左ライトバーG1Lは、左マイクM1Lに隣接するように配置され、右ライトバーG1Rは、右マイクM1Rに隣接するように配置され、後ライトバーG1Bは、後マイクM1Bに隣接するように配置されている。
 図3は、作業機械100に取り付けられる外部集音装置M1及び情報伝達装置G1の構成例を示す図である。具体的には、図3は、略直方体形状の筐体に取り付けられた左マイクM1L及び左ライトバーG1Lの斜視図である。なお、図3を参照する以下の説明は、左マイクM1L及び左ライトバーG1Lの組み合わせに関するが、前マイクM1F及び前ライトバーG1Fの組み合わせ、右マイクM1R及び右ライトバーG1Rの組み合わせ、及び、後マイクM1B及び後ライトバーG1Bの組み合わせにも同様に適用される。
 図3に示すように、左マイクM1L及び左ライトバーG1Lは、作業機械100の左方を向くように略直方体形状の筐体の左側面に配置されている。この配置により、左マイクM1Lは、作業機械100の左方で生じた音を効率的に集めることができ、左ライトバーG1Lは、作業機械100の左方にいる作業者に作業機械100の状態を効率的に伝えることができる。例えば、左マイクM1Lは、作業機械100の左方にいる作業者が発した声を捉えることができ、左ライトバーG1Lは、所定の色で発光することにより、左マイクM1Lが作業者の声を捉えたことを作業者に伝えることができる。この場合、左マイクM1Lに向かって話しかけた作業機械100の左方にいる作業者は、所定の色に発光した左ライトバーG1Lを見ることにより、自身の声が左マイクM1L(すなわち、作業機械100の操作者)に届いたことを確認できる。
 情報伝達装置G1は、運転室10の四つの側面のそれぞれの上部に設けられていてもよい(図6参照)。例えば、情報伝達装置G1は、前ライトバーG1Fが運転室10の前面の上部に取り付けられ、左ライトバーG1Lが運転室10の左面の上部に取り付けられ、右ライトバーG1Rが運転室10の右面の上部に取り付けられ、後ライトバーG1Bが運転室10の後面の上部に取り付けられるように構成されていてもよい。また、情報伝達装置G1は、運転室10の上面に取り付けられたニコトーチのような一つの回転灯であってもよく、液晶ディスプレイ又は有機ELディスプレイ等の表示装置であってもよい。
 コントローラ30は、処理回路を含む制御装置の一例であり、例えば、CPU、揮発性記憶装置、不揮発性記憶装置、及び、各種入出力インターフェース等を含むコンピュータで構成される。そして、コントローラ30は、例えば、プログラムを不揮発性記憶装置から読み出して揮発性記憶装置にロードし、CPUに実行させることで各種機能を実現する。図示例では、コントローラ30は、各種機能を実現して作業機械100を制御できるように構成されている。各種機能は、例えば、操作者による作業機械100の手動操作をガイド(案内)するマシンガイダンス機能を含む。各種機能は、作業機械100の周辺の監視範囲内に存在する物体と作業機械100との接触を回避するために作業機械100を自動的或いは自律的に動作させたり或いは停止させたりする接触回避機能を含んでいてもよい。
 ブーム角度センサS1は、ブーム4の上部旋回体3に対する回動角度であるブーム角度を検出する。アーム角度センサS2は、アーム5のブーム4に対する回動角度であるアーム角度を検出する。バケット角度センサS3は、バケット6のアーム5に対する回動角度であるバケット角度を検出する。
 ブーム角度センサS1、アーム角度センサS2、及びバケット角度センサS3のそれぞれは、例えば、ロータリエンコーダ、加速度センサ、6軸センサ、IMU(Inertial Measurement Unit:慣性計測装置)等であってもよく、可変抵抗器を利用したポテンショメータ、油圧シリンダのストローク量を検出するシリンダストロークセンサ等であってもよい。
 ブーム角度センサS1によるブーム角度に対応する検出信号、アーム角度センサS2によるアーム角度に対応する検出信号、及び、バケット角度センサS3によるバケット角度に対応する検出信号は、コントローラ30に取り込まれる。
 機体傾斜センサS4は、水平面に対する機体(下部走行体1又は上部旋回体3)の傾斜状態を検出する。機体傾斜センサS4は、例えば、上部旋回体3に取り付けられ、作業機械100(すなわち、上部旋回体3)の前後方向及び左右方向の2軸回りの傾斜角度を検出する。機体傾斜センサS4は、例えば、加速度センサ、6軸センサ、又はIMU等であってもよい。機体傾斜センサS4による傾斜角度に対応する検出信号は、コントローラ30に取り込まれる。
 旋回センサS5は、上部旋回体3の旋回に関する情報を出力する。旋回センサS5は、例えば、下部走行体1に対する上部旋回体3の旋回角速度を検出する。旋回センサS5は、旋回角度を検出してもよい。旋回センサS5は、例えば、ジャイロセンサ、レゾルバ、又はロータリエンコーダ等であってもよい。旋回センサS5による上部旋回体3の旋回角度又は旋回角速度に対応する検出信号は、コントローラ30に取り込まれる。
 測位装置PSは、処理回路を含む装置であり、上部旋回体3の位置を測定する。測位装置PSは、例えば、GNSS(Global Navigation Satellite System)コンパスであり、上部旋回体3の位置及び向きを検出する。上部旋回体3の位置及び向きに対応する検出信号は、コントローラ30に取り込まれる。上部旋回体3の向きを検出する機能は、上部旋回体3に取り付けられた方位センサにより実現されてもよい。
 運転室10は、操作者が搭乗する区画空間であり、上部旋回体3の前部左側に設けられている。但し、作業機械100が遠隔操作される場合、又は、作業機械100が完全自動運転によって動作する場合、運転室10は省略されてもよい。
 通信装置T1は、処理回路を含む装置であり、移動体通信網、衛星通信網、又はインターネット網等を含む通信ネットワークを通じて外部機器と通信を行う。通信装置T1は、例えば、LTE(Long Term Evolution)、4G(4th Generation)、若しくは5G(5th Generation)等の移動体通信規格に対応する移動体通信モジュール、Wi-Fi(登録商標)若しくはBluetooth(登録商標)等の近距離無線通信規格に対応する通信モジュール、又は、衛星通信網に接続するための衛星通信モジュール等である。
 作業機械100は、運転室10に搭乗する操作者の操作に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動部を駆動する。
 或いは、作業機械100は、作業機械100の外部から遠隔操作できるように構成されていてもよい。作業機械100が遠隔操作される場合、運転室10の内部は、無人状態であってもよい。
 また、作業機械100は、操作者の操作の内容に依らず、自動でアクチュエータを動作させてもよい。これにより、作業機械100は、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動部の少なくとも一部を自動で動作させる機能、すなわち、いわゆる「マシンコントロール機能」を実現する。
 図4は、作業機械100の構成の一例を概略的に示す図である。図4において、機械的動力伝達系、作動油ライン、パイロットライン、電気制御系は、それぞれ、二重線、太実線、太破線、点線で示されている。
 作業機械100の駆動系は、エンジン11、レギュレータ13、メインポンプ14、及びコントロールバルブユニット17を含む。また、作業機械100の油圧駆動系は、旋回油圧モータ2A、左走行油圧モータ2ML、右走行油圧モータ2MR、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等の油圧アクチュエータを含む。
 エンジン11は、作業機械100の動力源の一例であり、例えば、上部旋回体3の後部に搭載される。なお、作業機械100の動力源は、バッテリ又は燃料電池等の電源と電動モータとの組み合わせであってもよい。具体的には、エンジン11は、コントローラ30による直接或いは間接的な制御下で、予め設定される目標回転数で一定回転し、メインポンプ14及びパイロットポンプ15を駆動する。エンジン11は、例えば、軽油を燃料とするディーゼルエンジンである。なお、エンジン11は、ガソリンエンジン又は水素エンジン等であってもよい。
 レギュレータ13は、メインポンプ14の吐出量を制御する。例えば、レギュレータ13は、コントローラ30からの制御指令に応じて、メインポンプ14の斜板の角度(傾転角)を調節することによってメインポンプ14の吐出量を制御する。
 メインポンプ14は、例えば、エンジン11と同様、上部旋回体3の後部に搭載され、作動油ラインを通じてコントロールバルブユニット17に作動油を供給する。図示例では、メインポンプ14は、可変容量式油圧ポンプである。
 コントロールバルブユニット17は、作業機械100における油圧システムを制御する油圧制御装置の一つである。図示例では、コントロールバルブユニット17は、制御弁171~176を含む。コントロールバルブユニット17は、制御弁171~176を通じ、メインポンプ14が吐出する作動油を1又は複数の油圧アクチュエータに選択的に供給できるように構成されている。制御弁171~176は、メインポンプ14から油圧アクチュエータに流れる作動油の流量、及び、油圧アクチュエータから作動油タンクに流れる作動油の流量を制御する。油圧アクチュエータは、ブームシリンダ7、アームシリンダ8、バケットシリンダ9、左走行油圧モータ2ML、右走行油圧モータ2MR、及び旋回油圧モータ2Aを含む。具体的には、制御弁171は、旋回油圧モータ2Aに対応し、制御弁172は、右走行油圧モータ2MRに対応し、制御弁173は、左走行油圧モータ2MLに対応する。また、制御弁174は、バケットシリンダ9に対応し、制御弁175は、ブームシリンダ7に対応し、制御弁176は、アームシリンダ8に対応する。
 パイロットポンプ15は、パイロット圧生成装置の一例であり、パイロットラインを介して油圧制御装置に作動油を供給できるように構成されている。図示例では、パイロットポンプ15は、固定容量型油圧ポンプである。但し、パイロット圧生成装置は、メインポンプ14によって実現されてもよい。すなわち、メインポンプ14は、作動油ラインを介して作動油をコントロールバルブユニット17に供給する機能に加え、パイロットラインを介して各種油圧制御装置に作動油を供給する機能を備えていてもよい。この場合、パイロットポンプ15は、省略されてもよい。
 吐出圧センサ28は、メインポンプ14の吐出圧を検出するように構成されている。図示例では、吐出圧センサ28は、検出した値をコントローラ30に対して出力する。
 操作装置26は、操作者がアクチュエータの操作のために用いる装置である。操作装置26は、例えば、操作レバー及び操作ペダルを含む。アクチュエータは、油圧アクチュエータであってもよく電動アクチュエータであってもよい。
 操作センサ29は、操作装置26を用いた操作者の操作内容を検出するように構成されている。本実施形態では、操作センサ29は、アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量を検出し、検出した値をコントローラ30に対して出力する。図示例では、コントローラ30は、操作センサ29の出力に応じて弁31の開口面積を制御することができる。そして、コントローラ30は、パイロットポンプ15が吐出する作動油を、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給する。パイロットポートのそれぞれに供給される作動油の圧力(パイロット圧)は、原則として、油圧アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量に応じた圧力である。このように、操作装置26は、パイロットポンプ15が吐出する作動油を、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給できるように構成されている。
 マシンコントロール用制御弁として機能する弁31は、パイロットポンプ15とコントロールバルブユニット17内の制御弁のパイロットポートとを接続する管路に配置され、その管路の流路面積を変更できるように構成されている。図示例では、弁31は、コントローラ30が出力する制御指令に応じて動作する電磁弁である。そのため、コントローラ30は、操作者による操作装置26の操作とは無関係に、制御弁のパイロットポートに作用するパイロット圧を弁31によって調整することができる。
 この構成により、コントローラ30は、特定の操作装置26に対する操作が行われていない場合であっても、その特定の操作装置26に対応する油圧アクチュエータを動作させることができる。
 また、図4に示すように、作業機械100の制御系は、コントローラ30、表示装置D1、入力装置D2、ホーンボタンHS、発話ボタンKS、外部集音装置M1、内部集音装置M2、外部音出力装置SP1、内部音出力装置SP2、外部音量ダイヤルDL1、内部音量ダイヤルDL2、スイッチSW、及び通信装置T1等を含む。図示例では、内部集音装置M2及び内部音出力装置SP2は、処理回路を含む装置である。
 コントローラ30は、必要に応じてレギュレータ13に対して制御指令を出力し、メインポンプ14の吐出量を変化させることができるように構成されている。また、コントローラ30は、例えば、操作者による操作装置26を通じた作業機械100の手動操作をガイド(案内)するマシンガイダンス機能に関する制御を行うように構成されていてもよい。また、コントローラ30は、例えば、操作者による操作装置26を通じた作業機械100の手動操作を自動的に支援するマシンコントロール機能に関する制御を行うように構成されていてもよい。なお、コントローラ30の機能の一部は、他のコントローラ(処理回路を含む制御装置)により実現されてもよい。すなわち、コントローラ30の機能は、複数のコントローラにより分散される態様で実現されてもよい。例えば、マシンガイダンス機能及びマシンコントロール機能は、専用のコントローラ(処理回路を含む制御装置)により実現されてもよい。
 ここで、図5を参照し、運転室10の内部について説明する。図5は、運転室10の内部の上面図である。作業機械100は、運転室10の内部に配置される、運転席50、操作装置26、及び表示装置D1等を備える。運転席50の左側には、乗降用ドアが設けられている。操作者は乗降用ドアを開けて運転室10の内部に入ることができる。
 運転席50は、上面視において運転室10の中央に配置されている。運転席50は操作者が着座する座部51と背もたれ52とを含む。運転席50はリクライニングシートであり、背もたれ52の傾斜角度は調節可能である。運転席50の左側には左アームレスト53Lが配置され、右側には右アームレスト53Rが配置されている。左アームレスト53L及び右アームレスト53Rは背もたれ52によって回動可能に支持されている。
 運転席50の左側には左コンソール54Lが配置され、右側には右コンソール54Rが配置されている。左コンソール54L及び右コンソール54Rは、前後方向に沿って延在する。運転席50は、前後方向にスライド可能である。運転席50は、左コンソール54L及び右コンソール54Rと共に前後方向にスライド可能な構成であってもよい。
 左アームレスト53Lは、左コンソール54Lの上に配置されている。右アームレスト53Rは、右コンソール54Rの上に配置されている。左アームレスト53Lは、上面視において、左コンソール54Lの一部を覆うように配置されている。右アームレスト53Rは、上面視において、右コンソール54Rの一部を覆うように配置されている。
 操作装置26は、左操作レバー26L、右操作レバー26R、左走行ペダル26PL、右走行ペダル26PR、左走行レバー26DL、及び右走行レバー26DRを含む。左操作レバー26Lは、左コンソール54Lの前部に設けられている。同様に、右操作レバー26Rは、右コンソール54Rの前部に設けられている。運転席50に着座した操作者は、左手で左操作レバー26Lを把持しながら左操作レバー26Lを操作でき、且つ右手で右操作レバー26Rを把持しながら右操作レバー26Rを操作できる。運転席50に着座した操作者は、左手で左操作レバー26Lを操作してアームシリンダ8及び旋回油圧モータ2Aを駆動できる。また、運転席50に着座した操作者は、右手で右操作レバー26Rを操作してブームシリンダ7及びバケットシリンダ9を駆動できる。なお、左操作レバー26L及び右操作レバー26Rのそれぞれの基部はレバーブーツ27で覆われている。
 左走行ペダル26PL及び右走行ペダル26PRは、運転席50の前方の床面に配置されている。運転席50に着座した操作者は、左足で左走行ペダル26PLを操作して左走行油圧モータ2MLを駆動できる。また、運転席50に着座した操作者は、右足で右走行ペダル26PRを操作して右走行油圧モータ2MRを駆動できる。
 左走行レバー26DL及び右走行レバー26DRは、上面視において、左走行ペダル26PLと右走行ペダル26PRとの間に配置されている。左走行レバー26DL及び右走行レバー26DRは、運転席50の前方の床面から上方に延在している。運転席50に着座した操作者は、左手で左走行レバー26DLを把持しながら操作することで、左走行ペダル26PLを介した操作と同様に、左走行油圧モータ2MLを駆動できる。また、運転席50に着座した操作者は、右手で右走行レバー26DRを把持しながら操作することで、右走行ペダル26PRを介した操作と同様に、右走行油圧モータ2MRを駆動できる。また、左走行レバー26DL及び右走行レバー26DRは、操作者が片手で左走行レバー26DLと右走行レバー26DRとを同時に操作できるように配置されている。
 表示装置D1は、運転室10内の着座した操作者から視認し易い場所に設けられ、コントローラ30による制御下で、各種情報画像を表示する。図示例では、表示装置D1は、会話の状態を操作者に通知する通知装置の一例としても機能し、運転席50の右側前方に配置され、専用線を介してコントローラ30に接続されている。表示装置D1は、各種の画像情報を表示する。表示装置D1は、作業機械100の作業条件又は動作状態等の情報を表示する表示画面を含む。運転席50に着座した操作者は表示装置D1に表示された各種情報を確認しながら作業機械100による作業を行うことができる。表示装置D1には、入力装置D2が設けられていてもよい。
 入力装置D2は、処理回路を含む装置であり、運転席50に着座した操作者の手が届く範囲に設けられ、操作者による各種操作入力を受け付け、操作入力に応じた信号をコントローラ30に出力する。入力装置D2は、各種情報画像を表示する表示装置D1のディスプレイに実装されるタッチパネル、操作装置26に含まれる複数の操作レバーの何れか一つ以上のレバー部の先端に設けられるノブスイッチ、又は、表示装置D1の周囲に設置されるボタンスイッチ、レバー、トグルスイッチ、若しくは回転ダイヤル等を含む。入力装置D2に対する操作の内容に対応する信号は、コントローラ30に取り込まれる。
 左コンソール54Lの前端部の前面には、ゲートバー55が取り付けられる。ゲートバー55は、左コンソール54Lに設けられるゲートロックレバーGLの操作状態と連動して動作する。ゲートバー55は、上端部にある左右方向に延びる軸を中心として、起伏可能に左コンソール54Lの内部のフレームに取り付けられている。
 ゲートロックレバーGLは、操作装置26による作業機械100の操作が可能な状態(操作可能状態)と操作装置26による作業機械100の操作が不可能な状態(操作不可状態)とを切り換えるための機械的な入力操作部である。図示例では、ゲートロックレバーGLは、操作不可状態を実現する第1操作位置と操作可能状態を実現する第2操作位置とを操作者が切り換えることができるように構成されている。コントローラ30は、ゲートロックレバーGLの操作状態に応じて操作可能状態と操作不能状態とを切り換える。図示例では、コントローラ30は、ゲートロックレバーGLの操作状態に応じてパイロットラインの連通状態と非連通状態とを電気的に切り換えることで、作業機械100の操作可能状態と操作不可状態とを切り換える。
 また、ゲートロックレバーGLが第2操作位置にある場合、ゲートバー55は、図5に示すように、操作者による乗降用ドアの通過を妨げるように前方に起きた状態(通過禁止状態)になる。一方、ゲートロックレバーGLが第1操作位置にある場合、ゲートバー55は、操作者による乗降用ドアの通過の妨げとならないように左コンソール54Lの内部に収容された状態(通過許可状態)となる。
 この構成により、操作者は、ゲートロックレバーGLを第2操作位置にしてゲートバー55を通過禁止状態にしない限り、作業機械100の操作を行うことができない。そのため、この構成は、操作者が乗り降りするときに不注意にも操作装置26に触れてしまった場合であっても、作業機械100が意図せずに動いてしまうのを抑制できる。そのため、この構成は、作業機械100の安全性を向上させることができる。
 また、作業機械100は、ゲートロックレバーGLが第2操作位置にありゲートバー55が通過禁止状態にある場合に限り、エンジン11を起動させるための所定の操作を受け付けることができるように構成されていてもよい。すなわち、作業機械100は、ゲートロックレバーGLが第1操作位置にありゲートバー55が通過許可状態にある場合には、エンジン11を起動させることができないように構成されていてもよい。
 右コンソール54Rには、スイッチSWが設置されている。右コンソール54Rの右側には、窓側コンソール56が設置されている。窓側コンソール56は、運転室10の前後方向の全長に亘って延在し、右コンソール54Rと平行になるように設けられている。表示装置D1は窓側コンソール56の前部に設置されている。窓側コンソール56には、外部音量ダイヤルDL1、内部音量ダイヤルDL2、内部集音装置M2、ラジオチューナー等が設置されている。ラジオチューナー等は、左コンソール54L又は右コンソール54Rに設置されていてもよい。
 内部集音装置M2は、運転室10内で発生した音を集める装置である。図示例では、内部集音装置M2は、室内マイクであり、運転室10内の操作者が発する声を拾うことができるように構成されている。
 ホーンボタンHSは、ホーン音を鳴らす際に作業機械100の操作者が操作するボタンである。図示例では、ホーンボタンHSは、左操作レバー26Lの先端に設けられたノブスイッチである。
 発話ボタンKSは、作業機械100の操作者が作業機械100の周囲にいる作業者に話しかける際に作業機械100の操作者が操作するボタンである。図示例では、発話ボタンKSは、右操作レバー26Rの先端に設けられたノブスイッチである。
 内部音出力装置SP2は、運転室10内の操作者に向けて音を出力する装置であり、会話の状態を操作者に通知する通知装置の一例としても機能し、運転室10内に設けられている。また、内部音出力装置SP2は、コントローラ30から入力された電気信号を物理的な音(空気の振動)に変換して出力する。内部音出力装置SP2は、任意の位置に設けられてよく、例えば、表示装置D1近傍、入力装置D2近傍、又は、運転室10の乗降用ドア近傍に設けられてもよい。図示例では、内部音出力装置SP2は、運転室10の後壁の左上隅に取り付けられた左室内スピーカSP2Lと、運転室10の後壁の右上隅に取り付けられた右室内スピーカSP2Rとを含む。なお、内部音出力装置SP2は、操作者が装着するヘッドホン又はイヤホンであってもよく、表示装置D1に内蔵されている内蔵スピーカであってもよい。この場合、ヘッドホン、イヤホン、又は内蔵スピーカは、例えば、Bluetooth(登録商標)等を介してコントローラ30と通信できるように接続される。
 外部音量ダイヤルDL1は、外部音出力装置SP1が出力する音の音量を調整できるように構成されている。また、外部音出力装置SP1のそれぞれが出力する音の音量は、追加的に、表示装置D1に取り付けられたタッチパネル等の、外部音量ダイヤルDL1以外の装置を利用して調整できるように構成されていてもよい。
 外部音量ダイヤルDL1は、時計回り及び反時計回りのそれぞれの方向に無限に回転できるように構成されていてもよい。外部音量ダイヤルDL1を利用した音量調整と外部音量ダイヤルDL1以外の装置を利用した音量調整とが併用される場合に対応できるようにするためである。
 内部音量ダイヤルDL2は、内部音出力装置SP2が出力する音の音量を調整できるように構成されている。また、内部音出力装置SP2のそれぞれが出力する音の音量は、追加的に、表示装置D1に取り付けられたタッチパネル等の、内部音量ダイヤルDL2以外の装置を利用して調整できるように構成されていてもよい。
 内部音量ダイヤルDL2は、時計回り及び反時計回りのそれぞれの方向に無限に回転できるように構成されていてもよい。内部音量ダイヤルDL2を利用した音量調整と内部音量ダイヤルDL2以外の装置を利用した音量調整とが併用される場合に対応できるようにするためである。
 スイッチSWは、音声伝達機能の一例である会話機能の動作状態を切り換えるための操作具の一例である。図示例では、スイッチSWは、右コンソール54Rの上面に設けられている。但し、スイッチSWは、入力装置D2の一つであってもよく、表示装置D1に設けられたタッチパネルによって実現されてもよく、ノブスイッチであってもよい。
 音声伝達機能は、図6に示すような、作業機械100の操作者OPと作業機械100の周囲にいる人(作業者WK)との間の一方向又は双方向の声の伝達を実現するための機能である。例えば、音声伝達機能は、操作者OPの声を内部集音装置M2によって集音して外部音出力装置SP1から出力する機能である内部音再生機能、及び、作業者WKの声を外部集音装置M1によって集音して内部音出力装置SP2から出力する機能である外部音再生機能を含む。会話機能は、内部音再生機能と外部音再生機能との組み合わせによって実現される。なお、一方向の声の伝達を実現するための機能は、一方向対話機能とも呼ばれ、例えば、操作者OPから作業者WKへ声を伝達する機能(内部音再生機能)と作業者WKから操作者OPへ声を伝達する機能(外部音再生機能)とが、従来のトランシーバーのように、別々のタイミングで(交互に)実行されることを意味する。また、双方向の声の伝達を実現するための機能は、双方向対話機能とも呼ばれ、例えば、操作者OPから作業者WKへ声を伝達する機能(内部音再生機能)と作業者WKから操作者OPへ声を伝達する機能(外部音再生機能)とが同時に実行されることを意味する。また、会話機能は、キーOFF状態(駆動源が停止している状態)、アクセサリON状態(駆動源が停止しているが車載電子機器が動作している状態)、エンジンON状態(駆動源が動作している状態)、ゲートロックON状態(ゲートロックレバーGLによって操作不可状態が実現された状態)、及び、ゲートロックOFF(ゲートロックレバーGLによって操作可能状態が実現された状態)の少なくとも一つにおいて利用できるように構成されていてもよい。
 具体的には、会話機能は、図6に示すような作業機械100の操作者OPと作業機械100の周囲にいる作業者WKとの会話を実現するための機能である。図6は、操作者OPが搭乗している作業機械100と作業機械100の左前方にいる作業者WKの斜視図である。図6は、操作者OPの声が内部集音装置M2によって集音されて外部音出力装置SP1から出力され、作業者WKの声が外部集音装置M1によって集音されて内部音出力装置SP2から出力される様子を示している。また、図6に示す作業機械100では、情報伝達装置G1は、運転室10の四つの側面のそれぞれの上部に設けられている。そして、運転室10の前面の上部に設けられた前ライトバーG1Fが緑色に発光し、運転室10の左面の上部に設けられた左ライトバーG1Lが白色に発光している。図6では、緑色に発光している前ライトバーG1Fにはドットパターンが付されている。緑色に発光している前ライトバーG1Fを見た作業者WKは、自身の声が前マイクM1Fによって検出されていることを認識できる。なお、図6では、明瞭化のため、撮像装置S6等の他の装置の図示が省略されている。
 会話機能の動作状態は、操作者OPと作業者WKとの間の会話が可能な状態であるオン状態(図6に示す状態)、及び、操作者OPと作業者WKとの間の会話ができない状態であるオフ状態を含む。但し、会話機能の動作状態は、作業者WKの声を操作者OPが聴取できるが操作者OPの声を作業者WKが聴取できない状態である(操作者OPに関する)聴取可能状態、及び、操作者OPの声を作業者WKが聴取できるが作業者WKの声を操作者OPが聴取できない状態である(操作者OPに関する)発話可能状態の少なくとも一方を追加的に含んでいてもよい。
 具体的には、スイッチSWが操作されて会話機能の動作状態がオン状態に切り換えられると、外部集音装置M1、外部音出力装置SP1、内部集音装置M2、及び内部音出力装置SP2は利用可能な状態になる。反対に、スイッチSWが操作されて会話機能の動作状態がオフ状態に切り換えられると、外部集音装置M1、外部音出力装置SP1、内部集音装置M2、及び内部音出力装置SP2は利用不能な状態になる。また、スイッチSWが操作されて会話機能の動作状態が聴取可能状態に切り換えられると、外部集音装置M1及び内部音出力装置SP2は利用可能な状態になる。また、スイッチSWが操作されて会話機能の動作状態が発話可能状態に切り換えられると、外部音出力装置SP1及び内部集音装置M2は利用可能な状態になる。図示例では、操作者OPは、内部集音装置M2が利用可能な状態にあるときに発話ボタンKSを押しながら発話することにより、外部音出力装置SP1を利用して作業者WKに話しかけることができる。
 作業機械100は、操作者OPと、作業機械100の外部の作業者WKとで会話を行う場合に、各集音装置が集音した音情報について、コントローラ30を経由して各音出力装置へ出力する。具体的には、コントローラ30は、外部集音装置M1が集音した作業者WKの音情報に適宜の処理を行って内部音出力装置SP2から出力する。また、コントローラ30は、内部集音装置M2が集音した操作者OPの音情報に適宜の処理を行って外部音出力装置SP1から出力する。コントローラ30による音情報の処理としては、例えば、作業者WKの音声や操作者OPの音声以外の雑音を除去するノイズキャンセル処理、音量を自動的に調整する音量調整処理等があげられる。
 また、コントローラ30は、外部集音装置M1の各マイク(前マイクM1F、左マイクM1L、右マイクM1R、後マイクM1B)が集音した音を処理する際に、音源である作業者WKの位置情報を算出してもよい。例えば、作業機械100の右側に位置する作業者WKが音声を発した場合、外部集音装置M1は、右マイクM1Rにて大きな音量を取得する一方で、他のマイクでは小さな音量を取得する。このため、コントローラ30は、各マイクが集音した音の音量の差に基づいて、作業機械100に対して音源である作業者WKが位置する方向を認識できる。また、コントローラ30は、複数のマイクで集音した音の時間的なずれ(例えば、音声を最も早く集音したマイク)に基づいて、作業者WKの方向と認識できる。あるいは、各マイクにアレイマイクを適用した場合、外部集音装置M1は、音波の位相差に基づいて、音源である作業者WKの方向をより詳細に認識することもできる。
 なお、コントローラ30は、撮像装置S6により撮像した撮像情報に基づいて、作業機械100の周辺に存在する作業者WKの位置情報を算出することもできる。特に、コントローラ30は、撮像装置S6の撮像情報において作業者WKの向いている方向、口の動き等を抽出することで、音声を発している作業者WKを割り出してもよい。また、物体検出装置(撮像装置S6を含む)によって、コントローラ30は、作業機械100から作業者WKまでの距離を算出してもよい。つまり、コントローラ30は、外部集音装置M1が集音した音の情報、および撮像装置S6により撮像した撮像情報を組み合わせることで、作業者WKの位置情報をより精度よく特定することができる。
 ここで、作業機械100は、作業中に、外部集音装置M1により音を集音する場合に、作業機械100の外部に様々な音源(複数の作業者WK、作業者以外の人の声、動物、他の環境音)が存在することになる。このため、実施形態に係るコントローラ30は、外部集音装置M1で集音した音情報について、ノイズキャンセル処理とは別に重要度を設定して、重要度が高い音情報を操作者OPに選択的に出力する構成としている。以下、コントローラ30において、音情報の重要度を設定する重要度設定処理について説明していく。
 詳細には、重要度設定処理において、コントローラ30は、作業機械100の様々な状況を認識して、その状況に応じた音情報の重要度を設定する。作業機械100における様々な状況としては、例えば、音源(作業者WK)の位置情報、作業機械100の動作モード、操作者OPが選択した作業者WK、音情報の内容、作業者の状態等があげられる。
 以下、重要度設定処理において、作業機械100の状況として、音情報の音源の位置情報を認識した場合について、図7を参照しながら説明する。図7Aは、作業機械100の操作者OPと1人の作業者WKとの会話を例示する上面図である。図7Bは、作業機械100の操作者OPと複数の作業者WKとの会話を例示する上面図である。
 図7Aの例では、作業機械100の右側に、会話の対象である1人の作業者WKが存在する状況を示している。この場合、コントローラ30は、上記したように、外部集音装置M1が検出した音情報および/または撮像装置S6が撮像した撮像情報に基づいて、作業者WKが作業機械100の右側に位置する位置情報を算出する。そして、作業者WKの位置情報に基づいて、コントローラ30は、重要度設定処理において、作業者WKが位置する方向の音情報の重要度を高くする。これにより、コントローラ30は、重要度が高い音情報を選択して内部音出力装置SP2に出力する一方で、重要度が低い音情報を省くことができる。
 例えば、右側の作業者WKが音声を発した場合、コントローラ30は、主に右マイクM1Rにおいて集音した音情報の重要度を高めて、内部音出力装置SP2からその音情報を出力する。この際、他のマイク(前マイクM1F、左マイクM1L、後マイクM1B)の音情報は、遮断してもよく、音量を充分に低下させる処理を行ってもよい。操作者OPは、内部音出力装置SP2から出力される右側の作業者WKの音情報を容易に認識できる。なお、出力時に、コントローラ30は、右マイクM1Rによる音情報の取得に応じて、同じ方向のスピーカ(右室内スピーカSP2R)からのみ音情報を出力してもよい。また、操作者OPは、作業者WKに応答する場合、発話ボタンKSを押しながら適宜の内容を発声する。内部集音装置M2により操作者OPの音情報を取得すると、コントローラ30は操作者OPの音情報を外部音出力装置SP1から出力する。これにより、作業機械100は、作業者WKと操作者OPとの間で安定した会話を実行させることができる。
 また、図7Bの例では、作業機械100の右側に会話の対象である1人の作業者WK1が存在すると共に、作業機械100の後側に会話の対象である1人の作業者WK2が存在する状況を示している。このような状況で、仮に、右側の作業者WK1と後側の作業者WK2とが同時に音声を発する一方で、コントローラにおいて音情報の処理を行わない場合には、内部音出力装置から混在した音情報が出力されることになる。そのため、操作者OPは、誰と会話しているのかを容易に認識できない状態となる。
 そこで、実施形態に係るコントローラ30は、複数の作業者WK1、WK2の位置情報を認識した後に、作業機械100の状況に基づいた重要度設定処理を行うことで、重要度が高い音情報の作業者WKと会話することを優先させる。例えば、作業機械100の後側の作業者WK2が操作者OPと会話する状況では、何らかの危険がある等の可能性が高い。このため、コントローラ30は、右側の作業者WK1と後側の作業者WK2とを比較して、後側の作業者WK2の重要度を、右側の作業者WK1の重要度よりも高くする。そして、コントローラ30は、主に後マイクM1Bにおいて集音した後側の作業者WK2の音情報を優先的に処理して、内部音出力装置SP2から音情報を出力する。これにより、操作者OPは、内部音出力装置SP2から出力される後側の作業者WK2の音情報を聞いて、後側の作業者WK2との間で会話を安定して行うことができる。
 言い換えれば、後側の作業者WK2は、作業機械100の作業する方向において死角の近くに位置する音源と言える。なお、この明細書において「死角」とは、操作者OPが直接視認できない、撮像装置S6に映らない、作業機械100の作業における操作者OPが意図しない方向等の意味で用いる。
 以上の図7Aおよび図7Bでは、作業者WKの位置情報として、作業機械100を基準とした作業者WKの方向(位置)の違いに基づいて重要度を設定する例について説明した。ただし、重要度設定処理は、上記のパターンに限らず、作業機械100の様々な状況に基づいて重要度を設定してよい。図8は、作業機械100の様々な状況と、この状況に応じて重要度が高められる音源の音情報との関係を例示する図表である。
 例えば、図8に示すように、コントローラ30は、作業機械100の状況として、作業機械100の周囲環境情報に基づいて重要度を設定してもよい。この周囲環境情報とは、周囲環境認識装置より作業機械100を基点とした周囲の環境を検出して得た情報である。周囲環境情報には、例えば、作業者WKの位置情報、作業者WKの音声情報、作業者WKの状態情報等が含まれる。なお、周囲環境情報には、作業者WK以外にも、作業現場の状態、作業者WK以外の人間、障害物、周囲の住宅等が抽出されてもよい。コントローラ30は、作業者WK以外の人間を認識した場合、会話を行わないようにするために重要度を下げる等の処理を行うことができる。周囲環境情報を認識する周囲環境認識装置としては、外部集音装置M1、撮像装置S6等を適用できる。
 また、コントローラ30は、作業機械100の状況として、作業機械100の機械状態情報に基づいて重要度を設定してもよい。この機械状態情報とは、機械状態認識装置により作業機械100内の各構成の動作、動作を行うための処理、操作者OPによる操作内容等を検出して得た情報である。機械状態情報には、例えば、作業機械100の動作モード、操作者OPの操作内容等が含まれる。機械状態情報を認識する機械状態認識装置としては、作業機械100の各種のセンサ、入力装置D2、コントローラ30自体等を適用できる。
 周囲環境情報として作業者WKの位置情報を認識した場合、コントローラ30は、作業者WKの位置情報に基づいて重要度を高める作業者WKを選択する位置-重要度設定処理を行う。例えば、位置-重要度設定処理において、コントローラ30は、上記した作業機械100を基準とした作業者WKの方向毎に規定された重要度を読み出すことで、作業者WKの重要度を設定する。
 ただし、作業機械100の状況として作業者WKの位置情報を認識した位置-重要度設定処理は、作業機械100を基準とした作業者WKの方向に限定されない。コントローラ30は、位置-重要度設定処理において、撮像装置S6や外部集音装置M1が取得する情報に基づいて、作業機械100と1人以上の作業者WKとの距離を算出し、距離が近い作業者WKの重要度を高めてもよい。例えば、図7Bを例として、仮に右側の作業者WK1のほうが後側の作業者WK2が作業機械100に近い場合には、コントローラ30は、右側の作業者WK1の音情報の重要度を高めてよい。作業機械100との距離が近い作業者WKとの会話を優先することで、操作者OPは、作業上の重要な内容を得る可能性が高まる。
 ただし、作業機械100を基準とした作業者WKの方向と、作業機械100から作業者WKまでの距離とのどちらを優先するか等は、自由に設計してよく、あるいは操作者OPの任意に設定できるようにしてもよい。例えば、コントローラ30は、右側の作業者WK1のほうが後側の作業者WK2より近くても、後側の作業者WK2のほうの重要度を高める設定とすることができる。要するに、複数の状況が重なった場合に、コントローラ30は、どの状況を優先して重要度を高めるかを自由に設計してよい。以降の他の状況が重なった場合も同様である。
 さらに位置-重要度設定処理において、コントローラ30は、作業機械100と1人以上の作業者WKとの距離を算出し、距離が遠い一方で、音情報の音量が大きい(例えば、近くの作業者の音声の音量よりも大きい)場合にその作業者WKの重要度を高めてもよい。作業機械100との距離が遠い一方で音量が大きい場合には、作業者WKが重要な内容を発声した可能性が高いからである。
 また、コントローラ30は、作業者WKの音声情報に基づいて重要度を高める作業者WKを選択する音声-重要度設定処理を行ってもよい。この場合、コントローラ30は、外部集音装置M1が取得した音情報を解析する機能を有する。コントローラ30による音情報の解析としては、会話からキーワードを抽出する、音波の振幅や周波数を検出する等があげられる。例えば、音声-重要度設定処理において、コントローラ30は、音情報からキーワードを抽出して、予め登録されている参照キーワードに近いキーワードである場合に、その音情報の重要度を高めるとよい。このキーワードの一例としては、「危ない」、「ストップ」等の作業の危険性に関連する言葉があげられる。これにより、操作者OPは、重要度を高めたキーワードを発した作業者WKとの会話が優先されて、適切な対処を早期にとることが可能となる。
 あるいは音声-重要度設定処理において、コントローラ30は、外部集音装置M1が取得した音情報の解析において、音情報から作業者WKの緊張度や切迫度等を数値化して、この数値が高い音情報の重要度を高めてもよい。これにより、操作者OPは、緊張度が高い作業者WKとの会話が優先されて、会話の内容に応じて適切な対処を早期にとることができる。
 また例えば、コントローラ30は、作業者WKの状態情報に基づいて重要度を高める作業者WKを選択する作業者状態-重要度設定処理を行ってもよい。例えば、作業者状態-重要度設定処理において、コントローラ30は、撮像装置S6の撮像情報から作業機械100のほうを向いて発声している作業者WKを認識して、その作業者WKの重要度を高めてもよい。作業者WKが作業機械100の方向を向きながら発声している場合には、操作者OPと会話したい状況であると言えるからである。逆に、コントローラ30は、撮像装置S6の撮像情報に含まれる各作業者WKから作業機械100のほうを向かずに発声している作業者WKを認識して、その作業者WKの重要度を低くしてもよい。作業者WKが作業機械100の方向を向かずに発声している場合には、操作者OPと会話したい状況ではないと言えるからである。例えば、作業機械100のほうを向いていない作業者WKが独り言等を発声した場合に、外部集音装置M1により集音して内部音出力装置SP2に出力することを抑制できる。
 さらに例えば、コントローラ30は、作業者状態-重要度設定処理において、撮像装置S6により撮像した撮像情報を画像処理することで、作業者WKのジェスチャを抽出してもよい。コントローラ30は、抽出したジェスチャについて予め登録されている参照ジェスチャに近い場合に、その作業者WKの音情報の重要度を高める。これにより、操作者OPは、ジェスチャを行った作業者WKとの会話が優先されて、その作業者WKの意図を早期に把握することができる。
 あるいは、コントローラ30は、機械状態情報として作業機械100自体の動作モードに基づいて、音情報の重要度を設定する動作モード-重要度設定処理を行ってもよい。作業機械100の動作モードの一例としては、下部走行体1により走行する走行モード、上部旋回体3を旋回させる旋回モード、作業部であるアタッチメントATを動作させるアタッチメント動作モード(作業部動作モード)等があげられる。コントローラ30は、機械状態認識装置である作業機械100の種々のセンサやコントローラ30自体の処理内容等に基づいて、動作モードを判定することができる。
 例えば、コントローラ30は、動作モード-重要度設定処理において、作業機械100が走行を開始するまたは走行中である状態(走行モード)を認識する。コントローラ30は、この走行モードにおいて、撮像装置S6や外部集音装置M1が取得する情報に基づいて進行方向前方に存在する作業者WKを検出した場合に、その作業者WKの重要度を高めることが好ましい。なお、進行方向前方とは、作業機械100が前進している場合には前進方向であり、作業機械100が後退している場合には後退方向である。作業機械100が走行している場合、例えば、進行方向前方にて作業中のために走行の停止を要請する等、進行方向前方の作業者WKとの会話が重要になる。このため、コントローラ30は、進行方向前方の音情報の重要度を高めることで、その方向の作業者WKとの会話を優先することができる。
 また例えば、コントローラ30は、動作モード-重要度設定処理において、作業機械100の上部旋回体3が旋回を開始するまたは旋回中である状態(旋回モード)を認識する。コントローラ30は、この旋回モードにおいて、撮像装置S6や外部集音装置M1が取得する情報に基づいて旋回方向前方に存在する作業者WKを検出した場合に、その作業者WKの重要度を高めるとよい。作業機械100が旋回する場合、例えば、旋回方向前方にて作業中のために旋回の停止を要請する等、旋回方向前方の作業者WKとの会話が重要になるからである。
 あるいは、コントローラ30は、動作モード-重要度設定処理において、作業機械100のアタッチメントATが動作を開始するまたは動作中である状態(アタッチメント動作モード)を認識する。コントローラ30は、このアタッチメント動作モードにおいて、撮像装置S6や外部集音装置M1が取得する情報に基づいて、運転室10またはアタッチメントATの死角方向に存在する作業者WKを検出した場合に、その作業者WKの重要度を高めるとよい。アタッチメントATが動作している場合、操作者OPは、アタッチメントATの作業に集中していることで、アタッチメントATの方向(前方)の作業者WKに気付き易い一方で、死角方向の作業者WKを気付き難くなる。また操作者OPは、作業内容に応じて、アタッチメントATを死角方向に急に移動させることもある。つまり、アタッチメント動作モードでは、死角方向において作業中のために旋回の停止を要請する等、死角方向の作業者WKとの会話が重要になるからである。
 アタッチメント動作モードは、バケット6以外の他のエンドアタッチメントを操作するATTモード、マシンコントローラ(MC)による全自動運転または半自動運転、マシンガイダンス(MG)モード、クレーンモード等のように複数のモードがある。重要度設定処理は、この複数のモード毎に重要度を高める作業者WKを変えてもよい。例えば、アタッチメント動作モードとしてクレーンモードを実行する場合、作業機械100の前方に位置する玉掛作業者等と密に会話したいことが多いため、前方の作業者WKの重要度を高めることで、前方の作業者WKとの会話を優先してよい。
 また、コントローラ30は、機械状態情報として、操作者OPによる入力装置D2の操作内容の情報を取得し、この操作内容の情報に基づいて、音情報の重要度を設定する操作内容-重要度設定処理を行ってもよい。例えば、運転室10の表示装置D1は、作業機械100の作業において、撮像装置S6が撮像した撮像情報を表示している。表示装置D1が表示する撮像情報には、作業機械100の周辺に存在する1人以上の作業者WKが映っている。一例として、コントローラ30は、タッチパネルとして構成される表示装置D1および入力装置D2において、映っている作業者WKを操作者OPにタッチさせることで、その作業者WKの重要度を高めることを可能にする。
 図9は、表示装置D1が表示する表示画面85を例示する図である。表示装置D1は、撮像装置S6の撮像情報と、コントローラ30から受信した各種情報とに基づいて表示画面85を生成する。
 表示画面85は、例えば、作業機械100の設定状態に関する情報である設定状態情報、作業機械100の稼動状態を表した情報である稼動状態情報等を、画面の上部に表示している。そして、表示画面85は、作業機械100の周辺で検出された人(作業者WKを含む)との間の位置関係を表したショベル状態表示領域851、撮像装置S6の撮像情報を表示する第1画像表示領域852、及び第2画像表示領域853を有する。例えば、第1画像表示領域852には、撮像装置S6の右カメラS6Rの撮像情報が表示される。第2画像表示領域853には、撮像装置S6の後カメラS6Bの撮像情報が表示される。
 なお、ショベル状態表示領域851、第1画像表示領域852、第2画像表示領域853が表示する撮像情報は、操作者OPの任意にカメラを指定してよい。また、ショベル状態表示領域851、第1画像表示領域852、第2画像表示領域853のうち1つは、外部集音装置M1の各マイクにおいて優先して使用しているマイクに隣接したカメラの撮像情報を表示してよい。
 例えば、ショベル状態表示領域851は、作業機械100を俯瞰した2次元平面画像(または作業機械100の3次元画像)を表示する。このショベル状態表示領域851は、模擬作業機械851mを中心に配置すると共に、模擬作業機械851mを基準とした四方のエリアを示すエリア情報851eを表示している。また、ショベル状態表示領域851は、作業者WKを検出した位置情報に基づいて人検出アイコン851aを、模擬作業機械851mの周囲に配置している。
 エリア情報851eは、撮像装置S6の各カメラおよび外部集音装置M1の各マイクの設置位置、撮像方向(指向方向)に基づいて複数に区画している。例えば、4つのカメラ(前カメラS6F、左カメラS6L、右カメラS6R、後カメラS6B)および4つのマイク(前マイクM1F、左マイクM1L、右マイクM1R、後マイクM1B)に応じて、エリア情報851eは前後左右の4つに区画されている。ショベル状態表示領域851は、この前後左右に区画されたエリア情報851eについて、優先されているマイクの位置またはカメラの位置を示すために、他のエリアと異なる表示851cをすることができる。例えば、異なる表示851cとしては、優先されているマイクの位置またはカメラの位置のエリア(図9中では右側)について、背景色をつける、点滅させる等があげられる。
 操作者OPが会話を行う作業者WKを選択する場合は、例えば、ショベル状態表示領域851に表示されている人検出アイコン851aを、操作者OPがタッチすることがあげられる。あるいは、第1画像表示領域852または第2画像表示領域853に作業者WKが映っている場合には、当該映っている作業者WKの画像852a、853aをタッチすることにしてもよい。コントローラ30は、外部集音装置M1において操作者OPが選択した作業者WKに近いマイクを選択することで、操作者OPがタッチした作業者WKとの会話を優先させることができる。
 またこの際、コントローラ30は、表示装置D1による撮像情報の表示において、操作者OPが選択した作業者WK対して、フレーム表示851f、852f等を重畳表示することで、会話の対象を操作者OPに認識させてもよい。あるいは、操作者OPが選択を行っていない場合でも、コントローラ30は、作業機械100に向かって音声を発した作業者WKについてフレーム表示851f、852fを表示してもよい。この際、表示装置D1において撮像情報から抽出した人検知枠852b、853bを表示している場合には、選択した作業者WKについて人検知枠852b、853bと異なる装飾のフレーム表示851f、852fを表示することが好ましい。
 図8に戻り、コントローラ30は、操作内容-重要度設定処理として、操作者OPが撮像装置S6の撮像方向のカメラを切り替える操作を行うことで、そのカメラに対応する方向の音情報の重要度を高くしてもよい。例えば、4方向のカメラ(前カメラS6F、左カメラS6L、右カメラS6R、及び、後カメラS6B)のうちいずれか1つの撮像情報を表示装置D1に表示する構成では、操作者OPは、入力装置D2を操作して1つのカメラの撮像情報を選択する。これに伴い、コントローラ30は、外部集音装置M1についても選択された方向のカメラに対応するマイクを通して作業者WKの音情報を取得する。この場合でも、作業機械100は、操作者OPが選択した作業者WKの重要度を高めて、その作業者WKとの会話を優先することができる。また、コントローラ30は、カメラを切り替えて作業者との会話を行う場合には、表示装置D1に表示される表示領域(第1画像表示領域852、第2画像表示領域853等)自体に装飾を表示してその方向のカメラおよびマイクが優先されていることを操作者OPに報知することが好ましい。例えば、図9では、第1画像表示領域852に装飾枠852oを表示して、その方向のカメラおよびマイクが優先されていることを操作者OPに認識させている。
 また、コントローラ30は、作業機械100において複数種類の状況を認識した場合に、作業者WKの音情報に対して数値化した重要度を設定してもよい。この場合、緊急性が高い状況については重要度として高い数値を付与し、緊急性が低い状況については重要度が低い数値を付与することがあげられる。
 例えば、操作者OPの操作により選択した作業者WKとの会話を優先した状態とし、かつ作業機械100が旋回モードを実行する場合、旋回方向前方の作業者WKの重要度の数値を、操作者OPが選択した作業者WKの重要度の数値よりも高くする。これにより、旋回方向前方の作業者WKが音声を発した場合に、操作者OPにその音情報を容易に伝達することができる。各状況における重要度の数値は、予め設定したテーブル情報としてコントローラ30に記憶しておき、コントローラ30による重要度設定処理において読み出すとよい。あるいは、重要度の数値は、操作者OP等により任意に設定されてもよい。
 さらに、コントローラ30は、状況に応じて数値化した重要度を音情報毎(作業者WK毎)に加算等して、最も重要度が高い音情報を決定する処理を行ってもよい。例えば、コントローラ30は、アタッチメント動作モードの実行中、かつ複数の作業者WKの位置情報を認識した場合に、作業者WKが近いほど重要度の数値を高めると共に、死角方向に存在する作業者WKの重要度の数値をさらに加算して高めるようにする。これにより、操作者OPは、重要度の数値が最も高い作業者WKが発した音声を優先的に聞くことができる。
 実施形態に係る作業機械100は、基本的には以上のように構成され、以下その動作について、図10を参照しながら説明する。図10は、作業機械100の操作者OPと、作業機械100の周辺の作業者WKとが会話するコントローラ30の処理フローを示すフローチャートである。
 コントローラ30は、作業機械100の周辺の作業者WKとの間で会話する場合に、ステップS101~ステップS105の処理フローを行う。
 具体的には、作業機械100の外部において1人以上の作業者WKが音声を発した場合に、外部集音装置M1は、作業者の音声を音情報として検出する(ステップS101)。なお、作業者WKが音声を発する前に、操作者OPの音声を内部集音装置M2から外部音出力装置SP1を介して作業者WKに出力してもよい(言い換えれば、操作者OP側から話しかけてもよい。)。
 コントローラ30は、外部集音装置M1が取得した音情報および/または撮像装置S6か取得した撮像情報に基づいて、音情報を発した作業者WKの位置情報を特定する(ステップS102)。なお、上記した図8に示すように作業機械100の状況の中には、作業者WKの位置情報に依らずに重要度を設定する項目がある。このため、コントローラ30は、ステップS102による作業者WKの位置情報を取得しなくても重要度設定処理を行って、重要度が高い音情報を出力するようにしてよい。
 そして、コントローラ30は、音情報の重要度を決定するために、作業機械100の各種のセンサの検出情報やコントローラ30内部の処理内容を判定して、作業機械100の状況を認識する(ステップS103)。なお、作業機械100の状況の認識は、作業者WKが音声を発する前であってもよい。例えば、作業機械100の動作モードについては、事前に認識しておくことができる。また、作業機械100の周辺の作業者WKの人数や位置情報等も、撮像装置S6の撮像情報に基づいて事前に認識しておくことができる。さらに、操作者OPが入力装置D2を操作して会話したい作業者WKを選択した場合も、事前に認識しておくことができる。
 コントローラ30は、ステップS103で認識した状況に基づいて重要度設定処理を行い、音情報の重要度を設定する(ステップS104)。コントローラ30は、重要度設定処理において、図8に示すような作業機械100の状況と重要度との対応関係を示すテーブル情報を予め保有しておくことで、認識した状況に基づいて重要度を短時間に設定できる。
 そして、コントローラ30は、設定された重要度に基づいて操作者OPに伝える音情報を選択して、内部音出力装置SP2を介してその音情報を出力する(ステップS105)。これにより、操作者OPは、重要度が高い音情報を発した作業者WKとの間で、スムーズな会話を行うことができる。
 以上のように、作業機械100は、操作者OPと外部の作業者WKとが会話する場合に、状況に応じた音情報が選択されることで、操作者の認識性を大幅に向上させることができる。これにより、操作者は、優先的に聞きたい音声の内容を安定して聞くことができる。特に、作業機械100の周囲に複数の作業者WKが存在して、各作業者WKの音声が重なった場合でも、コントローラ30は重要度に基づいて音情報を選択することにより、優先すべき音声を操作者OPに良好に伝達することが可能となる。
 なお、本開示の作業機械100は、上記の構成に限定されず、種々の変形例をとり得る。例えば、上記の実施形態では、作業機械100の状況に応じて音情報の重要度を設定した場合に、単純に重要度が高い音情報を出力する例を説明した。この場合、作業機械100の状況が変化すると、内部音出力装置SP2から出力される音情報が直ちに切り替わる(割り込み処理を行う)ことになる。この割り込み処理は、例えば、操作者OPに危険を知らせる場合等では便利である一方で、会話の内容によっては不用意に切り替わることで操作者OPが混乱する可能性がある。
 このため、コントローラ30は、音情報の重要度が変わった場合に、直ちに音情報を切り替えることに限らず、例えば、会話が終了した後に重要度が高い音情報を出力する構成としてもよい。例えば、作業機械100の状況に応じて重要度が高い音情報の音源が変わった場合、表示装置D1の表示画面85において重要度が高い音情報が発せられた旨を通知するとよい。つまり、キャッチホンのように表示装置D1を介して通知して、操作者OPの操作下で音情報を切り替えてもよい。
 また、コントローラ30は、操作者OPが発話ボタンKSを押して特定の作業者WKに話している場合に、その作業者WKの重要度を切り替えないように処理してもよい。また例えば、コントローラ30は、操作者OPが作業者WKに話して終わってから一定期間にわたって重要度を切り替えないようにしてもよい。これにより、コントローラ30は、特定の作業者WKと操作者OPとの会話を良好に継続させることができる。
 図11は、外部集音装置M1にアレイマイク90を適用した場合の作業者WKとの会話を示す上面図である。図11に示すように、作業機械100の外部集音装置M1は、各マイク(前マイクM1F、左マイクM1L、右マイクM1R、後マイクM1B)の一部または全部について、アレイマイク90を適用してもよい。
 アレイマイク90は、複数のミニマイクを適宜の配列で設置して、各ミニマイクにおいて音声を同時に取得可能とした装置である。このアレイマイク90は、各ミニマイクの配列等に応じて集音可能な角度範囲(指向性)を設定できる。例えば、アレイマイク90は、作業機械100の前方、左側、右側、後側毎に180°の角度範囲に設定されることで、作業機械100の全周囲の音を安定して取得することができる。
 また、アレイマイク90は、入力された音情報に基づいて指向性を持たせることで、作業機械100の周辺に存在する複数の作業者WKのうち特定の(音声を発した)作業者WKの音情報を強調して取得することができる。例えば、図11に示すように、作業機械100の右側に2人の作業者WK1、WK2が存在した場合に、アレイマイク90は、音声を発した作業者WK1に対して指向性を持たせることで、作業者WK1の音声(音情報)を安定して集音することができる。
 この結果、コントローラ30は、外部集音装置M1が取得した音情報に関して、位置情報を認識する処理、重要度設定処理等を精度よく行うことが可能となる。したがって、作業機械100は、操作者OPと、重要度に基づいて選択された外部の作業者WKとの会話をより一層スムーズに行うことが可能なる。
 次に、図12を参照し、作業機械100の別の構成例について説明する。図12は、作業機械100の別の構成例の上面図である。図12に示す作業機械100は、外部音出力装置SP1が4台のスピーカ(前スピーカSP1F、左スピーカSP1L、右スピーカSP1R、及び後スピーカSP1B)によって構成されている点で、図1に示す作業機械100と異なる。図1に示す作業機械100では、外部音出力装置SP1は、運転室10の上に設けられた1台の無指向性スピーカによって構成されている。
 この構成により、図12に示す作業機械100は、例えば、前スピーカSP1Fをオン(音を出力できる状態)にし、左スピーカSP1L、右スピーカSP1R、及び後スピーカSP1Bをオフ(音を出力できない状態)にすることにより、作業機械100の左方、右方、及び後方にいる作業者WKに向けて音を出力することなく、作業機械100の前方にいる作業者WKに向けて音を出力することができる。
 また、図12に示す例では、前スピーカSP1Fに隣接するように前カメラS6F及び前マイクM1Fが設けられ、前マイクM1Fの筐体には前ライトバーG1Fが設けられている。また、左スピーカSP1Lに隣接するように左カメラS6L及び左マイクM1Lが設けられ、左マイクM1Lの筐体には左ライトバーG1Lが設けられている。また、右スピーカSP1Rに隣接するように右カメラS6R及び右マイクM1Rが設けられ、右マイクM1Rの筐体には右ライトバーG1Rが設けられている。また、後スピーカSP1Bに隣接するように後カメラS6B及び後マイクM1Bが設けられ、後マイクM1Bの筐体には後ライトバーG1Bが設けられている。
 この構成により、作業機械100は、オンにしたスピーカに対応するライトバーをオン(発光可能な状態)にし、オフにしたスピーカに対応するライトバーをオフ(発光不能な状態)にすることができる。
 なお、外部音出力装置SP1は、1台又は複数台のパラメトリックスピーカで構成されていてもよい。パラメトリックスピーカは、特定の狭い範囲にいる人に選択的に音を伝えることができる、超音波を利用したスピーカである。パラメトリックスピーカは、任意の位置に向けて音を伝えることができる。
 図12に示す作業機械100では、コントローラ30は、撮像装置S6が撮像した画像に基づいて作業機械100の周囲にいる作業者WKを検出し、作業者WKの位置を特定してもよい。また、作業機械100の周囲に複数の作業者WKがいる場合には、コントローラ30は、四つの外部集音装置M1の出力に基づき、会話対象者(声を出している作業者WK)と非対象者(声を出していない作業者WK)とを判別してもよい。なお、コントローラ30は、撮像装置S6が撮像した画像に基づき、会話対象者(作業機械100の方を向いている作業者WK)と非対象者(作業機械100の方を向いていない作業者WK)とを判別してもよい。そして、コントローラ30は、作業者WKの方を向いているスピーカ及びライトバーをオンにしてもよい。例えば、作業機械100の後方に(音声を発した)作業者WKがいる場合には、コントローラ30は、前スピーカSP1F、左スピーカSP1L、及び右スピーカSP1Rをオフにしたまま、後スピーカSP1Bをオンにしてもよい。この場合、コントローラ30は、前ライトバーG1F、左ライトバーG1L、及び右ライトバーG1Rをオフにしたまま、後ライトバーG1Bをオンにしてもよい。なお、このような機能は、図1~図5に示す作業機械100において実現されてもよい。
 この構成により、コントローラ30は、作業者WKがいない方向に向けて音を出力することなく、作業者WKがいる方向に向けて音を出力することができる。そのため、作業者WKは、自身が会話対象者とされているか非対象者とされているかを容易に認識することができる。
 次に、図13を参照し、本開示の実施形態に係る操作システムSYSの構成例について説明する。図13は、操作システムSYSの構成例を示す概要図である。操作システムSYSは、図13に示すように、作業機械100、遠隔操作室RC、及び管理センタMCを含む。なお、図13では、作業機械100の詳細な構成については図示が省略されている。図13に示す作業機械100は、図1又は図12に示す作業機械100と同じ構成を有するためである。
 作業機械100、遠隔操作室RC、及び管理センタMCは、通信ネットワークNWを介してデータの送受信ができるように互いに接続されている。なお、作業機械100、遠隔操作室RC、及び管理センタMCは、通信ネットワークNWを介さずに互いに直接的にデータの送受信ができるように互いに接続されていてもよい。図示例では、作業機械100は、作業現場に関する情報を遠隔操作室RCに送信する。これにより、遠隔操作室RCにいる遠隔操作者ROは、作業機械100からの情報に基づいて作業現場の状況を把握することができる。
 作業機械100には、作業現場に存在する物体の位置及び形状を3次元的に認識可能なセンサが設けられている。例えば、作業機械100には空間認識装置が設けられている。そのため、作業機械100は、作業現場を3次元的に測定した結果を遠隔操作室RCに送信できる。
 空間認識装置は、作業機械100の周囲にある空間を認識するための装置である。図示例では、空間認識装置はLiDARである。LiDARは、例えば、監視範囲内にある100万点以上の点のそれぞれとLiDARとの間の距離を測定する。なお、空間認識装置は、物体との間の距離を計測可能な装置であればよい。例えば、空間認識装置は、ステレオカメラであってもよいし、撮像装置S6とミリ波レーダ等の測距装置との組み合わせであってもよい。
 操作システムSYSに含まれる作業機械100は、一台であってもよいし、複数台であってもよい。複数台の作業機械100を含む場合、特定の一台の作業機械100の遠隔操作者ROは、その特定の一台の作業機械100が入手する作業現場に関する情報に加え、他の一台又は複数台の作業機械100が入手する作業現場に関する情報を取得することができる。
 遠隔操作室RCには、通信装置T2、遠隔コントローラ40、操作装置42、操作センサ43、表示装置D1E、内部集音装置M2E、及び内部音出力装置SP2Eが設置されている。また、遠隔操作室RCには、作業機械100を遠隔操作する遠隔操作者ROが座る操作席DSが設置されている。
 通信装置T2は、作業機械100に取り付けられた通信装置T1との間で通信できるように構成されている。
 遠隔コントローラ40は、処理回路を含む制御装置の一例であり、各種演算を実行する演算装置である。本実施形態では、遠隔コントローラ40は、CPU及びメモリを含むマイクロコンピュータで構成されている。そして、遠隔コントローラ40の各種機能は、CPUがメモリに格納されたプログラムを実行することで実現される。
 表示装置D1Eは、各種情報を表示可能な装置である。表示装置D1Eは、遠隔操作室RCにいる遠隔操作者ROが作業機械100の周囲を視認するために、作業機械100から送信されてくる情報に基づいた画像を表示する。図示例では、表示装置D1Eは、作業機械100に搭載されている撮像装置S6が撮像した画像を表示する液晶ディスプレイである。なお、表示装置D1Eは、裸眼立体視を実現するディスプレイ又はプロジェクタであってもよく、VRゴーグル等であってもよい。
 内部音出力装置SP2Eは、各種の音情報を出力可能な装置である。内部音出力装置SP2Eは、遠隔操作室RCにいる遠隔操作者ROが作業現場で発せられる音を聞くことができるよう、作業機械100から送信されてくる情報に基づいて音を出力する。内部音出力装置SP2Eは、例えば、運転室10の外部に取り付けられた外部集音装置M1が捉えた音を出力するように構成されていてもよく、運転室10の内部に取り付けられた内部集音装置M2が捉えた音を出力するように構成されていてもよい。この場合、内部集音装置M2は、運転室10内の運転席50に着座する操作者の耳の位置に相当する位置に設けられていてもよい。内部音出力装置SP2Eは、スピーカ等の設置型の装置であってもよく、イヤホン又はヘッドホン等の装着型の装置であってもよい。スピーカは、モノラルスピーカであってもよく、ステレオスピーカであってもよく、サラウンドスピーカであってもよい。また、スピーカは、無指向性スピーカであってもよく、指向性スピーカであってもよい。装着型の装置は、ノイズキャンセリング機能を備えたものであってもよく、空間オーディオ機能(立体音響機能)を備えたものであってもよく、骨伝導機能を備えたものであってもよい。
 操作装置42には、操作装置42の操作内容を検出するための操作センサ43が設置されている。操作センサ43は、例えば、操作レバーの傾斜角度を検出する傾斜センサ、又は、操作レバーの揺動軸回りの揺動角度を検出する角度センサ等である。操作センサ43は、圧力センサ、電流センサ、電圧センサ、又は距離センサ等の他のセンサで構成されていてもよい。操作センサ43は、検出した操作装置42の操作内容に関する情報を遠隔コントローラ40に対して出力する。遠隔コントローラ40は、受信した情報に基づいて操作信号を生成し、生成した操作信号を作業機械100に向けて送信する。操作センサ43が操作信号を生成するように構成されていてもよい。この場合、操作センサ43は、遠隔コントローラ40を経由せずに、操作信号を通信装置T2に出力してもよい。このような構成により、遠隔操作者ROは、遠隔操作室RCから作業機械100を遠隔操作できる。
 管理センタMCは、作業現場にある作業機械100、又は、遠隔操作室RCにいる遠隔操作者ROによる作業機械100の遠隔操作等を管理するための各種装置が設けられる施設である。図示例では、管理センタMCは、作業機械100の作業現場及び遠隔操作室RCのそれぞれから離れた位置に設置されている。そして、管理センタMCには、管理装置200、内部集音装置M2C、及び内部音出力装置SP2Cが設置されている。
 管理装置200は、処理回路を含む制御装置の一例であり、例えば、サーバコンピュータ(いわゆるクラウドサーバ)又はエッジサーバである。管理装置200は、典型的には固定型の端末装置であるが、可搬型の端末装置(例えば、ラップトップ型のコンピュータ、タブレット、又はスマートフォン等)であってもよい。
 この構成により、管理センタMCにいる管理者は、例えば、作業機械100に取り付けられた集音装置(外部集音装置M1又は内部集音装置M2)と内部音出力装置SP2Cとを利用し、作業現場で発せられる音を聞くことができる。また、管理センタMCにいる管理者は、例えば、遠隔操作室RCに設けられた内部集音装置M2Eと内部音出力装置SP2Cとを利用し、遠隔操作室RCで発せられる音を聞くことができる。また、管理センタMCにいる管理者は、例えば、内部集音装置M2Cと作業機械100に取り付けられた外部音出力装置SP1とを利用し、自身が発した声を作業機械100の周囲にいる作業者WKに伝えることができる。また、管理センタMCにいる管理者は、例えば、内部集音装置M2Cと作業機械100に取り付けられた内部音出力装置SP2とを利用し、自身が発した声を作業機械100の操作者OPに伝えることができる。また、管理センタMCにいる管理者は、例えば、内部集音装置M2Cと遠隔操作室RCに設けられた内部音出力装置SP2Eとを利用し、自身が発した声を遠隔操作室RCにいる遠隔操作者ROに伝えることができる。
(他の実施形態)
 他の実施形態として、操作者が双方向会を実現するための音の出力機能及び作業者に話しかけるか否かの切り替えについて説明する。
 内部音量ダイヤルDL2は、内部音出力装置SP2から出力される音量を調整する他に、押しボタンスイッチ機能を有している。本実施形態に係る内部音量ダイヤルDL2が押下されたか否かに応じて、音の出力をミュートにするか否かが切り替えられる。
 スイッチSWは、押下に応じて音の出力機能のオン、オフを切り替えるためのボタンである。スイッチSWの具体的な機能は、上述した通りとして説明を省略する。
 作業機械100のコントローラ30は、音の出力機能がオフの状態において、スイッチSWから押下されたことを示す信号を受信した場合に、音の出力機能をオンとする。
 外部音量ダイヤルDL1は、外部音出力装置SP1から出力される音の音量を調整する他に、押しボタンスイッチ機能を有している。本実施形態に係る外部音量ダイヤルDL1が押下されたか否かに応じて、作業機械100の周囲にいる作業者に話しかけるか否かが切り替えられる。換言すれば、外部音量ダイヤルDL1の押下は、図5に示されるノブスイッチの発話ボタンKSと同様の発話ボタンとして機能する。
 つまり、作業機械100のコントローラ30は、外部音量ダイヤルDL1(発話ボタン)が押下されたことを示す信号を受信した場合に、内部集音装置M2が収集した(操作者OPが発した音声を含む)音を外部音出力装置SP1からの出力制御を可能とする。
 また、作業機械100のコントローラ30は、音の出力機能がオンの状態において、内部音量ダイヤルDL2から押下されたことを示す信号を受信した場合に、出力される音をミュートにする。これにより、コントローラ30は、外部集音装置M1が収集した(作業機械100周辺に存在している作業者WKが発した音声を含む)音を内部音出力装置SP2からの出力制御を停止する。
 本実施形態においては、音の出力機能が利用可能となる条件を制限するものではなく、実施態様に応じて定めてよい。
 例えば、作業機械100のコントローラ30は、作業機械100の駆動源11が動作した状態に限り、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能とする。したがって、コントローラ30は、作業機械100の駆動源11が動作した状態において、外部集音装置M1が収集した音を内部音出力装置SP2からの出力制御を可能とし、且つ、内部集音装置M2が収集した音を外部音出力装置SP1からの出力制御を可能とする。そして、コントローラ30は、駆動源11が動作していない状態において、外部集音装置M1が収集した音を内部音出力装置SP2からの出力制御を抑制し、且つ、内部集音装置M2が収集した音を外部音出力装置SP1からの出力制御を抑制する。本実施形態においては、作業機械100の駆動源11が動作した状態において、双方向会話を可能としている。したがって、操作者は、作業機械100の作業中において、作業機械100の周辺に存在する人との間でコミュニケーションを行うことで、作業効率の向上を実現できる。さらに、コントローラ30が、音の出力機能の利用を、作業機械100の駆動源11が動作した状態に制限することで、電力消費量を抑制できる。
 他の例としては、作業機械100のコントローラ30は、(作業機械100の駆動源11が動作した状態を含む)作業機械100がキーオン状態に限り、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能とする。つまり、作業機械100では、作業機械100に設けられている周辺機器(例えば空調機器、ラジオチューナ等)に電力の供給が行われている場合には、音の出力機能のオンにできると共に作業者に話しかけることができる。したがって、コントローラ30は、作業機械100に設けられている周辺機器(例えば空調機器、ラジオチューナ等)に電力の供給が行われているキーオン状態において、外部集音装置M1が収集した音を内部音出力装置SP2からの出力制御を可能とし、且つ、内部集音装置M2が収集した音を外部音出力装置SP1からの出力制御を可能とする。そして、コントローラ30は、キーオフ状態において、外部集音装置M1が収集した音を内部音出力装置SP2からの出力制御を抑制し、且つ、内部集音装置M2が収集した音を外部音出力装置SP1からの出力制御を抑制する。本実施形態においては、作業機械100がキーオン状態において、双方向会話を可能としている。したがって、操作者は、作業機械100による作業が行われていない時、例えば、作業前の事前打合せ等でも、作業機械100の周辺に存在する人との間でコミュニケーションを容易に行うことができるので、作業効率の向上を実現できる。
 他の例としては、作業機械100のコントローラ30は、作業機械100のゲートロックレバーGLが第2操作位置にありゲートバー55が通過禁止状態にある場合に限り、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、外部音量ダイヤルDL1の押下を示す信号に応じて、作業者に話しかけるか否かを切り替えることを可能とする。さらには、作業機械100のコントローラ30は、作業機械100のゲートロックレバーGLが第1操作位置にありゲートバー55が通過可能状態にある場合に、スイッチSWからの信号に応じて音の出力機能のオンとオフとを切り替えることを可能にすると共に、(外部音量ダイヤルDL1の)発話ボタンKSからの信号に応じて、作業者に話しかけるか否かを切り替えることを可能としてもよい。
 さらなる例としては、作業機械100のコントローラ30は、作業機械100がキーオフ状態、換言すれば、エンジン11が動作していない、且つ、作業機械100に設けられている周辺機器等に電力の供給が行われていない状態であっても、内部音量ダイヤルDL2からの信号に応じて、音の出力機能のオンとオフとを切り替えることを可能とする手法がある。つまり、コントローラ30は、キーオン状態及びキーオフ状態を問わず、外部集音装置M1が収集した音を内部音出力装置SP2からの出力制御を可能とし、且つ、内部集音装置M2が収集した音を外部音出力装置SP1からの出力制御を可能とする。本実施形態においては、作業機械100が任意のタイミングで、双方向会話を可能としている。したがって、操作者が話したにもかかわらず、周囲に聞こえていない等の状況が生じることを抑制できるので、コミュニケーションの疎通が容易になる。
 上述した実施形態においては、外部集音装置M1と外部音出力装置SP1とが上部旋回体3に設けられている例について説明した。しかしながら、上述した実施形態は、外部集音装置M1と外部音出力装置SP1を、上部旋回体3に設ける態様に制限するものではない。以下の実施形態では、外部集音装置と外部音出力装置とを、作業機械100から離れた位置に設ける例について説明する。
 次に、図14を参照し、他の実施形態に係る操作システム(制御システムの一例)SYS1の構成例について説明する。図14は、本実施形態に係る作業機械100Aの操作システム(作業機械の制御システムの一例)SYS1の構成例を示す概略図である。操作システムSYS1は、図14に示すように、作業機械100A、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504を含む。
 作業機械100Aは、図1に示す作業機械100と同じ構成でもよいし、作業機械100から外部集音装置M1及び外部音出力装置SP1のうちいずれか一つ以上が取り外された構成でもよい。つまり、本実施形態は、外部集音装置M1及び外部音出力装置SP1のうちいずれか一つ以上が設けられていない作業機械100Aでも双方向会話を実現する場合について説明する。
 設置型マイク1501は、作業現場に設けられた集音装置であって、作業機械100Aと無線通信又は有線で接続可能とする。設置型マイク1501は、収集した音を示す音信号を、作業機械100に送信する。
 設置型スピーカ1502は、作業現場に設けられた音出力装置であって、作業機械100と無線通信又は有線で接続可能とする。設置型スピーカ1502は、作業機械100Aから受信した音信号で示される音を出力する。
 自律移動ロボット1504は、集音装置1503A及び音出力装置1503Bが設けられ、作業機械100と無線通信又は有線で接続可能とする。自律移動ロボット1504は、集音装置1503Aにより収集された音を示す音信号を、作業機械100Aに送信する。また、自律移動ロボット1504は、作業機械100から受信した音信号で示される音を、音出力装置1503Bから出力する。
 自律移動ロボット1504は、作業現場の領域内を移動可能とする。本実施形態は、自律移動ロボット1504の移動態様を制限するものではない。例えば、自律移動ロボット1504に(図示しない)カメラ(検出装置の一例)が設けられている場合に、自律移動ロボット1504は、カメラで撮像された画像情報に基づいて、作業機械100Aが存在する位置を特定し、作業機械100Aが移動する場合に、作業機械100Aに追従するように移動してもよい。また、自律移動ロボット1504は、作業機械100Aとの間の通信における信号強度が所定の閾値以上になるように、作業機械100Aに追従してもよい。さらには、自律移動ロボット1504は、カメラで撮像された画像情報に基づいて、作業者が存在する位置を特定し、作業者の音声を収集可能な位置まで移動してもよい。
 ドローン1503は、集音装置1503A及び音出力装置1503Bが設けられ、作業機械100Aと無線通信又は有線で接続可能とする。ドローン1503は、集音装置1503Aにより収集された音を示す音信号を、作業機械100Aに送信する。また、ドローン1503は、作業機械100Aから受信した音信号で示される音を、音出力装置1503Bから出力する。
 ドローン1503は、作業現場の領域内を飛行可能に設けられている。本実施形態は、ドローン1503の移動態様を制限するものではなく、自律移動ロボット1504と同様に作業機械100Aに追従して移動してもよいし、作業者の音声を収集可能な位置まで移動してもよい。ドローン1503は、飛行しているので、作業現場の地形又は障害物にかかわらず、移動できる。
 作業現場に設けられる、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々の数は、1つでもよいし、複数でもよい。
 作業機械100Aは、作業機械100と同様にコントローラ30を備えている。コントローラ30は、通信装置T1を用いることで、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々との間で情報の送受信を可能とする。
 つまり、本実施形態に係るコントローラ30は、内部集音装置M2によって収集された音を示す音信号を、通信装置T1を介して、作業機械100Aから離れた位置に存在する音出力装置に送信する制御を行い、作業機械100Aから離れた位置に存在する集音装置から通信装置を介して受信した音信号に示される音を、内部音出力装置SP2から出力する制御を行う。
 例えば、コントローラ30は、内部集音装置M2が収集した音を示す音信号を、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504のうち少なくとも一つ以上に送信する。
 他の例としては、コントローラ30は、設置型マイク1501、ドローン1503、及び、自律移動ロボット1504のうち少なくとも一つ以上から音信号を受信し、受信した音信号で示される音を、内部音出力装置SP2から出力する。
 作業現場に設置される集音装置及び音出力装置は、上述した態様に制限するものではない。例えば、作業現場を監視する監視装置が、空間認識装置(例えば撮像装置)に加えて、集音装置及び音出力装置が備えられる手法がある。
 ところで、作業現場が広い場合には、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々が複数設けられることになる。さらには、作業現場に存在する作業機械100Aの数も多くなる。この場合、作業現場に存在する設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の全てが、作業機械100Aから受信した音信号による音声を出力すると、作業現場に存在する人は、どの作業機械100Aからの音声か認識するのが難しい。
 そこで、本実施形態に係る作業機械100Aは、所定の条件を満たした場合に限り、作業現場に存在する、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504のうち少なくとも一つ以上と通信を確立し、双方向会話を実現可能とする。本実施形態では、例えば、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々のうち、作業機械100Aと所定の距離内と判定された機器について、通信を確立して双方向会話を実現する。
 作業機械100Aが、所定の範囲内か否かを判定する手法は、周知の手法を問わず、あらゆる手法を用いてよい。例えば、撮像装置S6が撮像した画像情報に機器が写っている場合に、写っているサイズ及び位置等から、当該機器までの距離を判定してもよい。その際に、機器に2次元コードが示されたシール等を張り付けることも考えられる。コントローラ30は、画像情報に写っている2次元コードから、画像情報に写っている機器に関する情報(例えば機器の固有情報、接続先のアドレス情報等)を認識できる。
 他の例としては、作業機械100Aのコントローラ30が、設置型マイク1501及び設置型スピーカ1502の位置情報を予め記憶する手法がある。そして、コントローラ30は、測位装置PSによって測定された位置に基づいて、設置型マイク1501及び設置型スピーカ1502が所定の範囲内に存在するか否かを判定する。さらには、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504の各々は、作業機械100Aに対して定期的に位置情報を送信する手法がある。
 また、本実施形態は、音の出力及び音の収集のうち少なくとも一つ以上を実現する条件を、所定の距離内という条件を満たした場合に制限するものではない。例えば、作業機械100Aが複数存在する場合に、複数の作業機械100Aのうち最も近い作業機械100Aが、音の出力機能を実現するための機器(例えば、設置型マイク1501、設置型スピーカ1502、ドローン1503、又は、自律移動ロボット1504)と、音の出力及び音の収集のうち少なくとも一つ以上を実現するために、通信を確立してもよい。さらには、複数の作業機械100Aの各々に優先順位が設定されてもよい。そして、音の出力機能を実現するための機器(例えば、設置型マイク1501、設置型スピーカ1502、ドローン1503、又は、自律移動ロボット1504)は、複数の作業機械100Aのうち、優先順位が最も高い作業機械100Aとの間で、音の出力及び音の収集のうち少なくとも一つ以上を実現するために、通信を確立してもよい。
 また、本実施形態は、作業機械100Aとの間の音信号の送受信の対象を、図14に示される、設置型マイク1501、設置型スピーカ1502、ドローン1503、及び、自律移動ロボット1504に制限するものではない。例えば、作業機械100Aは、人が所有する通信端末との間で音信号を送受信してもよい。
 本実施形態では、コントローラ30による、運転室の外側に設けられた音出力装置から出力するための制御として、作業機械100Aと離れた位置に存在する音出力装置を有する機器に、音信号を送信する例について説明した。本実施形態では、作業機械100Aに外部音出力装置SP1及び外部集音装置M1が設けられていない場合でも、作業機械100Aに搭乗している操作者と、作業機械100Aの外部に存在する人と、の間の双方向会話を実現できる。
 さらに、本実施形態では、作業機械100Aと離れた位置に存在する集音装置及び音出力装置を用いるので、作業機械100Aに設けられている外部音出力装置SP1及び外部集音装置M1を利用する場合と比べて、外部に存在する人に音声の伝達、及び外部に存在する人の音声の収集の際に、騒音等の影響を抑制して、双方向会話を容易にできる。
 本実施形態では、作業機械100Aに操作者が搭乗している場合について説明したが、作業機械100Aに操作者が搭乗している場合に制限するものではなく、遠隔操作者ROが作業機械100Aを遠隔操作室RCから操作する場合でも、本実施形態で示したような、作業機械100Aから離れた位置に設けられた音出力装置及び集音装置を用いて、双方向会話を実現してもよい。つまり、作業機械を操作している操作者が存在する領域と、作業機械の外部との各々の領域に設けられた集音装置及び音出力装置によって、互いの領域でそれぞれの音を伝達する機能が設けられていればよい。
 上述した実施形態で示した内部集音装置、外部集音装置、内部音出力装置、及び、外部音出力装置は、様々な実施態様が考えられる。
 例えば、操作者が発した音声を取得可能な位置に設けられた内部集音装置は、内部集音装置M2、M2C、M2Eを含む。また、操作者が発した音声を取得可能である、操作者の口付近に設けられた内部集音装置は、内部集音装置M2、M2C、M2Eを含む。また、操作者がコミュニケーションを行いたい場合に、操作者が向く方向に設けられている内部集音装置は、内部集音装置M2、M2C、M2Eを含む。
 例えば、作業機械が作業を行う作業現場で生じた音を取得可能な位置に設けられた外部集音装置は、外部集音装置M1(M1F、M1R、M1L、M1B)、設置型マイク1501、集音装置1503A、外部集音装置1504Aを含む。例えば、作業機械が作業を行う作業現場に存在する人が発した音声を取得可能な位置に設けられた外部集音装置は、外部集音装置M1(M1F、M1R、M1L、M1B)、設置型マイク1501、集音装置1503A、外部集音装置1504Aを含む。作業機械100と連携して作業を行いたい作業者が発した音声を取得可能な位置に設けられた外部集音装置は、外部集音装置M1(M1F、M1R、M1L、M1B)、設置型マイク1501、集音装置1503A、外部集音装置1504Aを含む。
 例えば、操作者が出力された音を聞くことが可能な位置に設けられた内部音出力装置は、内部音出力装置SP2(SP2R、SP2L)、SP2C、SP2Eを含む。また、操作者が出力された音を聞くことができるように、操作者の各耳付近に設けられた内部音出力装置は、内部音出力装置SP2(SP2R、SP2L)、SP2C、SP2Eを含む。
 例えば、作業機械が作業を行う作業現場に存在する人が、作業機械の操作者が発した音声を聞くことが可能になる位置に設けられた外部音出力装置は、外部音出力装置SP1、設置型スピーカ1502、音出力装置1503B、外部音出力装置1504Bを含む。作業機械と連携して作業を行いたい作業者が、作業機械の操作者が発した音声を聞くことが可能になる位置に設けられた外部音出力装置は、外部音出力装置SP1、設置型スピーカ1502、音出力装置1503B、外部音出力装置1504Bを含む。
 以上の実施形態で説明した本開示の技術的思想および効果について以下に記載する。
 本開示の第1の態様に係る作業機械100は、下部走行体1と、下部走行体1に旋回可能に設けられる上部旋回体3と、上部旋回体3に設けられ、操作者が搭乗可能な運転室10と、運転室10の外部に設けられる外部集音装置M1と、運転室10の内部に設けられる内部音出力装置SP2と、外部集音装置M1により取得した音情報を処理する制御装置(コントローラ30)と、を備える。制御装置は、外部集音装置M1により取得した音情報の重要度を設定し、重要度が高い音情報を選択して内部音出力装置SP2に出力する。
 上記によれば、作業機械100は、操作者OPと外部の作業者WKとが会話する場合に、操作者OPの認識性を向上させることができる。すなわち、制御装置(コントローラ30)が外部集音装置M1の音情報の重要度を設定して内部音出力装置SP2から重要度が高い音情報を出力することにより、操作者OPは、重要度が高い音声を選択的に聞くことができる。その結果、操作者OPは、重要度が高い内容を認識して、作業機械100の操作に反映する等のように適切な対応をとることができる。
 また、制御装置(コントローラ30)は、外部集音装置M1で取得した2つ以上の音情報に対して重要度を設定して、重要度が高い1つの音情報を内部音出力装置SP2に出力する構成であってもよい。
 これにより、複数の作業者WKが同時に音声を発した場合でも、操作者OPは、重要度が高い音声の内容を聞くことができる。
 また、制御装置(コントローラ30)は、音情報を取得したときの作業機械100の状況を認識し、認識した状況に基づいて音情報の重要度を設定する。
 これにより、作業機械100は、状況に応じて設定された重要度の高い音情報を操作者OPに出力できる。
 また、制御装置(コントローラ30)は、作業機械100の状況として、音情報の音源(作業者WK)の位置情報、作業機械100の動作モード、操作者が選択した作業者WK、音情報の内容のうち少なくとも1つを認識し、認識した状況に対応して音情報の重要度を設定する。
 これにより、作業機械100は、状況に応じて適切な重要度を設定することができる。
 また、運転室10の外部を撮像する撮像装置S6を備え、制御装置(コントローラ30)は、外部集音装置M1により取得した音情報または撮像装置S6が撮像した撮像情報に基づいて、音情報の音源(作業者WK)の位置情報を算出する。
 これにより、作業機械100は、音源の位置情報を精度よく認識することができる。
 また、制御装置(コントローラ30)は、作業機械100の死角の近くに位置する音源(作業者WK)ほど重要度を高くする。
 これにより、操作者OPは、作業機械100の死角の方向に位置する音源の音情報を良好に認識できる。
 また、制御装置(コントローラ30)は、作業機械の近くに位置する音源ほど重要度を高くする。
 これにより、操作者OPは、作業機械100の近くに位置する音源の音情報を良好に認識できる。
 また、制御装置(コントローラ30)は、撮像情報に含まれる作業者WKを抽出し、作業機械100を向いて音声を発している作業者WKの音情報の重要度を高くする。
 これにより、操作者OPは、作業機械100に向かって話している作業者WKの音情報を良好に認識できる。
 また、制御装置(コントローラ30)は、作業機械100の動作モードとして当該作業機械100が走行する走行モードを認識した場合に、作業機械100の進行方向前方に位置する音源(作業者WK)の音情報の重要度を高くする。
 これにより、操作者OPは、作業機械100の走行方向前方に位置する音源の音情報を良好に認識できる。
 また、制御装置(コントローラ30)は、作業機械100の動作モードとして当該作業機械100が旋回する旋回モードを認識した場合に、作業機械100の旋回方向前方に位置する音源(作業者WK)の音情報の重要度を高くする。
 これにより、操作者OPは、作業機械100の旋回方向前方に位置する音源の音情報を良好に認識できる。
 また、制御装置(コントローラ30)は、作業機械100の動作モードとして当該作業機械100の作業部が動作する作業部動作モード(アタッチメント動作モード)を認識した場合に、作業機械100の死角方向に位置する音源(作業者WK)の音情報の重要度を高くする。
 これにより、操作者OPは、作業機械100の死角に位置する音源の音情報を良好に認識できる。
 また、運転室10は、操作者が操作可能な入力装置D2を備え、制御装置(コントローラ30)は、操作者OPの入力装置D2の操作により選択された作業者WKが発する音情報の重要度を高くする。
 これにより、操作者OPは、会話を行いたい作業者WKの音情報の重要度を高くすることができる。
 また、運転室10の外部を撮像する撮像装置S6と、運転室10において撮像装置S6が撮像した撮像情報を表示する表示装置D1と、を備え、制御装置(コントローラ30)は、表示装置D1に表示された撮像情報の作業者WKを操作者OPにより選択可能とする。
 これにより、作業機械100は、操作者OPが会話を行いたい作業者WKの選択をスムーズに設定させることができる。
 また、制御装置(コントローラ30)は、音情報の内容として当該音情報に含まれるキーワードを抽出し、予め記憶された参照キーワードに近いキーワードを含む音情報の重要度を高くする。
 これにより、作業機械100は、キーワードに応じた音情報を操作者OPに容易に伝達することができる。
 また、制御装置(コントローラ30)は、音情報の内容として当該音情報の緊張度を算出し、緊張度が高い音情報の重要度を高くする。
 これにより、作業機械100は、緊張度が高い音情報を操作者OPに容易に伝達することができる。
 また、運転室10の外部を撮像する撮像装置S6を備え、制御装置(コントローラ30)は、撮像装置S6が撮像した撮像情報に含まれる作業者WKのジェスチャを抽出し、予め記憶された参照ジェスチャに近いジェスチャの作業者WKの音情報の重要度を高くする。
 これにより、作業機械100は、操作者OPと会話したい作業者WKの音情報を高くして、会話をスムーズに行わせることができる。
 また、運転室10の操作者OPの音声を集音する内部集音装置M2と、運転室10の外部に向けて音を出力する外部音出力装置SP1と、を備える。
 これにより、作業機械100は、操作者OPの音声を外部の作業者WKに容易に伝達できる。
 また、運転室10は、発話ボタンKSを備え、発話ボタンKSが押されているときに、内部集音装置M2は音を集音し、外部音出力装置SP1は、内部集音装置M2によって集音された音を出力する。
 これにより、作業機械100は、操作者OPが伝えたい情報のみを外部に出力させることができる。
 また、本開示の第2に係る作業機械100の操作システムSYSは、下部走行体1、および下部走行体1に旋回可能に設けられる上部旋回体3を備える作業機械100と、作業機械100を操作する操作室(遠隔操作室RC)と、操作室の内側に配置される内側音出力装置(内部音出力装置SP2E)と、操作室より外側に配置される集音装置(外部集音装置M1)と、集音装置により取得した音情報を処理する制御装置(コントローラ30)と、を備える。制御装置は、集音装置により取得した音情報の重要度を設定し、重要度が高い音情報を選択して内側音出力装置に出力する。
 この場合でも、作業機械100の操作システムSYSは、作業機械100の操作者OPと外部の作業者WKとが会話する場合に、操作者OPの認識性を向上させることができる。
 以上、本開示の好ましい実施形態が説明された。しかしながら、本開示に係る発明は、上述した実施形態に限定されることはない。上述した実施形態は、本開示に係る発明の範囲を逸脱することなしに、種々の変形、置換等が適用され得る。また、上述した実施形態を参照して説明された特徴のそれぞれは、技術的に矛盾しない限り、適宜に組み合わされてもよい。
 本願は、日本特許庁に2024年3月11日に出願された基礎出願である特願2024-037503号の優先権を主張するものであり、その全内容を参照によりここに援用する。
 1・・・下部走行体 1C・・・クローラ 1CL・・・左クローラ 1CR・・・右クローラ 2・・・旋回機構 2A・・・旋回油圧モータ 2ML・・・左走行油圧モータ 2MR・・・右走行油圧モータ 3・・・上部旋回体 4・・・ブーム 5・・・アーム 6・・・バケット 7・・・ブームシリンダ 8・・・アームシリンダ 9・・・バケットシリンダ 10・・・運転室 11・・・エンジン 13・・・レギュレータ 14・・・メインポンプ 15・・・パイロットポンプ 17・・・コントロールバルブユニット 26・・・操作装置 26DL・・・左走行レバー 26DR・・・右走行レバー 26L・・・左操作レバー 26PL・・・左走行ペダル 26PR・・・右走行ペダル 26R・・・右操作レバー 27・・・レバーブーツ 28・・・吐出圧センサ 29・・・操作センサ 30・・・コントローラ 31・・・弁 40・・・遠隔コントローラ 42・・・操作装置 43・・・操作センサ 50・・・運転席 51・・・座部 52・・・背もたれ 53L・・・左アームレスト 53R・・・右アームレスト 54L・・・左コンソール 54R・・・右コンソール 55・・・ゲートバー 56・・・窓側コンソール 100・・・作業機械 200・・・管理装置 171~176・・・制御弁 AT・・・アタッチメント D1、D1E・・・表示装置 D2・・・入力装置 DL・・・音量ダイヤル DS・・・操作席 G1・・・情報伝達装置 G1B・・・後ライトバー G1F・・・前ライトバー G1L・・・左ライトバー G1R・・・右ライトバー GL・・・ゲートロックレバー HS・・・ホーンボタン KS・・・発話ボタン M1・・・外部集音装置 M1B・・・後マイク M1F・・・前マイク M1L・・・左マイク M1R・・・右マイク M2、M2C、M2E・・・内部集音装置 OP・・・操作者 PS・・・測位装置 RC・・・遠隔操作室 RO・・・遠隔操作者 S1・・・ブーム角度センサ S2・・・アーム角度センサ S3・・・バケット角度センサ S4・・・機体傾斜センサ S5・・・旋回センサ S6・・・撮像装置 S6B・・・後カメラ S6F・・・前カメラ S6L・・・左カメラ S6R・・・右カメラ SP1・・・外部音出力装置 SP1B・・・後スピーカ SP1F・・・前スピーカ SP1L・・・左スピーカ SP1R・・・右スピーカ SP2、SP2C、SP2E・・・内部音出力装置 SP2L・・・左室内スピーカ SP2R・・・右室内スピーカ SW・・・スイッチ SYS・・・操作システム T1、T2・・・通信装置 WK・・・作業者

Claims (19)

  1.  下部走行体と、
     前記下部走行体に旋回可能に設けられる上部旋回体と、
     前記上部旋回体に設けられ、操作者が搭乗可能な運転室と、
     前記運転室の外部に設けられる外部集音装置と、
     前記運転室の内部に設けられる内部音出力装置と、
     前記外部集音装置により取得した音情報を処理する制御装置と、を備える作業機械であって、
     前記制御装置は、前記外部集音装置により取得した前記音情報の重要度を設定し、前記重要度が高い前記音情報を選択して前記内部音出力装置に出力する、
     作業機械。
  2.  前記制御装置は、前記外部集音装置で取得した2つ以上の前記音情報に対して前記重要度を設定して、前記重要度が高い1つの前記音情報を前記内部音出力装置に出力する、
     請求項1に記載の作業機械。
  3.  前記制御装置は、前記音情報を取得したときの前記作業機械の状況を認識し、認識した前記状況に基づいて前記音情報の前記重要度を設定する、
     請求項1または2に記載の作業機械。
  4.  前記制御装置は、前記作業機械の前記状況として、前記音情報の音源の位置情報、前記作業機械の動作モード、前記操作者が選択した作業者、前記音情報の内容のうち少なくとも1つを認識し、認識した前記状況に対応して前記音情報の前記重要度を設定する、
     請求項3に記載の作業機械。
  5.  前記運転室の外部を撮像する撮像装置を備え、
     前記制御装置は、前記外部集音装置により取得した前記音情報または前記撮像装置が撮像した撮像情報に基づいて、前記音情報の前記音源の位置情報を算出する、
     請求項4に記載の作業機械。
  6.  前記制御装置は、前記作業機械の死角の近くに位置する前記音源ほど前記重要度を高くする、
     請求項5に記載の作業機械。
  7.  前記制御装置は、前記作業機械の近くに位置する前記音源ほど前記重要度を高くする、
     請求項5に記載の作業機械。
  8.  前記制御装置は、前記撮像情報に含まれる作業者を抽出し、前記作業機械を向いて音声を発している作業者の前記音情報の前記重要度を高くする、
     請求項5に記載の作業機械。
  9.  前記制御装置は、前記作業機械の動作モードとして当該作業機械が走行する走行モードを認識した場合に、前記作業機械の進行方向前方に位置する前記音源の前記音情報の前記重要度を高くする、
     請求項4に記載の作業機械。
  10.  前記制御装置は、前記作業機械の動作モードとして当該作業機械が旋回する旋回モードを認識した場合に、前記作業機械の旋回方向前方に位置する前記音源の前記音情報の前記重要度を高くする、
     請求項4に記載の作業機械。
  11.  前記制御装置は、前記作業機械の動作モードとして当該作業機械の作業部が動作する作業部動作モードを認識した場合に、前記作業機械の死角方向に位置する前記音源の前記音情報の前記重要度を高くする、
     請求項4に記載の作業機械。
  12.  前記運転室は、前記操作者が操作可能な入力装置を備え、
     前記制御装置は、前記操作者の前記入力装置の操作により選択された作業者が発する前記音情報の前記重要度を高くする、
     請求項4に記載の作業機械。
  13.  前記運転室の外部を撮像する撮像装置と、
     前記運転室において前記撮像装置が撮像した撮像情報を表示する表示装置と、を備え、
     前記制御装置は、前記表示装置に表示された前記撮像情報の前記作業者を前記操作者により選択可能とする、
     請求項12に記載の作業機械。
  14.  前記制御装置は、前記音情報の内容として当該音情報に含まれるキーワードを抽出し、予め記憶された参照キーワードに近い前記キーワードを含む前記音情報の前記重要度を高くする、
     請求項4に記載の作業機械。
  15.  前記制御装置は、前記音情報の内容として当該音情報の緊張度を算出し、前記緊張度が高い前記音情報の前記重要度を高くする、
     請求項4に記載の作業機械。
  16.  前記運転室の外部を撮像する撮像装置を備え、
     前記制御装置は、前記撮像装置が撮像した撮像情報に含まれる作業者のジェスチャを抽出し、予め記憶された参照ジェスチャに近い前記ジェスチャの前記作業者の前記音情報の前記重要度を高くする、
     請求項3に記載の作業機械。
  17.  前記運転室の前記操作者の音声を集音する内部集音装置と、
     前記運転室の外部に向けて音を出力する外部音出力装置と、を備える、
     請求項1または2に記載の作業機械。
  18.  前記運転室は、発話ボタンを備え、
     前記発話ボタンが押されているときに、前記内部集音装置は音を集音し、前記外部音出力装置は、前記内部集音装置によって集音された音を出力する、
     請求項17に記載の作業機械。
  19.  下部走行体、および前記下部走行体に旋回可能に設けられる上部旋回体を備える作業機械と、
     前記作業機械を操作する操作室と、
     前記操作室の内側に配置される内側音出力装置と、
     前記操作室より外側に配置される集音装置と、
     前記集音装置により取得した音情報を処理する制御装置と、を備え、
     前記制御装置は、前記集音装置により取得した前記音情報の重要度を設定し、前記重要度が高い前記音情報を選択して前記内側音出力装置に出力する、
     作業機械の操作システム。
PCT/JP2025/008898 2024-03-11 2025-03-10 作業機械、及び作業機械の操作システム Pending WO2025192555A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2024-037503 2024-03-11
JP2024037503 2024-03-11

Publications (1)

Publication Number Publication Date
WO2025192555A1 true WO2025192555A1 (ja) 2025-09-18

Family

ID=97064063

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2025/008898 Pending WO2025192555A1 (ja) 2024-03-11 2025-03-10 作業機械、及び作業機械の操作システム

Country Status (1)

Country Link
WO (1) WO2025192555A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012058314A (ja) * 2010-09-06 2012-03-22 Hitachi Ltd 音響処理システム及びこれを用いた機械
JP2014182038A (ja) * 2013-03-19 2014-09-29 Sumitomo Heavy Ind Ltd 作業機械用周辺監視装置
JP2016005181A (ja) * 2014-06-18 2016-01-12 シャープ株式会社 集音装置、その制御方法、および、その制御プログラム
JP2019167680A (ja) * 2018-03-22 2019-10-03 住友重機械工業株式会社 ショベル
US20190348057A1 (en) * 2018-05-10 2019-11-14 Caterpillar Inc. Sound Dampening And Pass Through Filtering
JP2021127640A (ja) * 2020-02-15 2021-09-02 コベルコ建機株式会社 作業機械の遠隔操作支援システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012058314A (ja) * 2010-09-06 2012-03-22 Hitachi Ltd 音響処理システム及びこれを用いた機械
JP2014182038A (ja) * 2013-03-19 2014-09-29 Sumitomo Heavy Ind Ltd 作業機械用周辺監視装置
JP2016005181A (ja) * 2014-06-18 2016-01-12 シャープ株式会社 集音装置、その制御方法、および、その制御プログラム
JP2019167680A (ja) * 2018-03-22 2019-10-03 住友重機械工業株式会社 ショベル
US20190348057A1 (en) * 2018-05-10 2019-11-14 Caterpillar Inc. Sound Dampening And Pass Through Filtering
JP2021127640A (ja) * 2020-02-15 2021-09-02 コベルコ建機株式会社 作業機械の遠隔操作支援システム

Similar Documents

Publication Publication Date Title
JP7407178B2 (ja) ショベル
US20250283305A1 (en) Work machine and operation system for work machine
JP2020183623A (ja) ショベル
US20250283306A1 (en) Work machine and control system for work machine
JP2020183622A (ja) ショベル、ショベルのシリーズ
WO2025192541A1 (ja) 作業機械及びシステム
JP2025138399A (ja) 作業機械、及び作業機械の操作システム
WO2025192548A1 (ja) 作業機械及びシステム
WO2025192550A1 (ja) 作業機械、作業機械システム
JP2025138612A (ja) 作業機械及び作業機械の操作システム
US20250283307A1 (en) Work machine and control system for work machine
JP2025138400A (ja) 作業機械、作業機械の操作システム
WO2025192552A1 (ja) 作業機械、作業機械システム
JP2025138418A (ja) 作業機械、及び作業機械の操作システム
WO2025192546A1 (ja) 作業機械、操作支援システム
JP2025138402A (ja) 作業機械、作業機械の操作システム
WO2025192545A1 (ja) 作業機械、作業機械システム
WO2025192547A1 (ja) 作業機械、及び作業機械の制御システム
WO2025192543A1 (ja) 作業機械、及び作業機械の制御システム
WO2025192549A1 (ja) 作業機械及び作業機械の操作システム
WO2025192553A1 (ja) 作業機械及び作業機械のシステム
JP2025138415A (ja) 作業機械、及び作業機械の制御システム
WO2025192544A1 (ja) 作業機械及び作業機械の操作システム
US20250283300A1 (en) Work machine and operation support system
WO2025192542A1 (ja) 作業機械、及び作業機械の制御システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 25769362

Country of ref document: EP

Kind code of ref document: A1