WO2024048517A1 - 情報処理方法、及び、情報処理装置 - Google Patents

情報処理方法、及び、情報処理装置 Download PDF

Info

Publication number
WO2024048517A1
WO2024048517A1 PCT/JP2023/030978 JP2023030978W WO2024048517A1 WO 2024048517 A1 WO2024048517 A1 WO 2024048517A1 JP 2023030978 W JP2023030978 W JP 2023030978W WO 2024048517 A1 WO2024048517 A1 WO 2024048517A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
operator
gaze
robot
degree
Prior art date
Application number
PCT/JP2023/030978
Other languages
English (en)
French (fr)
Inventor
祐希 小竹原
俊介 久原
稔也 新井
Original Assignee
パナソニックＩｐマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックＩｐマネジメント株式会社 filed Critical パナソニックＩｐマネジメント株式会社
Publication of WO2024048517A1 publication Critical patent/WO2024048517A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M11/00—Telephonic communication systems specially adapted for combination with other electrical systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04Q—SELECTING
    • H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom

Definitions

  • the present disclosure relates to an information processing method and an information processing device.
  • a remote control system in which an operator remotely controls a robot that can run autonomously depending on the situation using wireless communication such as a wireless LAN (Local Area Network) or a mobile phone line.
  • wireless communication such as a wireless LAN (Local Area Network) or a mobile phone line.
  • Such a remote control system uses sensing results obtained by observing the surroundings of a controlled robot (hereinafter simply referred to as a robot) using various sensors such as millimeter wave radar, laser radar, and cameras. Detect a predetermined event from. Furthermore, in the remote control system, when a predetermined event is detected, the robot notifies the operator via the communication means. The operator remotely controls the robot (that is, remotely operates it) based on the notification.
  • Patent Document 1 when a vehicle passes through a point where remote support is provided to the vehicle when traveling to a destination, the estimated time of arrival at the point where remote support is required is disclosed. A technique is disclosed for predicting the timing at which operator assistance will be started based on the following. As a result, Patent Document 1 enables remote support of an operator at an appropriate timing.
  • the operator can remotely control the robot based on his/her own judgment based on images of the surroundings of the robot.
  • the notification from the robot that the operator confirms (hereinafter also referred to as a gaze request) requests the operator to respond as necessary. Therefore, there are cases in which an operator who receives a gaze request gazes at the object, but ends up not responding.
  • An example of such a case is a case where, when a running robot passes near a pedestrian, a gaze request indicating that the pedestrian is approaching is generated.
  • the operator will perform gaze based on the gaze request, and if there is a possibility of a collision between the robot and the pedestrian, the operator will take measures such as stopping temporarily, and the robot will continue to walk beside the pedestrian. There is no special response if the vehicle passes by. In such a case, as a result, the operator does not need to take any action.
  • the present disclosure aims to solve the above problems and provide an information processing method etc. that can reduce the burden on the operator.
  • an information processing method is an information processing method executed by a computer, in which a mobile object remotely watched or operated by an operator, at a first time, Obtaining first gaze request information regarding an event that occurred around the moving object, second gaze request information acquired in the past from the first time, and an operator's response to the second gaze request information. Based on the first gaze request information and the past gaze request information, which is information stored in the storage unit in association with corresponding information indicating An unnecessary degree indicating a necessary degree is determined, an output mode of the alert information based on the first gaze request information is determined according to the unnecessary degree, and the output mode is determined according to the determined output mode. Output alert information to the terminal used by the operator.
  • the information processing device may receive, from a moving object that is remotely watched or operated by an operator, first gaze request information regarding an event that occurred around the moving object at a first time.
  • the acquisition unit to acquire, the second gaze request information acquired in the past from the first time, and the correspondence information indicating the operator's response to the second gaze request information are associated and stored in the storage unit.
  • a second determining unit that determines an output mode of alert information based on the first gaze request information according to the degree of unnecessaryness, and a second determining unit that determines the output mode of alert information based on the first gaze request information, and an output unit for outputting the information to a terminal used by an operator.
  • an information processing method is an information processing method executed by a computer, in which a mobile object that is remotely watched or operated by an operator receives data around the mobile object at a first time. Acquire first gaze request information regarding a first event that has occurred, second gaze request information acquired in the past from the first time, and a response indicating an operator's response to the second gaze request information. Information regarding the first gaze request information is displayed on a terminal used by an operator based on past gaze request information and the first gaze request information, which are information stored in a storage unit in association with each other.
  • the load on the operator can be reduced.
  • FIG. 1 is a block diagram showing the configuration of a notification system according to an embodiment.
  • FIG. 2 is a block diagram showing the functional configuration of the server device according to the embodiment.
  • FIG. 3 is a diagram showing an example of a table stored in the pre-driving gaze request DB according to the embodiment.
  • FIG. 4 is a diagram showing an example of a table stored in the remote operator DB according to the embodiment.
  • FIG. 5 is a block diagram showing the configuration of the robot according to the embodiment.
  • FIG. 6 is a block diagram showing the configuration of a display device according to an embodiment.
  • FIG. 7 is an explanatory diagram showing a first example of a presentation method of presentation information according to the embodiment.
  • FIG. 8 is an explanatory diagram showing a second example of the method of presenting presentation information according to the embodiment.
  • FIG. 9 is an explanatory diagram showing a third example of the presentation information presentation method according to the embodiment.
  • FIG. 10 is an explanatory diagram showing a fourth example of the presentation information presentation method according to the embodiment.
  • FIG. 11 is an explanatory diagram showing a fifth example of the presentation information presentation method according to the embodiment.
  • FIG. 12 is a flow diagram illustrating an example of processing within the server device according to the embodiment.
  • FIG. 13 is a flow diagram illustrating an example of processing by the response necessity determining unit according to the embodiment.
  • FIG. 14 is a flow diagram illustrating an example of processing by the notification control unit according to the embodiment.
  • FIG. 15 is a flow diagram showing the processing procedure of the server device according to the embodiment.
  • FIG. 16 is a flow diagram showing the processing procedure of the server device according to the embodiment.
  • the present disclosure assumes a system that allows an operator to remotely control a robot based on a notification from the robot based on the operator's own judgment. Based on the notification, the operator watches the video taken by the robot and grasps the state of the robot and the state of the surroundings so as not to disturb or annoy the traffic participants around the robot. , determine how to control the robot, and consider how to control the robot. Then, the operator remotely controls the robot by transmitting control signals regarding the robot's movement to the robot as necessary. Therefore, in a system where the operator remotely controls the robot based on notifications from the robot, the robot may become obstructed by surrounding traffic participants during autonomous driving, resulting in a decrease in social acceptability. It is assumed that the robot will send a notification when there is a possibility that the robot will cause a problem, or if there is a possibility that efficiency can be prevented from decreasing by performing remote intervention (remote control) in advance. be done.
  • the robot notifies the operator of a remote request requesting remote control. Therefore, it is essential for the operator to respond to the remote request, and always performs remote intervention based on the notification from the robot.
  • the robot has an emergency brake function that detects objects near the robot using an on-board lidar (LiDAR/Light Detection and Ranging) sensor and stops the robot before it collides with the object. Therefore, even if the robot does not or cannot respond to the notification, the emergency brake will be activated and the robot will stop before an accident such as a collision occurs.
  • LiDAR/Light Detection and Ranging LiDAR/Light Detection and Ranging
  • the operator watches the image taken by the robot and determines whether or not the operator will perform remote intervention, and if so, what kind of remote intervention will be performed. to decide.
  • the present disclosure does not require the operator to respond to the notification, but rather recommends it. Further, in the present disclosure, unlike the conventional art, remote intervention is performed at the discretion of the operator.
  • the reason why remote intervention is performed at the operator's discretion is that it is difficult to establish rules for when the robot will interfere with traffic participants around the robot, and when it will reduce the efficiency of the robot's movement. Therefore, it is difficult for robots to automatically judge the timing and make remote requests.
  • the reason why it is difficult to create rules is that the timing at which the operator should respond varies depending on the situation around the robot, so it is difficult for the robot to judge the timing and make a remote request at the appropriate time. There are things you can't do. Therefore, the operator must keep an eye on it to judge the timing.
  • a specific example of a robot not being able to make a judgment and make a remote request at an appropriate time is when the content of the remote request is "approaching pedestrian" or "passing a bicycle.”
  • the running robot may continue to operate automatically when it passes a pedestrian or bicycle, but there is a possibility that it will get in the way of the pedestrian or bicycle by continuing to drive. Therefore, the robot needs to speak in order to stop or greet pedestrians or bicycles as necessary. Therefore, in order for the robot to make a judgment and make a remote request, for example, when the robot is 5 meters away from a pedestrian or bicycle, the robot can stop and make a remote request. Suppose you set it to do this.
  • the robot may stop at a distance of 5 meters from the pedestrian or bicycle and say, ⁇ Come first.'' "Please", but because the pedestrian or bicycle was traveling slowly, the robot ended up stopping for a long time, and the robot stopped much later (for example, stopped 3 meters away) and spoke. In some cases, it may be possible to suppress a decrease in efficiency regarding the robot's running.
  • the robot will judge and make the remote request, so the robot will stop when the robot is 5 meters away from the vehicle and the operator will Suppose that the robot is set to make a remote request so that the robot can respond to the request.
  • the robot may not be able to avoid it on the spot. In such a case, the robot may need to retreat once to avoid the situation.
  • the operator can use his or her own judgment to stop the robot at a point that is easy to avoid and take action (remote control) to avoid the vehicle, thereby reducing the time it takes to return to automatic driving. It is possible to suppress a decrease in the efficiency of the robot's running.
  • the circumstances surrounding the robot vary depending on the location or time, and it is difficult to uniformly set conditions for the robot to stop, conditions for the robot to speak, etc. Therefore, since the robot cannot make a remote request at an appropriate timing, the operator must keep an eye on it and judge the timing.
  • the robot may detect pedestrians or parking on the street from a distance, which can be detected by the robot. Then, at the timing when the robot detects these, a remote request for gazing is notified, and the operator starts gazing based on the notification. Thereafter, the operator will decide whether to take action or not, and if so, when to take action and what kind of action to take.
  • the robot sends a notification as a remote request for attention in cases where the operator may need to take action. .
  • the content of the remote request at this time is, for example, "pedestrian approaching,” a distant pedestrian is detected and a notification is sent from the robot.
  • the robot simply passes by the pedestrian without any risk of collision with the pedestrian and without getting in the way of the pedestrian. It is assumed that there will be notifications that do not require any response by the operator.
  • a remote controller that requires the operator to take remote control only when the operator is distracted by such notifications that do not require operator action, or when conventional automated operation of the robot is no longer possible to continue.
  • constituent elements in the following embodiments constituent elements that are not described in the independent claims will be described as arbitrary constituent elements. Moreover, in all embodiments, the contents of each can be combined. Furthermore, the present disclosure also includes various modified examples in which changes are made to each embodiment of the present disclosure within the range that a person skilled in the art would conceive of, as long as they do not depart from the gist of the present disclosure.
  • ordinal numbers such as “first” and “second” do not mean the number or order of constituent elements, unless otherwise specified, and should be used to avoid confusion between like constituent elements and to distinguish between them. It is used for the purpose of
  • a gaze request notification system (hereinafter also simply referred to as a notification system) notifies an operator as a gaze request when a predetermined event is detected based on sensing results obtained from a controlled robot via a communication means. Based on the transmitted gaze request, the operator grasps the state of the controlled robot and the surrounding state of the controlled robot, and responds to the controlled robot by remote control (hereinafter simply referred to as "operator response"). ) is necessary. If the operator determines that it is difficult for the controlled robot to travel autonomously, or if the controlled robot continues to travel autonomously, the operator determines that it will disturb or be a nuisance to traffic participants around the controlled robot.
  • the controlled robot is remotely controlled (operated) by transmitting a control signal regarding the movement of the controlled robot to the controlled robot.
  • the operator determines that there is no problem with the controlled robot continuing to run autonomously, the operator only watches the image of the controlled robot and does not operate the controlled robot (in other words, does not respond to the operator). .
  • FIG. 1 is a block diagram showing the configuration of a notification system 1 according to this embodiment.
  • the notification system 1 shown in FIG. 1 is an information processing system for notifying an operator as a gaze request when robots M1, M2, ..., MN (N is an arbitrary natural number) that can be controlled robots detect a predetermined event. It is.
  • robot M1, etc are also referred to as "robot M1, etc.”
  • the notification system 1 is an information processing system that notifies an operator as a gaze request when a plurality of robots M1 etc. detect a predetermined event.
  • the number of robots that detect a predetermined event when the notification system 1 notifies the operator as a gaze request is not particularly limited.
  • the notification system 1 may be an information processing system that notifies an operator of a gaze request when a predetermined event is detected in one robot.
  • the notification system 1 may be an information processing system that notifies the operator of a gaze request when a predetermined event is detected in any robot among the plurality of robots.
  • the predetermined event is an event determined based on information detected by a sensor such as a camera disposed on the robot M1 or the like.
  • the predetermined event may be any predetermined event and is not particularly limited.
  • the predetermined event may include, for example, a pedestrian being located within a predetermined distance from the robot M1 or the like. For example, if a pedestrian is located within a predetermined distance from the robot M1 or the like, it is determined that a predetermined event has been detected.
  • the notification system 1 includes a server device 10, display devices 20a to 20n, a robot M1, etc.
  • the display devices 20a to 20n may be referred to as the display device 20 unless they are particularly distinguished. Further, when explaining the configuration common to the robots M1 to MN, only the robot M1 may be explained.
  • the server device 10 is a processing device that makes decisions regarding notifications to operators. Specifically, the server device 10 receives a gaze request obtained from the robot M1 and the like, travel information obtained from the robot M1 and the like, information regarding past gaze requests recorded in the server device 10, and information recorded in the server device 10. The computer processes the information using the information about the remote operator and makes a decision regarding the notification. In the present disclosure, the server device 10 responds to the gaze request acquired from the robot M1 etc. by using travel information also acquired from the robot M1 etc. and information regarding past gaze requests recorded in the server device 10. It is determined whether the acquired gaze request is a gaze request that may require no operator response.
  • the server device 10 uses the travel information obtained from the robot M1 etc. and the information regarding the remote operator recorded in the server device 10. Determine whether predetermined notification conditions are met. Furthermore, when a predetermined notification condition is satisfied, the server device 10 generates and outputs presentation information for presenting the acquired gaze request to the operator. Details will be described later.
  • the predetermined notification conditions may be arbitrarily determined in advance and are not particularly limited. For example, when a predetermined event is detected, it is determined that the predetermined notification condition is satisfied.
  • the server device 10 is installed at a location where it can be communicatively connected to the network N, and its physical location may be anywhere. As an example, if the server device 10 is placed in the same room as the display device 20 or in the vicinity, there is an advantage that communication between the server device 10 and the display device 20 can be performed in a short time.
  • the display device 20 is a device that acquires presentation information from the server device 10 and outputs the presentation information as an image. Images include photographs, illustrations, characters, etc.
  • the display device 20 is, for example, a liquid crystal display.
  • the image output (displayed) by the display device 20 is visually recognized by the operator, and it is possible to determine whether the operator monitors the robot M1, etc., which robot M1, etc. the operator monitors, or how the operator monitors the robot M1, etc. It is used when deciding whether to monitor the situation.
  • the display device 20 is an example of a presentation device.
  • the notification system 1 may include a device that outputs sound as a presentation device together with the display device 20 or in place of the display device 20.
  • the notification system 1 may include a device such as a projector that displays presentation information on an object (for example, a screen) as a presentation device.
  • a device such as a projector that displays presentation information on an object (for example, a screen) as a presentation device.
  • the server device 10 When the server device 10 is located at a remote location with respect to the display device 20, the display device 20 and the server device 10 may be connected via the network N.
  • the robot M1 is a robot that can be controlled by an operator.
  • the robot M1 exists in an external space different from the indoor space where the display device 20 is placed, such as a road or a sidewalk.
  • an example of an object that can be controlled by an operator is a mobile object that moves autonomously, such as a self-driving vehicle or a drone. That is, the robot M1 and the like may be a self-driving vehicle, a drone, or another autonomously moving mobile object.
  • the robot M1 is equipped with a communication interface, is connected to the network N by communication, and is communicably connected to the server device 10 via the network N.
  • the robot M1 has one or more cameras that take pictures of the surroundings of the robot M1, and the speed, acceleration, jerk (jerk), steering angle, remaining amount of fuel, operating state of the direction indicator, presence or absence of surrounding objects, and the like. It is equipped with a plurality of sensors that detect the number and type, distance to surrounding objects, speed difference, acceleration difference, current position of the robot, etc.
  • the robot M1 transmits information including image data generated by one or more cameras and sensing data such as the speed of the robot M1 and the presence or absence of surrounding objects acquired by a plurality of sensors via a communication interface and a network N. It is transmitted to the server device 10.
  • the above information transmitted by the robot M1 is also referred to as running information.
  • the various types of information described above that are transmitted as driving information are also referred to as types of driving information. That is, there may be multiple types of travel information itself.
  • the running information may further include life and death information indicating whether or not the plurality of sensors included in the robot M1 are operating, or error information such as information regarding a system error in the robot M1 itself.
  • the travel information may further include information regarding the travel route set by the robot M1 and road information regarding the surroundings of the travel point.
  • the traveling information may further include time information regarding the current time when the robot M1 is traveling and the time when the robot M1 passes a predetermined traveling point.
  • the robot M1 When the robot M1 detects a predetermined event that is likely to cause a problem in continuing autonomous travel based on the above travel information, the robot M1 sends a gaze request (information) via the communication interface and network N to notify the operator of the event. and transmits it to the server device 10.
  • the gaze request includes, for example, information based on data obtained by a plurality of sensors included in the robot M1.
  • the gaze request may include information about surrounding traffic participants, such as pedestrians, who are located around the robot M1 when the gaze request occurs, and information about the predetermined event that caused the gaze request to occur.
  • the information includes information regarding the type of gaze request indicating the type, the period during which the operator gazes, information regarding the travel area of the robot M1, and the like.
  • the gaze request may further include information regarding the gaze target, which is the object that the operator wants the operator to gaze at, such as the object that caused the gaze request or the area where the object is located.
  • Each of the robots M2 to MN moves independently of the robot M1. Further, each of the robots M2 to MN transmits image data and sensing data generated by the robot itself to the server device 10 in the same manner as the robot M1.
  • the robot M2 to MN may be the same robot as the robot M1, or may be of a different type from the robot M1, or each of the robots M1 to MN may be of a different type. .
  • the network N is a communication network to which the server device 10, the robot M1, etc. are connected.
  • the communication standard or communication method of the network N is, for example, a mobile phone network, a satellite communication network, a wide area communication network using Wi-Fi (registered trademark), etc., but is not limited thereto.
  • the communication interface provided by the robot M1 and the like is a wireless communication interface for wirelessly communicating with the server device 10 via the network N, such as an antenna and a wireless communication circuit.
  • the number of operators may be less than the number of robots M1, etc.
  • the operator does not always watch all of the robots M1, etc., but selects and watches only the robots that are judged to need watching, and takes action (operator response) as necessary.
  • the operator response is an operation or control such as remote control of a robot or pressing of a speech button to call out to surrounding traffic participants. At this time, it is assumed that the operator does not gaze at any other robots other than the corresponding robot. This has the advantage of reducing the number of operators required and allowing the operators to concentrate on robots that require attention and/or response.
  • Cases in which it is determined that close attention is necessary include, for example, when the robot M1 etc. is in a dangerous position, when the robot M1 etc. is in a dangerous state, when the robot M1 etc. is approaching a dangerous position, This is the case when it is predicted that the robot M1 etc. will be in a dangerous state, or when the robot M1 etc. will disturb or annoy surrounding traffic participants.
  • the number of operators may be one, or may be the same as the number of robots M1, etc.
  • the operator visually recognizes the image presented by the display device 20, determines which robot, such as the robot M1, to watch, and determines what response to take if necessary.
  • the display device 20 presents images generated by one or more cameras photographing the surroundings of each of the robots M1, M2, . . . , MN that can be controlled robots.
  • the server device 10 Based on the information presented by the display device 20, the operator determines which robot, such as the robot M1, to watch, and takes appropriate action as necessary.
  • the server device 10 appropriately presents to the operator, in an easy-to-understand manner, which robots, such as the robot M1, need to be handled by the operator. This can reduce the burden on the operator of searching for a robot that needs to be handled from among the robots M1 and the like, and the burden of being distracted by robots that do not need to be handled.
  • FIG. 2 is a block diagram showing the functional configuration of the server device 10 according to the present embodiment.
  • the server device 10 includes a driving information acquisition unit 11, a pre-driving observation request DB (database) 12, a remote operator DB 13, a response necessity determination unit 14, and a notification control unit 15. , and an alert output unit 16.
  • the server device 10 is a computer that can communicate with the robots M1 to MN and display devices 20a to 20n.
  • the server device 10 is an example of an information processing device.
  • the running information acquisition unit 11 is a communication interface that is connected to the network N and is communicably connected to the robot M1 and the like via the network N.
  • the running information acquisition unit 11 acquires running information and gaze request information (also simply referred to as a gaze request) from the robot M1 and the like.
  • the driving information acquisition unit 11 is an example of an acquisition unit.
  • the traveling information is information regarding the robot M1 and the like.
  • the travel information includes, for example, information based on data obtained by a plurality of sensors included in the robot M1 and the like.
  • the traveling information may include the vehicle number of the robot M1, etc., the current time, the traveling location of the robot M1, etc., the road conditions around the robot M1, etc., the status of traffic participants around the robot M1, etc., and the vehicle number of the robot M1, etc. Contains information regarding image data taken by one or more cameras mounted on each camera.
  • the gaze request information is information that allows the operator to gaze at the target robot using a plurality of sensors included in the robot M1 and the like, and to respond as necessary.
  • the gaze request information includes the location where the gaze request occurred (that is, the gaze request information was sent), the time when the gaze request occurred, the situation of traffic participants around the robot M1, etc. when the gaze request occurred, This information includes the road conditions surrounding the robot M1 and the like when the gaze request occurs, and information regarding the type of gaze request that indicates the cause of the gaze request.
  • the pre-travel gaze request DB 12 is a database that stores information for determining whether a gaze request that occurs when the robot M1 or the like is running is a gaze request that is likely to require an operator response.
  • the pre-travel gaze request DB12 contains information regarding gaze requests that have occurred in the past, as information for determining whether a gaze request that occurs when the robot M1 or the like is running is a gaze request that is likely to require an operator response. Certain past gaze request information is memorized.
  • the past gaze request information includes, for example, the location of the gaze request that occurred in the past, the time when the gaze request occurred, the situation of traffic participants around the robot M1 etc. when the gaze request occurred, and the robot M1 when the gaze request occurred. information on the surrounding road conditions, etc., and the type of gaze request indicating the cause of the gaze request.
  • the pre-run gaze request DB 12 also contains past gaze request information and information indicating whether or not an operator has responded to the robot M1, etc. in the past gaze request information (that is, whether the operator has performed remote control of the robot M1, etc.).
  • a table in which the past gaze request table T1 (see FIG. 3) is associated with information indicating whether the Information indicating whether operator support is available may also be included in the past gaze request information.
  • the pre-run gaze request DB 12 is realized, for example, by a storage device such as a flash memory or a hard disk drive (HDD).
  • a storage device such as a flash memory or a hard disk drive (HDD).
  • FIG. 3 is a diagram showing an example of the past gaze request table T1 stored in the pre-driving gaze request DB 12 according to the present embodiment.
  • the past gaze request table T1 includes information regarding gaze requests that have occurred in the past (that is, past gaze request information), and information indicating whether or not an operator has responded to each type of gaze request. is the associated table.
  • the information indicating the presence or absence of operator response is the operation history of the operator who operated the robot that generated the gaze request (that is, the robot that sent the gaze request information) within a predetermined period after the gaze request was generated. This information is determined by whether there is a log that records the information. For example, if there is a log that records the operation history of the operator operating the robot that generated the gaze request, it is determined that there was an operator response, and information indicating the presence or absence of the operator response is "Yes" and the past gaze request table T1
  • the pre-driving gaze request DB 12 is stored in association with the pre-driving gaze request DB 12.
  • a camera image taken by a camera of the operator may also be used to determine whether or not the operator is available. According to this, even if there is no log that records the operation history of the operator on the robot that generated the gaze request, if the operator took action to respond, it is appropriate to determine whether or not the operator responded. It can be determined that
  • a gaze request indicating that a pedestrian approaches e.g., "Pedestrian approaches” shown in Figure 3
  • the operator requests the target robot to continue moving towards the nearby pedestrian.
  • the pedestrian to whom the utterance was made was unable to make it in time because the person was already passing by.
  • the robot itself is not operated by the operator, no log is left.
  • the operator may be moving to operate the touch panel or the like in order to operate the robot. In such a case, it may be determined that there was an operator response and the request may be set in the past gaze request table T1.
  • the server device 10 uses camera images taken of the operator's behavior to determine if a gaze request has not occurred but the operator is taking actions to respond.
  • travel information such as the location where the robot is traveling, the status of traffic participants around the robot, and the road status around the robot may be used in place of the information regarding the gaze request.
  • operator responses may not only be related to improving safety, such as approaching pedestrians or passing bicycles, but may also be aimed at improving efficiency or social acceptance. Therefore, the information indicating the presence or absence of operator support may include not only the presence or absence of operator support, but also information on the relevant type. For example, a threshold value may be set for each type to change the display mode when an operator response is not required due to a gaze request. For example, among multiple types, the threshold for the type that involves important safety improvements is set higher than the threshold for other types, and is displayed as an alert so that the operator can easily notice it, even if no operator action is required. Aspect may be determined.
  • the past gaze request information is, for example, information indicating a predetermined event that led to a gaze request.
  • the past gaze request information includes information indicating the type, information indicating the time, information indicating the location, information indicating the road condition, and information indicating the condition of the traffic participant.
  • the information indicating the type ("type" shown in FIG. 3) is information indicating a detected predetermined event, such as "approaching pedestrian” or “passing each other by bicycle.”
  • the information indicating the time (“occurrence time” shown in FIG. 3) is information indicating the time at which the predetermined event occurred.
  • the information indicating the location (“occurrence location” shown in FIG. 3) is information indicating the location where the predetermined event occurred.
  • the information indicating the location is information indicating the coordinates of a predetermined map stored in the storage device included in the server device 10, such as (425, 370), for example.
  • Information indicating the road condition (“road condition” shown in FIG. 3) is information indicating the condition of the road at the location where the predetermined event has occurred, such as the presence or absence of a crosswalk or the presence or absence of a traffic light.
  • Traffic participant status indicates the presence or absence of traffic participants who are passersby such as pedestrians or bicycle drivers passing through the place where a predetermined event has occurred. This is the information shown. For example, "Bicycle 1" shown in FIG. 3 indicates that there was one bicycle driver (passerby on a bicycle) at the location where the predetermined event occurred, and "Pedestrian 2" shown in FIG. This indicates that there were two pedestrians at the location where the predetermined event occurred.
  • the past gaze request information may include information regarding the importance and/or urgency of the gaze request.
  • the degree of importance is information determined based on the frequency with which an operator responds to each type of gaze request.
  • the degree of urgency is information that is determined based on the time from when a gaze request occurs until an operator takes a response.
  • the past gaze request information may include weather information. There may be cases where the degree of unnecessaryness differs depending on the weather, which will be described later. Therefore, since weather information is included in the past gaze request information, past gaze request information that matches the weather can be extracted and used to determine whether operator action is required. can be considered.
  • the remote operator DB 13 is a database that stores remote operator information.
  • the remote operator information is information indicating whether or not the operator is performing operations on the robot M1 and the like.
  • the remote operator DB 13 includes, as remote operator information, a table (operator table T2 (Fig. Reference)) is memorized.
  • the remote operator DB 13 is realized, for example, by a storage device such as a flash memory or an HDD.
  • pre-driving gaze request DB 12 and the remote operator DB 13 may be realized by one storage device, or may be realized by separate storage devices.
  • FIG. 4 is a diagram showing an example of the operator table T2 stored in the remote operator DB 13 according to the present embodiment.
  • the operator table T2 is a table in which, for all operators, information indicating each operator is associated with information indicating whether each operator is working with the robot M1 or the like. For example, the operator table T2 also includes information on operators who are not currently responding. As shown in FIG. 4, the operator table T2 is a table in which information regarding each operator, information regarding the behavior of the operator, and information indicating the response status according to the operator's behavior are associated with each other.
  • gazeing means paying attention so that the remote operator can concentrate on one robot.
  • respond means that the remote operator focuses on one robot and responds, for example, by remotely controlling the robot or pressing a speech button. Therefore, for example, if a remote operator constantly monitors multiple machines, “watching” and “responding” do not include this.
  • the information regarding operators is information uniquely indicating each of a plurality of operators.
  • the information regarding the operator is an ID uniquely determined for each operator ("operator ID" shown in FIG. 4).
  • the information regarding the operator is set to A, B, C, etc., but it may be a number or a name, and is not particularly limited.
  • the information regarding the operators may include information indicating the skill level of each operator.
  • information indicating an operator's skill level is determined based on the number of times the operator has performed operator duties.
  • the information regarding the operator's behavior is information indicating the behavior taken by the operator in response to the generated gaze request ("operator's behavior" shown in FIG. 4).
  • "touch panel operation” shown in FIG. 4 is information indicating that the operator is performing remote control using the touch panel, which is determined based on a camera image of the operator. For example, in a camera image showing an operator, if the operator is reaching his hand toward the touch panel, "touch panel operation" is detected.
  • the information indicating the response status is information determined according to the actions of the operator ("response status" shown in FIG. 4). For example, if an operator is operating the robot M1, etc. by operating an operating device such as a touch panel, remote controller, or transceiver (not shown), the operator may receive a message indicating "Currently responding" as information indicating the response status. It is stored in the remote operator DB 13 in association with table T2. On the other hand, for example, if the operator is staring at the display device 20 without operating the above-mentioned operating device, that is, without operating the robot M1 etc., the information indicating the compliance status will be "Not Compatible". is stored in the remote operator DB 13 in association with the operator table T2.
  • the response necessity determination unit 14 is a processing unit that determines whether the generated gaze request requires operator response.
  • the response necessity determining unit 14 acquires running information and gaze request information transmitted by the robot M1 and the like from the running information acquisition unit 11, and acquires past gaze request information from the pre-travel gaze request DB 12. Then, the response necessity determining unit 14 determines whether or not the generated gaze request requires an operator response based on the acquired travel information, gaze request information, and past gaze request information, and determines whether or not the generated gaze request requires an operator response.
  • Generate certain response necessity information More specifically, the response necessity information is information for determining (specifying) whether the generated gaze request requires operator response.
  • the response necessity information includes information for specifying whether the generated gaze request requires operator response.
  • the response necessity information may include, for example, information indicating the degree to which an operator's response is required regarding a gaze request generated for each robot. How to determine the degree to which operator intervention is required will be described later.
  • the response necessity information may include information indicating the degree to which operator response is not required.
  • the response necessity determination unit 14 may determine (determine) whether or not an operator response is necessary for the generated gaze request, based on at least the driving information, the gaze request information, and the past gaze request information.
  • the notification control unit 15 is a processing unit that determines whether a predetermined notification condition is satisfied based on the response necessity information generated by the response necessity determination unit 14 and the remote operator information acquired from the remote operator DB 13. . Based on the determination result, the notification control unit 15 determines whether or not to notify the operator as an alert (alert information) regarding the generated gaze request, and when notification is to be performed, generates notification information. For example, if the notification control unit 15 determines to issue a notification, the notification control unit 15 generates notification information indicating a robot to which the operator should pay attention and respond as necessary. The notification control unit 15 provides the generated notification information to the alert output unit 16.
  • the notification information generated by the notification control unit 15 is determined based on information for specifying the robot to be watched by the operator and to be responded to as necessary, response necessity information, and remote operator information. and information on how to present alerts based on whether operator action is required.
  • the notification information may include information indicating the reason why the robot is determined to be a target for the operator to watch and take action as necessary.
  • the notification information includes, for example, information indicating which type of gaze request has been detected among the information regarding the types of gaze requests shown in FIG. 3.
  • the notification information may further include information indicating the degree to which operator intervention is unnecessary, as information regarding whether operator intervention is necessary.
  • the alert output unit 16 is a processing unit that outputs an alert to be displayed on the display device 20.
  • the alert output unit 16 generates presentation information including image data related to an alert to be displayed on the display device 20 via a communication interface (not shown) included in the server device 10, and outputs the presentation information to the display device 20.
  • the server device 10 may be connected to the display device 20 for wired communication, or may be connected for wireless communication.
  • the communication interface included in the server device 10 may be realized by a connector to which a communication line is connected, or may be realized by a wireless communication circuit for wireless communication.
  • the presentation information output by the alert output unit 16 includes image data acquired by the running information acquisition unit 11 from the robot M1 and the like.
  • the alert output unit 16 changes the alert presentation method based on the notification information received from the notification control unit 15, and displays the changed alert on the display device 20 together with the image data as information to be presented to the communication interface included in the server device 10. It is output to the display device 20 via.
  • the presentation information may include information indicating a robot to be watched by the operator indicated in the notification information and to take action as necessary.
  • the presentation information includes information indicating one or more robots that can be the target of gaze, the type of gaze request for each of the one or more robots included in the notification information and operator response are unnecessary.
  • the information may include information indicating the degree of failure, and information indicating that there is a high possibility that operator assistance will be unnecessary.
  • robot A may be constantly monitored by operators 1 and 2, robot B by operators 3 and 4, robot C by operators 1 and 3, and robot D by operators 2 and 4.
  • robots to be monitored may be partially overlapped by multiple operators, such as robot A being constantly monitored by Operator 1 and Operator 2, robot B by Operator 1, and robot C by Operator 2. Conceivable.
  • multiple operators do not have the same robot to monitor.
  • a process may be performed to determine the output destination of the alert.
  • the output destination of the alert may be determined based on the operator's situation (e.g., whether the operator is doing something other than constant monitoring), the operator's information (e.g., operator history and skill level, etc.), etc. .
  • alert output destination is basically the terminal (display device 20) of the operator in charge of monitoring the robot.
  • the display mode may be determined so that the same display is displayed on both terminals of the overlapped operators.
  • the robot being monitored overlaps with multiple operators, based on the operator's status and information, for example, alerts will be displayed inconspicuously on the terminal of the operator with a heavy operator load.
  • a display mode may be determined. In this way, when the alert output destinations overlap, the display mode of the alert may be determined (changed) depending on the output destination.
  • the response necessity determination unit 14, the notification control unit 15, and the alert output unit 16 are realized by, for example, a processor and a memory in which a control program executed by the processor is stored.
  • FIG. 5 is a block diagram showing the functional configuration of the robot M1 according to the present embodiment.
  • the robot M1 includes an imaging section m1, a robot information acquisition section m2, a control section m3, and a communication section m4.
  • the robot M1 is a robot that can autonomously run based on map information and travel data that the robot M1 has in advance, and travel data generated based on information detected by the imaging unit m1 and the like. be.
  • the robot M1 is a self-driving vehicle that is remotely operated by an operator located at a remote location under predetermined conditions and is capable of self-driving.
  • the robot M1 is an example of a moving object.
  • the imaging unit m1 is a camera that photographs the surroundings of the robot M1.
  • the imaging unit m1 is provided, for example, at a position where the robot M1 can take pictures in the front, rear, left, and right directions.
  • the imaging unit m1 is provided in the robot M1.
  • the imaging unit m1 may be composed of one camera or may be composed of a plurality of cameras. Further, the imaging unit m1 may be a camera mounted on a drive recorder. Further, a plurality of imaging units m1 may be installed in the robot M1.
  • the robot information acquisition unit m2 is a control device that acquires information (robot information) regarding the running of the robot M1 from various sensors mounted on the robot M1 via a network such as a CAN (Control Area Network).
  • the various sensors include a speed sensor that detects the speed of the robot M1, and a GPS (Global Positioning System) sensor that detects the current position of the robot M1.
  • the robot information acquisition unit m2 acquires the speed of the robot M1 from the speed sensor and the current position of the robot M1 from the GPS sensor.
  • the various sensors include a steering angle sensor that detects the steering angle of the robot M1, a brake sensor that detects the degree of braking, an accelerator sensor that detects the degree of accelerator (accelerator opening), and a direction indicated by the turn signal.
  • a turn signal sensor or the like may be included.
  • the control unit m3 is a control device that controls various components of the robot M1.
  • the control unit m3 obtains robot information including the vehicle number representing the type of robot M1, the speed and current position of the robot M1 obtained via the robot information obtaining unit m2, and the robot information obtained from the imaging unit m1.
  • Sensing information of the robot M1 (specifically, video information obtained from the imaging result of the imaging unit m1) is transmitted to the server device 10 via the communication unit m4.
  • information arbitrarily determined in advance such as information indicating a vehicle number representing the type of robot M1
  • information indicating a vehicle number representing the type of robot M1 may be acquired from the server device 10 via the communication unit m4, or may be stored in a storage device such as an HDD included in the robot M1. The information may be stored and retrieved from the storage device.
  • the control unit m3 detects obstacles around the robot M1 based on sensing information obtained from the imaging unit m1, for example, and generates obstacle information.
  • the obstacle information includes, for example, at least one of information regarding the current position of the obstacle, the speed of the obstacle, the acceleration of the obstacle, the traveling direction of the obstacle, the size of the obstacle, and the type of the obstacle.
  • the type of obstacle is, for example, a type that distinguishes between pedestrians, motorcycles, cars, and the like.
  • the current position of the obstacle indicates the position of the obstacle at the time the obstacle is sensed.
  • control unit m3 determines whether or not to issue a gaze request based on the generated obstacle information and the robot information acquired via the robot information acquisition unit m2, and determines whether or not to issue a gaze request based on the generated obstacle information and the robot information acquired through the robot information acquisition unit m2.
  • Gaze request information including information regarding the type of gaze request, etc. is generated.
  • the type of gaze request in the gaze request information is a type that distinguishes the cause of the occurrence of the gaze request, such as "approaching pedestrian" or "approaching street parking” as shown in FIG.
  • road parking approach means that a road parking (that is, a vehicle) is stopped at the destination of the robot M1's traveling route, and the robot M1 may not be able to move in that state. This is a request for attention indicating that.
  • the gaze request may be arbitrarily determined other than the example shown in FIG. 3.
  • the control unit m3 generates video information around the robot M1 based on sensing information obtained from the imaging unit m1.
  • the control unit m3 may generate individual video information corresponding to each direction in the front, rear, left, and right directions of the robot M1, or may synthesize the individual video information to generate one video information.
  • the control unit m3 may have a real-time clock function that measures the current date and time. Alternatively, the control unit m3 may use a time specified based on a GPS signal, which is a signal from a GPS satellite acquired via the communication unit m4, as the accurate GPS time. The control unit m3 receives GPS signals at predetermined time intervals, for example.
  • control devices such as the robot information acquisition unit m2 and the control unit m3 are realized by, for example, a processor and a memory in which a control program executed by the processor is stored.
  • the communication unit m4 is a wireless communication module for wirelessly communicating with the server device 10 via the network N. Under the control of the control unit m3, the communication unit m4 transmits travel information including map information, robot information, video information, time information, etc. that the robot M1 has in advance, and gaze request information based on obstacle information. It is transmitted to the server device 10 via the network N.
  • each of the robots M2 to MN has, for example, the same configuration as the robot M1.
  • FIG. 6 is a block diagram showing the functional configuration of the display device 20 according to the present embodiment. Note that the display device 20 has substantially the same configuration as each of the display devices 20a to 20n shown in FIG.
  • the display device 20 includes a display communication section 21, a display control section 22, and an output section 23.
  • the display device 20 is a device that displays presentation information including, for example, information indicating the state of the robot M1, etc., and video information indicating the surroundings of the robot M1, etc.
  • the display device 20 is realized by, for example, a liquid crystal display or an organic EL (Electro Luminescence) display.
  • the display communication unit 21 is a communication interface for acquiring presentation information from the server device 10 by communicating with the server device 10.
  • the display communication unit 21 may be connected to the server device 10 for wired communication or may be connected for wireless communication.
  • the display communication unit 21 may be realized by a connector to which a communication line is connected, or may be realized by a wireless communication circuit for wireless communication.
  • the display control unit 22 is a processing unit that controls the presentation method of information indicating the state of the robot M1 etc. and video information indicating the surroundings of the robot M1 etc. based on the presentation information received by the display communication unit 21.
  • the display control unit 22 is realized by, for example, a processor and a memory storing a control program executed by the processor.
  • the output unit 23 is a display that outputs video information indicating the state of the robot M1 and the surroundings of the robot M1 and the like under the control of the display control unit 22. Specifically, the output unit 23 displays an image of the robot M1 etc. and the surroundings of the robot M1 etc. under the control of the display control unit 22.
  • FIG. 7 is an explanatory diagram showing a first example of a presentation method of presentation information according to the present embodiment.
  • one operator among multiple operators monitors four robots M1 to M4 (specifically, one operator watches robots M1 to M4 as necessary). (examples of how to do or respond).
  • the output unit 23 displays image data (video information) acquired from each of the robots M1 to M4 based on the presentation information. .
  • the presented information includes the image data acquired from each of the robots M1 to M4, as well as the possibility that an operator response will be required.
  • An example is shown in which an alert is presented whose output mode (presentation mode) is determined based on the type of gaze request in which a high gaze request has occurred.
  • the image data regarding the robot that generated the gaze request for example, video information obtained from the robot
  • the image data regarding the robot that generated the gaze request that does not require an operator response is It is framed by a thick line.
  • an image indicating the type of gaze request is displayed in a superimposed manner so that the characters included in the image are enlarged to be emphasized and conspicuous.
  • the image 234 which is a thick line frame, is not attached to the image data that is highly unnecessary for operator response. Further, in the image data, an image indicating the type of gaze request is displayed in an overlapping manner so that the characters included in the image are made smaller so as not to be noticeable.
  • a thick frame line is an example of an alert displayed on the display device 20. Further, an image including characters indicating the type of attention request such as "approaching parking on the road”, “passing a bicycle", and “approaching a pedestrian” is an example of an alert.
  • the image 231 displayed by the output unit 23 of the display device 20 includes an image 232, an image 233, an image 234, and an image 235.
  • the image 232 is image data based on image data taken by one or more cameras mounted on each robot M1 etc.
  • the image 233 is image data for identifying which robot each image data included in the image 232 relates to.
  • the image 233 is image data that includes character strings such as "robot M1,” “robot M2,” “robot M3,” and "robot M4.”
  • the image 234 is image data for showing the image 232 corresponding to the robot that has generated a gaze request with a low degree of unnecessary operator response.
  • the image 234 is an image indicated by a thick line frame.
  • the image 235 is image data that is displayed superimposed on the image related to the robot that has generated the gaze request, and shows the type of gaze request that is presented in a manner that changes depending on the degree to which the operator's response to the generated gaze request is unnecessary.
  • the image 235 is image data that includes character strings such as "approaching street parking,” “passing each other by bicycle,” and "approaching pedestrian.”
  • the alert output unit 16 outputs image data (image 232) captured by the robot M1 and the like, information (image 233) indicating which robot each image data relates to, and
  • the output unit 23 of the display device 20 is caused to present an image 231 including image data (images 234 and 235) indicating the type of gaze request, the presentation method of which is changed depending on the degree to which operator response is unnecessary.
  • the alert output unit 16 determines whether or not to provide a thick line in the video information, and the content of the gaze request, such as "approaching street parking,” based on the degree to which the operator's response to the gaze request is unnecessary.
  • the display control unit 22 determines the output mode of the alert (display mode in this embodiment) such as the size of characters indicating the type of the alert, and outputs presentation information including the alert and information indicating the output mode of the alert to the display device 20 .
  • the display control unit 22 causes the output unit 23 to output (present) an alert in the output mode determined by the alert output unit 16 based on the presentation information acquired via the display communication unit 21. Specifically, the display control unit 22 causes the output unit 23 to display the alert in the output mode superimposed on the video information acquired from the robot M1 or the like.
  • the degree to which operator intervention is unnecessary is indicated by the size of the image 235 (more specifically, the size of the characters included in the image 235); may be done.
  • the image 235 indicating the gaze request is displayed darkly. As a result, the image 235 indicating the gaze request is displayed in an emphasized manner.
  • a "pedestrian approaches" has occurred as a gaze request.
  • the gaze request is highly likely to require no operator response. Therefore, the image 235 indicating the gaze request is displayed faintly.
  • the alert output unit 16 determines the shading of the alert information when the alert information is displayed on the output unit 23, based on the degree to which the operator's response to the gaze request is unnecessary.
  • the image 231 includes an image 234 as a frame surrounding the image 232 in order to emphasize that a low-level gaze request that does not require operator response has occurred.
  • the operator can focus on the video information of robots that the operator needs to respond to, or that the operator has a relatively high need to respond to, out of the video information corresponding to each robot. This allows operators to quickly determine the need for response.
  • the display mode of the above-mentioned display may be dynamically changed in accordance with changes in the degree to which operator response is unnecessary due to changes in the surrounding situation of the robot M1 etc., which changes from moment to moment. .
  • the output mode determined by the alert output unit 16 is not limited to the above, and may be arbitrary, such as color, font type, line thickness, etc. Furthermore, when the alert information is presented in audio, the alert output unit 16 may determine the volume or the like as the output mode.
  • the size of the image presented as an alert mode may be increased depending on the degree of unnecessary display.
  • the size of the image may be determined depending on the absolute degree of unnecessaryness or the relative degree of unnecessaryness.
  • images may be displayed in order of unnecessaryness. For example, images may be displayed in descending order of unnecessaryness.
  • presentation may also be made in such a way that the timing at which the degree of unnecessaryness changes can be seen.
  • alert information may be output when the degree of unnecessaryness becomes higher than a threshold value or lower than a threshold value.
  • the output mode of the alert information may be different depending on whether the degree of unnecessaryness is higher than the threshold value or lower than the threshold value.
  • the threshold value used to determine whether the degree of unnecessaryness is higher than the threshold value and the threshold value used to determine whether the degree of unnecessaryness is lower than the threshold value may be the same or different. good.
  • alert information may be output when the degree of unnecessaryness increases rapidly or when the degree of unnecessaryness rapidly decreases.
  • FIG. 8 is an explanatory diagram showing a second example of the presentation information presentation method according to the present embodiment.
  • FIG. 8 as presented information, the images 232, 233, 234, and 235 shown in FIG. An example is shown in which information is presented.
  • the image 231A displayed by the output unit 23 of the display device 20 includes an image 236 indicating that there is a high degree of unnecessary operator intervention and a high possibility that operator intervention will become unnecessary.
  • image 236 indicates that there is a high possibility that the gaze request for "approaching pedestrian" generated by robot M3 will require no operator response.
  • the display control unit 22 adds operator response to image data related to the robot corresponding to the information, as in image 236.
  • Information indicating that the degree of unnecessaryness is low may be superimposed and displayed on the output unit 23.
  • the display mode of the above-mentioned display may be dynamically changed according to the change in the degree to which operator response is unnecessary due to changes in the surrounding situation of the robot M1 etc., which changes from moment to moment. .
  • the alert output unit 16 adjusts the output mode of the alert, including whether or not to output the alert, in accordance with changes in the surrounding situation of the robot M1, etc., such as a change in the position of a pedestrian. It may be changed.
  • FIG. 9 is an explanatory diagram showing a third example of the presentation information presentation method according to the present embodiment.
  • FIG. 9 shows an example in which images 232, 233, 234, and 235 shown in FIG. 7 and information (image 237) indicating a numerical value indicating the degree to which operator response is unnecessary are presented as presentation information. There is.
  • information (image 237) indicating the numerical value of the degree to which operator response is unnecessary is displayed superimposed on the image data regarding the robot that has issued the gaze request.
  • the image 231B displayed by the output unit 23 of the display device 20 includes an image 237 indicating the degree to which operator intervention is unnecessary.
  • the image 237 superimposed on the image data corresponding to robot M3 indicates that the degree to which the operator's response to the gaze request for "approaching pedestrian” generated by robot M3 is "90%". It shows.
  • the image 237 superimposed on the image data corresponding to the robot M2 indicates that the degree to which the operator's response is unnecessary for the gaze request for "approaching street parking” generated by the robot M2 is "0%”. It shows that there is.
  • the image 237 superimposed on the image data corresponding to the robot M4 indicates that the degree to which the operator's response to the gaze request for "bicycle passing each other" generated by the robot M4 is "40%" is "40%". It is shown that.
  • the display control unit 22 adds the information to the image data related to the robot corresponding to the information, as in image 237. It may be displayed in a superimposed manner on the output unit 23. That is, the degree of unnecessaryness may be presented as a percentage, or may be presented in arbitrarily predetermined stages such as five stages from 1 to 5.
  • the display mode of the above-mentioned display may be dynamically changed according to the change in the degree to which operator response is unnecessary due to changes in the surrounding situation of the robot M1 etc., which changes from moment to moment. .
  • FIG. 10 is an explanatory diagram showing a fourth example of the presentation information presentation method according to the present embodiment.
  • FIG. 10 shows an example in which information on images 232, 233, 234, and 235 similar to those in FIG. 7 is presented as presentation information.
  • an image 235 that has been changed to be less noticeable by making the text smaller depending on the degree to which operator response is unnecessary is superimposed on the image data related to the robot that generated the gaze request.
  • the image 231C displayed by the output unit 23 of the display device 20 includes an image 235 whose presentation method changes depending on the degree to which operator intervention is unnecessary. For example, a gaze request for "approaching a pedestrian" generated by robot M3 is more responsive to the operator than a gaze request for "approaching a pedestrian” generated by robot M2 or a gaze request for "passing a bicycle” generated by robot M4. is highly unnecessary. Therefore, the characters in the image 235 corresponding to the robot M3 are displayed in a smaller size so as to be less noticeable than the image 235 corresponding to the robot M2.
  • the gaze request for "passing a bicycle” generated by robot M4 is more There is a high degree of unnecessary operator intervention. Therefore, the characters in the image 235 corresponding to the robot M4 are displayed in a smaller size so as to be less noticeable than the image 235 corresponding to the robot M2.
  • the display mode of the above-mentioned display may be dynamically changed in accordance with changes in the degree to which operator response is unnecessary due to changes in the surrounding situation of the robot M1 etc., which changes from moment to moment. .
  • the alert output unit 16 adjusts the output mode of the alert, including whether or not to output the alert, in accordance with changes in the surrounding situation of the robot M1, etc., such as a change in the position of a pedestrian. It may be changed.
  • the image 235 corresponding to the robot M3 may be displayed thinly so as to be less noticeable than the image 235 corresponding to the robot M2 and the image 235 corresponding to the robot M4. Further, the image 235 corresponding to the robot M4 may be displayed thinner so as to be less noticeable than the image 235 corresponding to the robot M2.
  • FIG. 11 is an explanatory diagram showing a fifth example of the presentation information presentation method according to the present embodiment.
  • FIG. 11 shows an example in which information on images 232, 233, 234, and 235 similar to those in FIG. 7 is presented as presentation information.
  • images 234 and 235 are not displayed in the image data regarding the robot that has issued the gaze request, if the degree to which the operator's response to the gaze request is unnecessary is higher than a predetermined value.
  • the image 231D displayed by the output unit 23 of the display device 20 includes an image 234 and an image 235 in which the presentation method changes when the degree of unnecessary operator intervention is higher than a predetermined value.
  • the degree to which an operator's response is unnecessary for a gaze request for “approaching pedestrian” generated by robot M3 is higher than a predetermined value. Therefore, for example, in the image 231D, an image 234, which is a thick line frame surrounding the image 232 and which corresponds to the robot M3 shown in FIGS. 8 to 10, and an image 235 representing the type of gaze request that has occurred are displayed. Not yet.
  • the display mode of the above-mentioned display may be dynamically changed in accordance with changes in the degree to which operator response is unnecessary due to changes in the surrounding situation of the robot M1 etc., which changes from moment to moment. .
  • the predetermined value may be arbitrarily determined in advance and is not particularly limited.
  • FIG. 12 is a flow diagram illustrating an example of processing performed inside the server device 10 according to the present embodiment.
  • step S101 the traveling information acquisition unit 11 of the server device 10 acquires the status of traffic participants around the robot M1 etc. when the gaze request is generated, which is transmitted from the robot M1 etc. Then, a gaze request ( gaze request information) indicating the type of gaze request, etc. indicating the cause of the occurrence of the gaze request is acquired.
  • a gaze request gaze request information
  • step S102 the traveling information acquisition unit 11 acquires the vehicle number of the robot M1, etc., the current time, the traveling location of the robot M1, etc., the road conditions around the robot M1, etc., transmitted from the robot M1, etc. Traveling information indicating information on image data taken by one or more cameras mounted on each vehicle is acquired.
  • the driving information acquisition unit 11 transmits the acquired driving information and the gaze request information acquired in step S101 to the response necessity determination unit 14 of the server device 10.
  • step S103 the response necessity determining unit 14 determines whether the operator should respond to the gaze request acquired in step S101 based on the traveling information and the gaze request information transmitted from the traveling information acquisition unit 11 in step S102. It is determined whether the degree of unnecessaryness is higher than a predetermined value.
  • the response necessity determination unit 14 acquires the driving information and the gaze request information transmitted from the driving information acquisition unit 11 in step S102.
  • the response necessity determining unit 14 also obtains information from the pre-running gaze request DB 12 of the server device 10, including the locations of gaze requests that have occurred in the past, the time when the gaze requests have occurred, and the traffic surrounding the robot M1, etc. when the gaze request has occurred.
  • Past gaze requests that indicate participant status, road conditions around robot M1, etc. when the gaze request occurred, the type of gaze request indicating the cause of the gaze request, and information regarding whether or not the operator responded to the gaze request, etc. Get information.
  • the response necessity determination unit 14 determines the degree to which operator response to the generated gaze request is unnecessary, based on the acquired driving information, gaze request information, and past gaze request information.
  • the response necessity determination unit 14 determines whether operator response is necessary or unnecessary, based on whether the degree of response is higher than a predetermined value. For example, the response necessity determining unit 14 determines whether the past gaze request information that has been acquired is a past one in which the travel point of the robot M1 or the like included in the acquired travel information is closer than a predetermined distance to the location of the gaze request that occurred in the past. Extract gaze request information.
  • the response necessity determining unit 14 refers to the information regarding the presence or absence of operator response associated with the extracted past gaze request information, and calculates the ratio of the presence or absence of operator response in the extracted past gaze request information. This ratio is determined as the degree to which operator response is unnecessary.
  • the response necessity determination unit 14 determines that the generated gaze request does not require an operator response. Based on the determination result, the response necessity determining unit 14 generates response necessity information for determining whether the generated gaze request requires an operator's response.
  • the predetermined value and the predetermined distance may be arbitrarily determined and are not particularly limited. Note that details will be described later.
  • the notification control unit 15 of the server device 10 determines whether the response is necessary in step S103.
  • the response necessity information generated by the unit 14 is acquired.
  • the notification control unit 15 acquires necessary information for determining predetermined notification conditions.
  • the notification control unit 15 obtains information about each operator from the remote operator DB 13 of the server device 10 as necessary information for determining predetermined notification conditions. Obtain remote operator information indicating whether the service is currently available or not. Details of the predetermined notification conditions will be described later.
  • the notification control unit 15 determines whether to change the presentation method of the gaze request based on the response necessity information and remote operator information acquired in step S104. For example, the notification control unit 15 may detect a request that is less noticeable compared to other attention requests if the response necessity information indicates that operator response is highly unnecessary, and the remote operator information indicates that there are many operators responding. Decide how to present the gaze request, including how to change it, such as changing the presentation method. As a result, even regarding a gaze request that is likely to require no operator response, the presentation method is kept as unchanged as possible to create a situation where the operator can easily notice it. In addition, when there are a large number of operators responding, there is a possibility that the overall efficiency of the operation will decrease due to the operator being distracted by attention requests that are likely to be unnecessary, and the response to attention requests that are mandatory. can reduce the possibility of being late.
  • presentation method may be determined depending on the degree to which operator intervention is unnecessary.
  • step S106 the notification control unit 15 generates information regarding the change in the presentation method determined in step S105.
  • step S107 the notification control unit 15 generates notification information including information for specifying a robot to be notified of an alert or the like and running information based on the gaze request information, and sends the generated notification information to the server. It is transmitted to the alert output unit 16 of the device 10.
  • the notification control unit 15 generates notification information including the information regarding the change in the presentation method generated in step S106.
  • the notification control unit 15 generates notification information that does not include the information regarding the change in the presentation method generated in step S106.
  • step S108 the alert output unit 16 acquires the notification information transmitted by the notification control unit 15 in step S107, and in the running information acquired by the running information acquisition unit 11, the alert output unit 16 acquires one or more notifications mounted on each robot M1 etc. Presentation information is generated based on information related to image data taken by the camera. Further, the alert output unit 16 causes the display device 20 to output the presentation information by transmitting the presentation information to the display device 20.
  • FIG. 13 is a flow diagram illustrating an example of processing by the response necessity determining unit 14 according to the embodiment.
  • the process shown in FIG. 13 shows in detail the process executed in step S103 shown in FIG. 12.
  • step S201 the response necessity determination unit 14 acquires driving information, gaze request information, and past gaze request information, and checks whether there is any gaze request that has occurred in the past that is similar to the gaze request that has occurred this time. Find and extract. For example, the response necessity determining unit 14 determines that among the locations of gaze requests that have occurred in the past in the past gaze request information, the difference in distance from the location where the gaze request occurred in the gaze request information is a predetermined threshold value. Extract past gaze request information that is within the range.
  • the response necessity determining unit 14 searches for past gaze requests similar to the generated gaze request based on not only the location of the gaze request, but also the time of occurrence of the gaze request, and the traffic around the location where the gaze request occurred. Any one of information such as participant status and road conditions around the place where the gaze request has occurred, or a combination of these pieces of information may be adopted.
  • step S202 the response necessity determination unit 14 determines whether the generated gaze request requires no response by the operator, based on the past gaze request information and gaze request information extracted in step S201. Calculate the degree to which operator intervention is unnecessary.
  • the response necessity determining unit 14 uses the situation of traffic participants around the robot M1 and the like that have made a gaze request that occurred in the past in the extracted past gaze request information and the road situation around the robot M1 and the like, and the gaze request information. Pay attention to the past gaze request information in which the situation of traffic participants around the robot M1, etc. and the road situation around the robot M1, etc. are the same, and there is no operator response in the past gaze request information that was noticed. In other words, the ratio of past gaze requests for which no operator response was performed is calculated as the degree to which operator response is unnecessary.
  • the degree to which operator response is unnecessary is not a percentage; for example, 0 indicates that operator response is unnecessary, and 1 indicates that operator response is necessary. It may be a binary value that can be used to determine whether it is necessary.
  • the robot that generated the gaze request in the extracted past gaze request information and the robot that generated the gaze request acquired in step S101 may be the same robot or may be different robots.
  • the degree of unnecessaryness is weighted using the degree of influence on surrounding traffic participants such as robot M1. You may decide how much you need.
  • the degree of unnecessaryness calculated from the number of operator responses is further weighted using the degree of influence, so that the degree of unnecessaryness is compared to a case where no weighting is applied. can be calculated to be lower.
  • step S203 the response necessity determining unit 14 determines whether the generated gaze request requires operator response based on the degree to which operator response is unnecessary calculated in step S202. For example, if the degree of unnecessary operator response calculated in step S202 is higher than the threshold, the response necessity determination unit 14 determines that operator response is unnecessary for the generated gaze request.
  • the determination result may be one that indicates the degree to which operator intervention is unnecessary, such as a probability of 80% that operator intervention is unnecessary. Further, the determination result may be such as to indicate that an operator's response is unnecessary compared to other gaze requests.
  • step S204 the response necessity determining unit 14 generates response necessity information based on the result determined in step S203, and transmits the generated response necessity information to the notification control unit 15.
  • the response necessity information includes, for example, information indicating the result determined in S203, gaze request information, and information for specifying whether an operator response is required for the generated gaze request, such as travel information. .
  • FIG. 14 is a flow diagram illustrating an example of processing by the notification control unit 15 according to the embodiment.
  • the process shown in FIG. 14 is a detailed example of the process executed in step S105 shown in FIG. 12.
  • the flow shown in FIG. 14 focuses on one operator among a plurality of operators who monitor the robot M1 etc. by checking the image data displayed on the display device 20, and as a predetermined notification condition, A case is shown in which the ratio of the number of operators who are handling the robot M1 or the like among the plurality of operators is adopted.
  • the notification control unit 15 calculates the ratio of operators who are responding to a plurality of operators, such as operating the robot M1, etc., and determines the load status of the single operator based on the calculated ratio. .
  • the notification control unit 15 determines that the load status of the one operator is high, and the notification control unit 15 determines that the load status of the one operator is high, and requests a high degree of attention that does not require operator response (specifically, It is determined that the presentation method of an alert regarding a gaze request should be changed.
  • the predetermined notification condition may be, for example, whether the operator is currently responding. For example, if the operator is responding, the notification control unit 15 determines that the operator's load status is high, and issues a high degree of attention request (more specifically, an alert) that does not require the operator's response. Don't let it be presented.
  • the notification control unit 15 acquires remote operator information from the remote operator DB 13.
  • the acquired remote operator information includes, for example, information indicating the number of all operators monitoring the robot M1 and the like, the number of operators currently responding to the robot M1, and the like.
  • step S302 the notification control unit 15 calculates the ratio of the number of operators currently responding to all operators based on the remote operator information acquired in step S301.
  • step S303 the notification control unit 15 determines whether to change the presentation method of gaze requests that have a high probability of requiring no operator response, based on the ratio of the number of operators currently responding calculated in step S302. For example, if the percentage of operators responding is higher than a predetermined threshold, the notification control unit 15 determines that the operator load situation is high, and changes the presentation method of gaze requests that have a high percentage of requiring no operator response. do. On the other hand, for example, if the proportion of operators responding is below a predetermined threshold, the notification control unit 15 determines that the operator load situation is low, and presents a gaze request with a high rate of occurrence where operator response is unnecessary. Do not change the method.
  • the predetermined notification condition may be whether the number of traffic participants is lower than a predetermined number.
  • the notification control unit 15 calculates the number of traffic participants from information indicating the status of traffic participants around the robot M1, etc., and changes the presentation method depending on whether the calculated number of traffic participants is lower than a predetermined number. You can determine whether For example, if the number of traffic participants is lower than a predetermined number, the notification control unit 15 determines that the degree of influence of the robot M1 etc. on surrounding traffic participants is low. In this case, for example, the notification control unit 15 may display an alert in response to a gaze request with a high degree of unnecessary operator response out of the multiple gaze requests that have occurred, in a lighter color than alerts in response to other gaze requests. , the presentation method is changed so that it is less conspicuous compared to other alerts that respond to attention requests.
  • the robot M1 etc. when the road is narrow and the robot M1 etc. is large, if an event occurs and the robot M1 etc. stops, the impact on the surroundings of the robot M1 etc. will be large. For example, in such a case, other vehicles may not be able to overtake or pass the robot M1 or the like.
  • the robot M1 or the like if the robot M1 or the like is small, this effect is small. For example, if the robot M1 or the like is small, other vehicles can overtake or pass the robot M1 or the like.
  • the presentation information in response to the gaze request may be presented in a less conspicuous manner.
  • the size of the robot M1, etc. may simply be used, but since it depends on the width of the running path, the presentation method may be changed depending on the ratio of the width of the robot M1, etc. to the width of the running path.
  • the width of the travel path may be measured by the robot M1 or the like on site using an obstacle sensor, or may be stored in advance in the road DB (for example, a storage device included in the server device 10).
  • the frequency with which people approach the robot M1 etc. differs depending on the service performed by the robot M1 etc. Therefore, it may be determined whether the presentation method should be changed depending on the type of service performed by the robot M1 or the like.
  • presentation information in response to a gaze request from a robot M1 or the like that performs a service without human interaction may be presented in a less conspicuous manner.
  • the degree of unnecessaryness may be calculated using not only the load situation but also the skill level.
  • Information regarding the skill level of the operator is obtained from the remote operator DB 13, and if the skill level of the operator is high, even if the load situation is low, the output mode of the presented information in response to a high degree of gaze request that does not require operator response will be noticeable. It may be changed so that it does not exist.
  • the notification control unit 15 may determine whether the brightness around the robot M1 or the like is higher than a predetermined brightness, and change the alert presentation method based on the determination result. For example, if the brightness of the surroundings of the robot M1, etc. when a gaze request is generated is higher than a predetermined brightness (in other words, it is bright), the notification control unit 15 determines which of the multiple gaze requests that do not require operator response. Regarding alerts that respond to high-level gaze requests, the presentation method is changed so that they are less noticeable compared to alerts that respond to other gaze requests, such as displaying them lighter than alerts that respond to other gaze requests.
  • the surroundings of the robot M1, etc. are bright, which means that the operator can easily notice the gaze requests that have occurred, and can easily respond to the gaze requests, reducing the burden on the operator due to gaze requests that require no operator response. can do.
  • the notification control unit 15 may determine whether or not the surroundings of the robot M1 etc. are bright based on a value from a sensor such as an illuminance sensor, or may determine whether the surroundings of the robot M1 etc. are bright, for example, based on the time when the gaze request occurs. You can also judge by whether it is daytime or not.
  • the various sensors from which the robot information acquisition unit m2 acquires information may include an illuminance sensor.
  • the predetermined notification condition may be whether the operator's response is related to safety.
  • the notification control unit 15 may determine whether to change the presentation method based on a determination result as to whether the contents of the operator response are related to safety.
  • the gaze request information and the past gaze request information may include information indicating the content of operator support.
  • the notification control unit 15 may determine not only the presence or absence of operator support, but also the safety of the contents of operator support.
  • the notification control unit 15 acquires information regarding the content of the operator response, and determines that the content of the operator response in past gaze request information indicating a gaze request similar to the gaze request that occurred in the past is safe.
  • the notification control unit 15 may issue other alerts regarding the alerts in response to the gaze requests that have a high degree of unnecessary operator response among the generated gaze requests.
  • the presentation method will be changed so that the alert is less noticeable than the alerts that respond to other gaze requests, such as displaying them lighter than the alerts that respond to the gaze requests.
  • the notification control unit 15 may determine whether to change the presentation method based on the determination result of whether the location where the gaze request occurred is not a high-risk location based on information regarding the risk level. good. For example, the notification control unit 15 determines the location where the gaze request has occurred based on map information including information on the route traveled by the robot M1 etc. as travel information and a risk map indicating which points have the most accidents. Calculate the distance to a point with a risk level higher than a predetermined risk level.
  • the notification control unit 15 determines that the risk level of the place where the gaze request has occurred is low, that is, the degree of unnecessary operator response is high. In this case, for example, the notification control unit 15 may display alerts that correspond to gaze requests that require a high degree of operator response among the generated gaze requests in a lighter color than alerts that respond to other gaze requests. , the presentation method is changed so that it is less noticeable compared to other alerts that respond to attention requests.
  • the predetermined notification condition may be whether the required gaze period when a gaze request occurs is longer than a predetermined period.
  • the notification control unit 15 may determine whether to change the presentation method based on the required gaze period. For example, the notification control unit 15 determines that an alert corresponding to a gaze request with a long required gaze period (for example, longer than a predetermined period) when the gaze request occurs is thinner than alerts corresponding to other gaze requests. The presentation method will be changed so that it is less noticeable compared to other alerts that respond to attention requests.
  • the required gaze period may be determined from the required gaze period regarding similar past gaze requests based on past gaze request information.
  • the required gaze period regarding the past gaze request may be calculated from, for example, a video of the operator, included in the past gaze request information, and stored in the pre-driving gaze request DB 12.
  • the notification control unit 15 may determine whether to change the presentation method based on a combination of the above-described predetermined notification conditions as the predetermined notification conditions.
  • the server device 10 executes the following processing.
  • FIG. 15 is a flow diagram showing the processing procedure of the server device 10 according to the present embodiment.
  • the server device 10 acquires, from a moving object that is remotely watched or operated by an operator, first gaze request information regarding an event that occurred around the moving object at a first time (S401).
  • the moving body is, for example, the robot M1 described above.
  • the first time is the time when the operator is monitoring the robot M1 and the like.
  • the first gaze request is a gaze request transmitted from the robot M1 etc. to the server device 10 when the operator is monitoring the robot M1 etc.
  • the second gaze request is a gaze request transmitted from the robot M1 or the like to the server device 10 in the past.
  • the server device 10 stores the second gaze request information acquired in the past from the first time and the correspondence information indicating the operator's response to the second gaze request information in association with each other in the storage unit. Based on the past gaze request information and the first gaze request information, an unnecessary degree indicating the degree to which the operator's gaze or operation is unnecessary for the first gaze request information is determined (S402). .
  • past gaze request information including the second gaze request information and correspondence information is stored in the storage unit by the server device 10.
  • the storage unit is, for example, the pre-driving gaze request DB12 described above.
  • the server device 10 determines the output mode of alert information based on the first gaze request information depending on the degree of unnecessaryness (S403).
  • the server device 10 outputs the alert information to the terminal used by the operator according to the determined output mode (S404).
  • the alert information may prompt the operator to focus on an image that shows a robot that requires a high degree of attention, and may not draw the operator's attention to an image that shows a robot that requires a low degree of attention. This is information to help you do so.
  • the alert information is, for example, an image (video), but may also be audio information and/or information for imparting vibrations or the like to the operator.
  • the terminal is the display device 20 described above.
  • the terminal may be an audio device such as a speaker for outputting sound, a vibration generator, or the like.
  • the server device 10 displays information (for example, the information below) regarding each gaze request acquired from the robot M1 etc. on the display device 20, thereby reducing the burden on the operator. May be reduced.
  • the server device 10 displays, on the display device 20, events that have actually occurred and details of the operator's response to the event regarding past gaze requests that are past gaze requests at the same point as the acquired gaze request. may be displayed.
  • the server device 10 may also cause the display device 20 to display the location where the event occurred or the time when the event occurred.
  • server device 10 may output the presentation information differently depending on whether the past gaze request at the same point as the acquired gaze request is related to safety or something else.
  • the server device 10 also determines whether a past gaze request at the same point as the acquired gaze request is within the risk area or outside the risk area, or whether it is close to the risk area (for example, within a predetermined distance from the risk area).
  • the output mode of the presentation information may be changed depending on whether the presentation information is other than the above or not.
  • the position and predetermined distance of the risk area may be arbitrarily determined. These pieces of information are stored in advance in a storage device included in the server device 10, for example.
  • the server device 10 may execute the following process.
  • FIG. 16 is a flow diagram showing the processing procedure of the server device 10 according to the present embodiment.
  • the server device 10 acquires first gaze request information regarding a first event that occurred around the moving object at a first time from a moving object that is remotely watched or operated by an operator (S501). .
  • the server device 10 stores the second gaze request information acquired in the past from the first time and the correspondence information indicating the operator's response to the second gaze request information in association with each other in the storage unit. Based on the past gaze request information and the first gaze request information, information regarding the first gaze request information is displayed on the terminal used by the operator (S502).
  • the information related to the first gaze request information includes, for example, response information indicating the operator's response to the second gaze request information regarding the second event that occurred at the same location as the first event;
  • the information includes information indicating the event, information indicating whether the second event is safe, and information indicating whether the position is within the risk area.
  • Technique 1 is an information processing method executed by a computer, in which first gaze request information regarding an event occurring around the moving body at a first time is obtained from a moving body that is remotely watched or operated by an operator.
  • past gaze which is information stored in the storage unit in association with second gaze request information acquired in the past from the first time and correspondence information indicating the operator's response to the second gaze request information; Based on the request information and the first gaze request information, a degree of unnecessaryness indicating the degree to which the operator's gaze or operation is unnecessary for the first gaze request information is determined, and the degree of unnecessaryness is determined according to the degree of unnecessaryness.
  • an output mode of alert information is determined based on first gaze request information, and the alert information is output to a terminal used by an operator according to the determined output mode.
  • the information processing method is, for example, a method executed by the server device 10.
  • a remote request is generated and the operator has to watch the remote request in order to confirm and make a decision. be exposed.
  • the robot instead of the robot issuing a remote request requesting an operator's response, as in the past, the robot issues a remote request to the operator to determine whether remote control is necessary, as in the robot M1 mentioned above.
  • the robot generates a gaze request.
  • the operator's response is recommended rather than mandatory, and the response is based on the operator's judgment, so there is a high possibility (probability) that the operator's response will not be required among multiple gaze requests.
  • the display related to the gaze request is made in a display mode that is less conspicuous than the displays related to other gaze requests.
  • the output mode of alert information is determined based on the degree of unnecessaryness, so, for example, there is a high possibility that an operator's response will not be necessary.
  • Alert information based on the first gaze request information that is assumed to be (for example, a high degree of unnecessaryness) and alert information that is assumed to be likely to require an operator response (for example, a low degree of unnecessaryness)
  • the alert information based on the first gaze request information is output (that is, presented) to the operator by the terminal in different output modes (presentation modes). For example, the output mode of alert information based on first gaze request information that is assumed to be highly likely to require no operator response is changed.
  • alert information is output in a first manner
  • the degree of unnecessaryness is less than a predetermined degree
  • alert information is output in a second manner.
  • the first mode is an output mode that is less noticeable to the operator, such as smaller characters and/or lighter display colors, etc., than the second mode. According to this, it is possible to reduce the burden on the operator for alert information and the like for which there is a high possibility that the operator does not need to respond, and it becomes easier for the operator to respond flexibly. Therefore, according to the information processing method according to one aspect of the present disclosure, the burden on the operator can be reduced.
  • the predetermined degree may be arbitrarily determined in advance and is not particularly limited. Furthermore, the degree of unnecessaryness may be arbitrarily determined depending on the content of the gaze request information.
  • Technique 2 is the information processing method described in Technique 1, in which the output mode is determined based on the degree of unnecessaryness and the load situation regarding operator's gaze or operation.
  • the load status is, for example, the number of operators watching or performing an operation.
  • the load status may be, for example, the number of operators performing operations.
  • alert information is output in the first mode, and if the unnecessary degree is more than a predetermined degree, If there is, and the load status is less than a predetermined load value, alert information is output in the second mode. According to this, the alert information is output in an output mode according to the operator's load status, so that the burden on the operator can be further reduced.
  • the predetermined load value may be arbitrarily determined and is not particularly limited.
  • Technique 3 is the information processing method described in Technique 2, in which the load status represents the number of operators who are currently operating the mobile object relative to the total number of operators who are watching or operating the mobile object remotely.
  • the ratio of the operators currently operating is calculated to be 80%.
  • the percentage of operators performing operations is high, it is determined that the operator load status is high. In such a case, it is considered that the situation is relatively difficult for the operator to deal with.
  • the ratio of the number of operators executing operations is low, it is determined that the operator load status is low. In such a case, it is considered that the situation is relatively easy for the operator to handle.
  • alert information is output in the first mode, and the unnecessary If the degree is equal to or higher than the predetermined degree and the ratio of the number of operators executing the operation is less than the predetermined ratio, alert information is output in the second mode.
  • the predetermined ratio is set to 75% and the operator ratio is 80%, it is determined that the operator load situation is high. According to this, the alert information is output in an output mode according to the operator's load status, so that the burden on the operator can be further reduced.
  • the predetermined ratio may be arbitrarily determined and is not particularly limited.
  • Technique 4 is the information processing method described in any one of Techniques 1 to 3, in which the output mode is determined based on the degree of unnecessaryness and the number of traffic participants around the mobile object.
  • alert information is output in the first mode, and the degree of unnecessaryness is reduced to a predetermined degree. If the above is true and the number of traffic participants is greater than or equal to the predetermined number of participants, alert information is output in the second mode. According to this, the alert information is output in an output mode according to the degree of influence on traffic participants, so the burden on the operator can be further reduced.
  • predetermined number of participants may be arbitrarily determined and is not particularly limited.
  • the predetermined number of participants may be, for example, two or three or more.
  • the surroundings of the moving object are, for example, positions within a predetermined distance from the moving object, but may be arbitrarily determined.
  • the traffic participants around the moving body may be, for example, traffic participants whose distance from the moving body is less than or equal to a predetermined distance, or traffic participants who are captured by a camera placed on the moving body.
  • the predetermined distance may be arbitrarily determined and is not particularly limited.
  • Technique 5 is the information processing method described in any one of Techniques 1 to 4, in which the output mode is determined based on the degree of unnecessaryness and the brightness around the moving object.
  • alert information is output in the first mode, and the unnecessary degree becomes equal to or higher than the predetermined degree. If the above is true and the brightness around the moving object is less than the predetermined brightness, alert information is output in the second mode. According to this, the alert information is output in an output mode according to the load on the operator based on the brightness around the moving object, so the burden on the operator can be further reduced.
  • the predetermined brightness may be arbitrarily determined in advance and is not particularly limited. Further, the brightness may be calculated based on time, or may be a numerical value measured as illuminance. For example, if the time is between 5:00 and 17:00, it is determined to be bright, that is, the brightness is higher than the predetermined brightness, and if the time is outside the time range, it is determined to be dark, that is, the brightness is less than the predetermined brightness. It may be determined that
  • Technique 6 is the information described in any of Techniques 1 to 5, which determines the output mode based on the degree of unnecessaryness and whether the operator's operation regarding the first gaze request information is related to safety. This is a processing method.
  • Operator operations include, for example, operations related to safety (that is, high risk) that can directly lead to an accident, such as driving a moving object, and operations involving pedestrians, etc. located around the moving object.
  • operations related to safety that is, high risk
  • There are things that are not related to safety that is, low risk
  • calls out for example, voice transmission from a speaker installed on a moving object.
  • the burden on the operator is lower than when it is related to safety.
  • the operator is required to take particular precautions, so it is determined that the burden on the operator is high.
  • alert information is output in the first mode, and if the degree of unnecessaryness exceeds a predetermined degree, If the content of the operator's operation is related to safety, alert information is output in the second mode. According to this, the alert information is output in an output mode according to the load related to the operator's response, so that the burden on the operator can be further reduced.
  • the relationship between operator operation details and safety may be arbitrarily determined in advance and is not particularly limited.
  • the details of the operator's operation may be determined based on the first gaze request information and the second gaze request information.
  • the second gaze request information may include the situation around the moving object and the details of the operator's operation.
  • the content of the operator's operation is the same as or similar to the surrounding situation of the moving body indicated by the first gaze request information (for example, the position of the moving body is close), and the operator's operation indicated by the second gaze request information The content will be accepted.
  • Technique 7 is the method described in any one of Techniques 1 to 6, in which the output mode is determined based on the degree of unnecessaryness and the degree of risk of the area where the operator operates the mobile object in response to the first gaze request information. It is an information processing method.
  • the risk level of an area is, for example, the number of accidents that occur in the area.
  • the risk level of an area is determined to be high if the number of accidents that occur in the area is a predetermined number or more, and is determined to be low if the number of accidents that occur in the area is less than a predetermined number.
  • the degree of risk when the degree of risk is low, it is determined that the burden on the operator is lower than when the degree of risk is high.
  • the degree of risk if the degree of risk is high, for example, the operator needs to be particularly careful in handling the situation, so it is determined that the burden on the operator is high. Therefore, for example, if the degree of unnecessaryness is greater than or equal to a predetermined degree, and the risk degree of the area is less than the predetermined risk degree, alert information is output in the first mode, and the degree of unnecessaryness is reduced to a predetermined degree. If the above is true and the risk degree of the area is equal to or higher than the predetermined risk degree, alert information is output in the second mode. According to this, the alert information is output in an output mode according to the load related to the operator's response, so that the burden on the operator can be further reduced.
  • the predetermined risk level may be arbitrarily determined in advance and is not particularly limited. Further, a risk map indicating the relationship between areas and risk degrees may be stored in advance in a storage device included in the information processing device.
  • Technique 8 is the information processing method according to any one of Techniques 1 to 7, in which the output mode is determined based on the degree of unnecessaryness and the period of gaze performed by the operator on the first gaze request information. be.
  • Whether the operator is watching is determined based on, for example, a video of the operator. For example, the period during which the operator's line of sight continues to face the image of a specific moving object is calculated as the period of gaze performed by the operator.
  • the shorter the period of gaze the higher the possibility that the operator does not think that gaze or response is necessary, and it is determined that the burden of response on the operator is lower than when the period of gaze is long. In such a case, it would be relatively easy for the operator to respond.
  • the longer the gaze period is the more likely the operator is to think that a problem may occur with the moving object, and it is determined that the burden on the operator is higher. In such a case, it would be relatively difficult for the operator to respond.
  • alert information is output in the first mode, and if the degree of unnecessaryness is greater than or equal to the predetermined degree, If there is, and the period of gaze is longer than the predetermined period, alert information is output in the second mode. According to this, the alert information is output in an output mode according to the load related to the operator's response, so that the burden on the operator can be further reduced.
  • Technique 9 is the information processing method described in any one of Techniques 1 to 8, in which the output mode is determined so that the display mode is different depending on the degree of unnecessaryness.
  • the degree of unnecessaryness can be displayed in an easy-to-understand manner to the operator.
  • Technique 10 is the information processing method described in any one of Techniques 1 to 9, in which an output mode is determined so as to display information indicating a degree of unnecessaryness.
  • the degree of unnecessaryness can be displayed in an easy-to-understand manner to the operator.
  • Technique 11 is the information processing method described in any one of Techniques 1 to 10, in which the output mode is determined so that the display mode dynamically changes according to an unnecessary degree of change.
  • Technique 12 includes an acquisition unit that acquires first gaze request information regarding an event occurring around the mobile body at a first time from a mobile body that is remotely watched or operated by an operator;
  • the past gaze request information and the first gaze request are information stored in the storage unit in association with the second gaze request information acquired in the past and the response information indicating the operator's response to the second gaze request information.
  • a first determining unit that determines a degree of unnecessaryness indicating the degree to which the operator's gaze or operation is unnecessary for the first gaze request information based on the first gaze request information;
  • An information processing device comprising: a second determining unit that determines an output mode of alert information based on the first gaze request information; and an output unit that outputs the alert information to a terminal used by an operator according to the determined output mode. It is.
  • the acquisition unit is, for example, the driving information acquisition unit 11 described above.
  • the storage unit is, for example, the above-mentioned pre-driving gaze request DB12.
  • the first determining section is the above-mentioned response necessity determining section 14.
  • the second determination unit and output unit are the notification control unit 15 and the alert output unit 16.
  • Technique 13 is an information processing method executed by a computer, in which a first gaze regarding a first event occurring around the moving body at a first time is obtained from a moving body that is remotely watched or operated by an operator.
  • the request information is acquired, and the second gaze request information acquired in the past from the first time and the response information indicating the operator's response to the second gaze request information are associated and stored in the storage unit.
  • This is an information processing method that displays information related to first gaze request information on a terminal used by an operator based on certain past gaze request information and first gaze request information.
  • Technique 14 is an operator's response to second gaze request information regarding a second event that occurred at the same position as the first event, among the plurality of second gaze request information stored in the storage unit. This is the information processing method according to technique 13, in which the correspondence information indicating the event and the information indicating the second event are displayed on the terminal as information related to the first gaze request information.
  • the operator can grasp in advance what kind of event may occur.
  • Technique 15 is to display information regarding the first attention request information on the terminal so that the display mode differs depending on whether the second attention request information regarding the second event is related to safety. This is the information processing method described.
  • the operator can judge that more caution is required if it is related to safety.
  • Technique 16 is the technique 14 or 15 in which information regarding the first gaze request information is displayed on the terminal so that the display mode differs depending on whether the position is within a predetermined distance from the risk area. This is the information processing method described.
  • the operator can determine that more caution is required if the location is within the risk area or near the risk area.
  • the general or specific aspects of the present disclosure may be realized in a system, device, method, integrated circuit, computer program, or non-transitory recording medium such as a computer-readable CD-ROM. Further, the present invention may be realized by any combination of a system, an apparatus, a method, an integrated circuit, a computer program, and a recording medium.
  • the present disclosure may be realized as an information processing method, a program for causing a computer to execute the information processing method, or a computer-readable non-computer program recorded with such a program. It may also be realized as a temporary recording medium.
  • the processing executed by a specific processing unit may be executed by another processing unit.
  • the order of the plurality of processes may be changed, or the plurality of processes may be executed in parallel.
  • each component of the processing unit such as the response necessity determining unit, the notification control unit, or the alert output unit, is realized by executing a software program suitable for each component. It's okay.
  • Each component may be realized by a program execution unit such as a CPU or a processor reading and executing a software program recorded on a recording medium such as a hard disk or a semiconductor memory.
  • each component may be realized by hardware.
  • Each component may be a circuit (or integrated circuit). These circuits may constitute one circuit as a whole, or may be separate circuits. Further, each of these circuits may be a general-purpose circuit or a dedicated circuit.
  • the information processing device may be realized as a single device such as an information terminal, or may be realized by a plurality of devices.
  • the components included in the server device 10 described in the above embodiments may be distributed to the plurality of devices in any manner.
  • the output mode may be based on the degree of unnecessaryness, (i) operator load status, (ii) number of operators who are currently operating the mobile object out of all the number of operators remotely watching or operating the mobile object. , (iii) the number of traffic participants around the mobile object, (iv) the brightness of the surrounding situation of the mobile object, (v) whether the operator's operation in response to the first gaze request information is related to safety, (vi ) Based on at least one of the risk level of the area in which the operator operates the mobile object in response to the first gaze request information, and (vii) the period of gaze performed by the operator in response to the first gaze request information. may be determined.
  • the robot M1 etc. detects a predetermined event that is likely to cause a problem in continuing autonomous travel based on travel information including data obtained by a plurality of sensors included in the robot M1 etc. If this is detected, the robot M1 or the like generates gaze request information to notify the operator of this fact. Further, in the embodiment described above, the robot M1 and the like transmit travel information and gaze request information to the server device 10 via the communication interface and the network N. However, the example in which a gaze request is generated is not limited to this.
  • the robot M1 etc. may output running information including data obtained by a plurality of sensors included in the robot M1 etc., and the server device 10 may generate gaze request information based on the received running information. . In that case, the robot M1 etc. transmits traveling information including data obtained by a plurality of sensors included in the robot M1 etc. to the server device 10 via the communication interface and the network N.
  • the server device 10 may display an alert in response to a gaze request assigned to each operator on the display device 20 that each operator uses to monitor the robot M1 and the like.
  • the skill level of the operators may be determined from the years of experience of each operator, etc., based on remote operator information.
  • the server device 10 does not change the presentation method for the alert corresponding to the generated gaze request, and the server device 10
  • the information may be presented in a way that makes it easy to notice. This makes it easier for the operator to respond to the robot M1 and the like so as not to disturb or become a nuisance to surrounding traffic participants.
  • whether or not past gaze request information is not sufficiently accumulated may be determined based on the number of past gaze request information, the location where it occurred, and/or the number of types of past gaze request information such as the time of occurrence. .
  • the presentation method is changed so that it is difficult to notice compared to alerts in response to other gaze requests.
  • an operator response is required, other operators who have not received a gaze request and have a low workload will respond to the gaze request without changing their presentation method so that they can easily notice the other operator. An alert may be notified.
  • the server device 10 records the importance and/or urgency of the factors that caused the gaze request in the past gaze request information in order to deal with cases where there are multiple causes of the gaze request. You can stay there.
  • the server device 10 takes actions such as prioritizing the response and determining the output mode of the alert based on the degree of importance and/or urgency. Good too.
  • the server device 10 adjusts the presentation method based on such importance and/or urgency. It may be used when changing and/or allocating responses to gaze requests to operators.
  • the robot M1 and the like may be communicably connected to an operating device such as a touch panel operated by an operator.
  • an operating device such as a touch panel operated by an operator.
  • the operator can directly operate the robot M1 etc. by operating the operating device.
  • the information regarding the operation of the robot M1 etc. input by the operator into the operating device is transmitted to the server device 10, and the information is further transferred from the server device 10 to the robot M1 etc., so that the robot M1 etc. can be operated by the operator. may be operated by.
  • the operating device and the display device 20 may be integrally realized by a touch panel display or the like.
  • the operator may select information indicating the plurality of robots M1, etc. that have requested the gaze (for example, identifiers such as the names of the robots M1, etc.) and display it on the display device 20.
  • the server device 10 may display a list of information indicating the plurality of robots M1 and the like that have been requested to watch on the display device 20 so that the user can select one.
  • the server device 10 may display information for selection support on the display device 20. Examples of information for selection support include the degree of unnecessaryness, risk areas, events that occurred in past gaze requests, details of operator response to the events, and task status of robot M1 and the like.
  • the information used in the above-mentioned predetermined notification conditions may be used as information for selection support.
  • an unnecessary low-level gaze request newly occurs while the operator is gazing at the robot M1, etc., or when an unnecessary low-level gaze request is changed from an unnecessary high-level gaze request while the operator is gazing at the robot M1 etc.
  • the status changes to request it is conceivable that information about the robot M1 and the like that the operator should pay attention to changes.
  • the operator needs to preferentially gaze at information such as the robot M1 that has a lower degree of unnecessary gaze.
  • the operator when the operator is watching, if the display on the display device 20 that the operator is looking at changes, ignoring the previous situation of the operator who is watching, the operator may become confused.
  • the operator may not be able to properly observe the object, resulting in an increased burden on the operator.
  • the degree is changed, and the information on the display device 20 is changed. If the display order of the items is suddenly changed, the operator will be confused. For example, in a state where information corresponding to a plurality of gaze requests is displayed on the screen of the display device 20 in order of unnecessaryness from the top, the information displayed at the top of the display device 20 is If the display is suddenly changed from 3 to 3, the operator may be confused.
  • the server device 10 is configured to When the status changes to a request, a display will be displayed regarding the robot M1 etc. that has output a newly generated gaze request with a low degree of unnecessaryness, and the robot M1 etc. which has the highest degree of unnecessaryness among the robots M1 etc. that the operator is watching. The operator may be asked whether to switch the display. For example, the server device 10 may cause the display device 20 to display a message asking whether to switch between these displays. The server device 10 may switch these displays when an operator instructs the server to switch.
  • server device 10 may obtain instructions from the operator regarding which display should be replaced with which display, and may control the display device 20 so that the display matches the obtained instructions.
  • the server device 10 also displays the robot M1, etc. that has output a newly generated gaze request with a low degree of unnecessaryness, and the robot M1, etc., which has the highest degree of unnecessaryness, among the robots M1, etc. that are being watched by the operator.
  • the display device 20 may automatically switch between the two.
  • server device 10 may display these on the display device 20 in a recognizable manner so that the operator can understand them, such as indicating that remote requests are mandatory and gaze requests are recommended.
  • the robot M1 etc. determines the degree of unnecessaryness, and if it is determined that the degree of unnecessaryness is high, it is not necessary to output the gaze request.
  • the robot M1 and the like do not need to determine the degree of unnecessaryness and output a gaze request if the condition is satisfied, similar to the predetermined notification condition.
  • gaze requests that are of a low degree of unnecessaryness may be treated the same as constant monitoring, or may be given a higher priority within constant monitoring.
  • the degree of unnecessaryness may be determined depending on the recognition result of the object that is the target of the gaze request.
  • people who often play tricks on the robot M1 etc. may be registered in a blacklist.
  • the robot M1 or the like may determine the degree of unnecessaryness to be high.
  • the blacklist is stored in advance in a storage device included in the robot M1 and the like.
  • the server device 10 may change the presentation method of the gaze request based on interaction from the operator. For example, the server device 10, based on a suggestion (instruction) from the operator, can change the presentation method (display method) to make "approaching pedestrian” less noticeable and to display "approaching street parking” more prominently. May be changed. In this way, the presentation method of the gaze request may be customized by the operator.
  • the server device 10 may change the presentation method of the gaze request based on the operator's past response performance. For example, the server device 10 makes the same gaze requests that it has been able to respond to in the past inconspicuously, and makes the same gaze requests that it has not been able to respond to in the past in accordance with its past response record to the operator's gaze requests. The way the gaze request is presented may be changed to emphasize the request. In terms of past response results, compared to other operators, they are able to notice ⁇ approaching pedestrians'' well and respond quickly by stopping the robot M1 etc. as necessary, but when it comes to ⁇ approaching pedestrians parked on the street,'' For example, it is slow to notice, and it takes a long time to stop the robot M1 etc. and avoid it.
  • the present disclosure is applicable not only when the gaze request from the robot M1 etc. is a judgment request but also when it is an alert (also referred to as an abnormality notification) from the robot M1 etc.
  • the judgment request from the robot M1 etc. is a notification for the operator to judge whether it is necessary to respond by remote control or the like.
  • an abnormality notification from the robot M1 etc. is a notification of some kind of situation change or abnormality (an unusual event), regardless of whether the operator needs to respond by remote control or the like.
  • a decision request such as "pedestrian approaching” is notified in order for the operator to decide whether to stop the robot M1 or the like.
  • the operator is required to operate the robot M1 and the like as necessary to avoid colliding with pedestrians.
  • abnormality notifications such as ⁇ rear vehicle approaching,'' notify the operator that there is a vehicle behind them, and there is no need for the operator to take any special action. This is to notify you.
  • the abnormality notification may cause the operator to refrain from performing operations such as turning right, if a vehicle behind the robot M1 or the like is attempting to overtake the robot M1 from the right side, for example.
  • the server device 10 may change the output mode of the presentation information to a notification that places a burden on the operator when the load status is low.
  • Wireless communication or wired communication may be performed between the devices.
  • wireless communication and wired communication may be combined between devices.
  • the server device 10 is realized by a single device, but it may be realized by a plurality of devices connected to each other.
  • the present disclosure can be used in an information processing method when an operator watches or operates a controlled robot.
  • Notification system information processing system
  • Server device 11
  • Driving information acquisition unit 12
  • Pre-driving gaze request DB 13
  • Remote operator DB 14
  • Response necessity determination unit 15
  • Notification control unit 16
  • Alert output unit 20a,..., 20n
  • Display communication unit 22
  • Display control unit 23 Output units 231 to 237, 231A, 231B, 231C, 231D Images
  • Robot information acquisition unit m3
  • Control unit m4 Communication unit
  • N Network T1 Past gaze request table

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Traffic Control Systems (AREA)

Abstract

本開示の一態様に係る情報処理方法は、移動体から、第一の時刻における、移動体の周囲で発生したイベントに関する第一の注視要請情報を取得し（Ｓ４０１）、第一の時刻より過去に取得した第二の注視要請情報、及び、第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられた情報である過去注視要請情報と第一の注視要請情報とに基づき、第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定し（Ｓ４０２）、不必要な度合いに応じて、第一の注視要請情報に基づくアラート情報の出力態様を決定し（Ｓ４０３）、決定された出力態様によって、オペレータが使用する端末にアラート情報を出力させる（Ｓ４０４）。

Description

情報処理方法、及び、情報処理装置
　本開示は、情報処理方法、及び、情報処理装置に関する。
　無線ＬＡＮ（Ｌｏｃａｌ　Ａｒｅａ　Ｎｅｔｗｏｒｋ）又は携帯電話回線等の無線通信を利用して、自律的な走行が可能なロボットを、状況に応じてオペレータが遠隔操作する遠隔管制システムがある。
　このような遠隔管制システムは、被管制ロボット（以降、単にロボットとも記載する）に搭載されたミリ波レーダ、レーザーレーダ、及び、カメラ等の様々なセンサがロボット周辺を観測して得られるセンシング結果から所定のイベントを検知する。また、遠隔管制システムでは、所定のイベントを検知すると、ロボットから通信手段を介してオペレータに通知を行う。オペレータは、伝えられた通知に基づいて、遠隔からロボットを制御（つまり、遠隔操作）する。
　例えば、特許文献１には、車両が目的地まで走行する際に、当該車両に対して遠隔支援が行われる地点を当該車両が通る場合において、その遠隔支援が必要となる地点への到着予定時刻に基づいてオペレータの支援が開始されるタイミングを予測する技術が開示されている。これにより、特許文献１では、オペレータの適切なタイミングでの遠隔支援を可能としている。
特開２０１９－１６０１４６号公報
　従来、オペレータがロボットを一時停止させる等、オペレータの何かしらの対応が必要な場合には、ロボットから通知が送られることが想定されている。
　ここで、例えば、ロボットの安全性の向上及び効率性の向上等のために、ロボットの周辺の映像等に基づいて、オペレータが自身で判断してロボットを遠隔操作できるようにする。このような場合、オペレータが確認するロボットからの通知（以下、注視要請とも記載する）は、必要に応じてオペレータが対応することを要求するものである。そのため、注視要請を受けたオペレータが注視したものの、対応せずに終わってしまうケースが存在する。
　そのようなケースとしては、例えば、走行中のロボットが歩行者の近くを通る際に、歩行者が接近している旨を示す注視要請が発生した場合が挙げられる。このようなケースでは、オペレータは、その注視要請に基づいて注視を行い、ロボットと歩行者との衝突の可能性がある場合には一時停止等の対応を行い、ロボットが歩行者の横をそのまま通りすぎる場合には特に対応しない。このようなケースでは、結果的にオペレータによる対応が不要になってしまう。
　このように、注視要請（通知）の中には、オペレータによる対応が必要になる可能性があっても、結果的にオペレータによる対応が不要となる通知が存在する。そのようなオペレータによる対応が不要な注視要請にオペレータが気をとられてしまうことでオペレーションの全体効率が下がり、オペレータの負荷が増加してしまうという課題がある。
　そこで、本開示は、上記課題を解決するものであり、オペレータの負担を低減することができる情報処理方法等を提供することを目的とする。
　上記課題を解決するために、本開示の一態様に係る情報処理方法は、コンピュータが実行する情報処理方法であって、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、前記移動体の周囲で発生したイベントに関する第一の注視要請情報を取得し、前記第一の時刻より過去に取得した第二の注視要請情報、及び、前記第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と前記第一の注視要請情報とに基づき、前記第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定し、前記不必要な度合いに応じて、前記第一の注視要請情報に基づくアラート情報の出力態様を決定し、決定された前記出力態様によって、前記アラート情報をオペレータが使用する端末に出力させる。
　また、本開示の一態様に係る情報処理装置は、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、前記移動体の周囲で発生したイベントに関する第一の注視要請情報を取得する取得部と、前記第一の時刻より過去に取得した第二の注視要請情報、及び、前記第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と前記第一の注視要請情報とに基づき、前記第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定する第一の決定部と、前記不必要な度合いに応じて、前記第一の注視要請情報に基づくアラート情報の出力態様を決定する第二の決定部と、決定された前記出力態様によって、前記アラート情報をオペレータが使用する端末に出力させる出力部と、を備える。
　また、本開示の一態様に係る情報処理方法は、コンピュータが実行する情報処理方法であって、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、前記移動体の周囲で発生した第一のイベントに関する第一の注視要請情報を取得し、前記第一の時刻より過去に取得した第二の注視要請情報、及び、前記第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と前記第一の注視要請情報とに基づき、前記第一の注視要請情報に関する情報をオペレータが使用する端末に表示させる。
　本開示の一態様に係る情報処理方法等によれば、オペレータの負荷を低減することができる。
図１は、実施の形態に係る通知システムの構成を示すブロック図である。 図２は、実施の形態に係るサーバ装置の機能構成を示すブロック図である。 図３は、実施の形態に係る走行前注視要請ＤＢが記憶するテーブルの一例を示す図である。 図４は、実施の形態に係る遠隔オペレータＤＢが記憶するテーブルの一例を示す図である。 図５は、実施の形態に係るロボットの構成を示すブロック図である。 図６は、実施の形態に係る表示装置の構成を示すブロック図である。 図７は、実施の形態に係る提示情報の提示方法の第一例を示す説明図である。 図８は、実施の形態に係る提示情報の提示方法の第二例を示す説明図である。 図９は、実施の形態に係る提示情報の提示方法の第三例を示す説明図である。 図１０は、実施の形態に係る提示情報の提示方法の第四例を示す説明図である。 図１１は、実施の形態に係る提示情報の提示方法の第五例を示す説明図である。 図１２は、実施の形態に係るサーバ装置内の処理の一例を示すフロー図である。 図１３は、実施の形態に係る対応要否判定部の処理の一例を示すフロー図である。 図１４は、実施の形態に係る通知制御部の処理の一例を示すフロー図である。 図１５は、実施の形態に係るサーバ装置の処理手順を示すフロー図である。 図１６は、実施の形態に係るサーバ装置の処理手順を示すフロー図である。
　（本開示の基礎となった知見）
　上記の通り、従来の遠隔管制システムは、ロボットに搭載された様々なセンサがロボット周辺を観測して得られるセンシング結果から所定のイベントを検知すると、ロボットから通信手段を介してオペレータに通知を行う。上記特許文献１のような従来技術では、ロボットは、自動運転が継続不可になった場合に、オペレータに遠隔操作を要求する遠隔要請を通知する。そのようなロボットからの通知に基づいて、オペレータが遠隔支援を行う。そのため、オペレータは、当該遠隔要請に対して、ロボットを一時停止させる等の対応が必須であり、オペレータが何かしらの対応が必要な場合に通知が送られることが想定されている。
　それに対して、本開示は、ロボットからの通知に基づいて、オペレータが自身で判断してロボットを遠隔操作できるようにするシステムを想定する。オペレータは、伝えられた通知に基づいて、ロボットが撮影する映像の注視を行い、ロボットの周囲の交通参加者の邪魔又は迷惑にならないようにロボットの状態、及び、ロボットの周辺の状態を把握し、ロボットをどのように制御するのかを判断し、ロボットの制御の方法を検討する。そして、オペレータは、必要に応じてロボットの走行に関する制御信号をロボットに伝えることで、遠隔からロボットを制御する。そのため、このようなロボットからの通知に基づいて、オペレータが自身で判断してロボットを遠隔操作するシステムでは、自動運転する際に周囲の交通参加者の邪魔になることで、社会受容性が低下してしまう可能性がある場合、又は、予め遠隔介入（遠隔操作）を行うことで、効率性が低下することを防ぐことができる可能性がある場合に、ロボットから通知が送られることが想定される。
　以上のように、従来では、ロボットは、自動運転が継続不可になった場合に、オペレータに遠隔制御を要求する遠隔要請を通知する。そのため、オペレータは、当該遠隔要請に対して対応することが必須であり、ロボットからの通知に基づき必ず遠隔介入を行う。
　一方、本開示では、自動運転する際に周囲の交通参加者の邪魔になることで、社会受容性が低下してしまう可能性がある場合、又は、予め遠隔介入を行うことで、効率性が低下することを防ぐことができる可能性がある場合に、オペレータに注視を要求する遠隔要請が通知される。そのため、オペレータが、当該遠隔要請に対して対応しなかった場合、又は、対応できなかった場合、周囲の交通参加者の邪魔になること、又は、効率性が低下することはあっても、ロボットの自律走行は可能である。また、当該ロボットには、搭載されているライダー（ＬｉＤＡＲ／Ｌｉｇｈｔ　Ｄｅｔｅｃｔｉｏｎ　Ａｎｄ　Ｒａｎｇｉｎｇ）センサ等により、ロボットの付近の物体を検知して、衝突する前に停止する機能である、緊急ブレーキが存在する。そのため、たとえ通知に対して対応しなかった場合、又は、対応できなかった場合でも、衝突等の事故が発生する前に緊急ブレーキが作動してロボットは停止する。これにより、遠隔要請が通知された際に、オペレータが必ずしも対応しなくても、緊急ブレーキにより社会受容性又は効率性が低下してしまうことがあったとしても、事故が発生することはない。そして、オペレータは、ロボットからの通知に基づき、ロボットが撮影する映像の注視を行い、オペレータが遠隔介入を行うか否か、また、遠隔介入を行う場合にはどのような遠隔介入を行うかを判断する。つまり、本開示は、従来とは異なり、通知に対してオペレータによる対応が必須ではなく、推奨である。また、本開示では、従来とは異なり、遠隔介入は、オペレータの判断により行われる。
　このように、遠隔介入がオペレータの判断により行われる理由としては、ロボットの周囲の交通参加者の邪魔になるタイミング、及び、ロボットの走行に関する効率性の低下につながるタイミングをルール化するのが困難なため、それらのタイミングをロボットが自動で判断し、遠隔要請することが困難であることが挙げられる。このとき、ルール化するのが困難な理由としては、ロボットの周囲の状況によって、オペレータが対応を行うべきタイミングが異なるため、ロボットがそのタイミングを判断して適切なタイミングで遠隔要請を行うことができないことが挙げられる。そのため、オペレータがそのタイミングを判断するために注視を行うことになる。
　ロボットが判断して適切なタイミングで遠隔要請を行うことができない具体的な例として、遠隔要請の内容が「歩行者接近」又は「自転車すれ違い」の場合が挙げられる。これらのような場合、走行中のロボットは、歩行者又は自転車とすれ違う際に、自動運転を継続可能ではあるが、そのまま走行することによって歩行者又は自転車の邪魔になってしまう可能性がある。そのため、ロボットは、必要に応じて停止したり、歩行者又は自転車への声掛けを行うために発話する必要がある。そこで、ロボットが判断して遠隔要請を行うために、例えば、ロボットの位置が歩行者又は自転車から５ｍ離れた位置になったタイミングで、ロボットが停止して発話を行うことができるように遠隔要請を行う設定にしたとする。この設定では、ロボットは、歩行者又は自転車が急いでロボットの後ろ側からロボットに向かって走ってすれ違う際に、歩行者又は自転車からの距離が５ｍ離れた位置で停止して、例えば「お先にどうぞ」と発話する。これでは、停止及び発話のタイミングとしては遅く、急いでいる歩行者又は自転車にとってはロボットが邪魔になってしまう。このように、ロボットが、もっと早く停止（例えば１０ｍ離れた位置で停止）して発話する必要がある場合もある。或いは、同じくロボットの後ろ側からロボットに向かって歩いてくる歩行者、又は、ロボットがゆっくりと走る自転車とすれ違う際に、歩行者又は自転車からの距離が５ｍ離れた位置で停止して、「お先にどうぞ」と発話したが、歩行者又は自転車の走行スピードがゆっくりであったため、結果的に停止している時間が長くなり、ロボットがもっと遅く停止（例えば３ｍ離れた位置で停止）して発話した方がロボットの走行に関する効率性の低下を抑制できる場合もある。
　また、例えば、遠隔要請の内容が「路駐車接近」の場合では、ロボットが判断して遠隔要請を行うため、ロボットの位置が車両から５ｍ離れた位置になったタイミングでロボットが停止してオペレータが対応を行うことができるように、ロボットの設定を遠隔要請を行う設定にしたとする。このとき、車両の大きさ及び車両が駐車している位置によっては、ロボットがその場で回避ができないことがある。このような場合、ロボットは、一度後退して回避する必要があることが考えられる。その場合、オペレータは、自身の判断で、予め回避しやすい地点でロボットを停止させて車両を回避させるように対応（遠隔操作）を行うことで自動運転への復帰までの時間がかからず、ロボットの走行の効率性が低下することを抑制できる。
　このように、ロボットの周辺の状況が、場所又は時間によって様々であり、ロボットを一様に停止させる条件、及び、発話させる条件等を設定することは難しい。そのため、ロボットが適切なタイミングで遠隔要請ができないため、オペレータが注視を行い、オペレータにてそのタイミングを判断する必要がある。
　このとき、ロボットの周囲の交通参加者の邪魔になるタイミング、及び、ロボットの走行の効率性が低下につながるタイミングは、ロボットでの判断は難しいものの、これらのタイミングが発生する可能性がありそうなことはロボットによって検知できる。つまり、ロボットの周囲の交通参加者の邪魔になることがないように、及び、ロボットの走行の効率性が低下することがないように、オペレータによる対応が必要になる可能性がある場合としては、例えば、歩行者及び路駐車をロボットが遠くから発見した場合等が挙げられ、それらはロボットによって検知できる。そして、それらをロボットが検知したタイミングで注視を要請する遠隔要請が通知されることで、オペレータはその通知に基づき、注視を開始する。その後、オペレータは、対応を行うか行わないか、対応を行う場合には対応を行うタイミング、及び、どのような対応を行うかを判断することになる。
　このように、オペレータが自身で判断してロボットを遠隔操作できるようにするシステムの場合、オペレータによる対応が必要になる可能性がある場合において、ロボットから注視を要請する遠隔要請として通知が送られる。このときの遠隔要請の内容として、例えば「歩行者接近」の場合には、遠くの歩行者を検知して、ロボットから通知が送られる。送られてきた通知に基づきオペレータが注視を行ったところ、歩行者との衝突の危険性がなく、歩行者の邪魔になることもないまま、ロボットが歩行者の横をそのまま通り過ぎた場合等、結果的にオペレータによる対応が不要となる通知が存在することが想定される。そのような結果的にオペレータによる対応が不要となる通知にオペレータが気を取られてしまう場合、又は、従来のロボットの自動運転が継続不可になった場合のみにオペレータに遠隔制御を要求する遠隔要請が通知される場合とは異なり、社会受容性又は効率性が低下することを抑制するために、結果的にオペレータによる対応が不要となる通知も含めた、オペレータによる対応が必要になる可能性がある場合にロボットから注視を要請する遠隔要請が通知されると、通知の数は膨大になることが考えられる。そうすると、それらを確認して判断するオペレータの負担が多くなる。
　そこで、本願発明者らは、オペレータの負担を低減することができる情報処理方法等を見出した。
　以下、本開示の実施の形態について、図面を参照しながら説明する。
　なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すためのものである。以下の実施の形態で示される数値、形状、構成要素、ステップ、ステップの順序等は、一例であり、本開示を限定する主旨ではない。
　また、以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意の構成要素として説明される。また、全ての実施の形態において、各々の内容を組み合わせることもできる。さらに、本開示の主旨を逸脱しない限り、本開示の各実施の形態に対して当業者が想到する範囲内の変更を施した各種変形例も本開示に含まれる。
　また、本明細書において、「第一」、「第二」等の序数詞は、特に断りの無い限り、構成要素の数又は順序を意味するものではなく、同種の構成要素の混同を避け、区別する目的で用いられている。
　（実施の形態）
　注視要請通知システム（以下、単に通知システムとも記載する）は、被管制ロボットから通信手段を介して取得したセンシング結果に基づいて所定のイベントを検知すると注視要請としてオペレータに通知する。オペレータは、伝えられた注視要請に基づいて、被管制ロボットの状態、及び、被管制ロボットの周辺の状態を把握し、被管制ロボットに対して遠隔操作等のオペレータの対応（以下、単にオペレータ対応ともいう）が必要なのかを判断する。そして、オペレータは、被管制ロボットの自律的な走行が困難と判断した場合、又は、被管制ロボットがそのまま自律走行を続けたときに被管制ロボットの周囲の交通参加者の邪魔若しくは迷惑になると判断した場合等に、被管制ロボットの走行に関する制御信号を被管制ロボットに伝えることで、遠隔から被管制ロボットを制御（操作）する。一方、オペレータは、被管制ロボットが自律走行を続けても問題ないと判断した場合等には、被管制ロボットの映像の注視のみ行い、被管制ロボットの操作を行わない（つまり、オペレータ対応しない）。
　［通知システムの構成］
　図１は、本実施の形態に係る通知システム１の構成を示すブロック図である。
　図１に示される通知システム１は、被管制ロボットとなり得るロボットＭ１、Ｍ２、…、ＭＮ（Ｎは任意の自然数）が所定のイベントを検知した時にオペレータに注視要請として通知するための情報処理システムである。
　なお、以降においては、ロボットＭ１、Ｍ２、…、ＭＮを、「ロボットＭ１等」ともいう。
　また、以下では、通知システム１が、複数のロボットＭ１等が所定のイベントを検知した場合にオペレータに注視要請として通知する情報処理システムである例について説明する。
　また、通知システム１がオペレータに注視要請として通知を行う際の所定のイベントを検知するロボットの数は、特に限定されない。例えば、通知システム１は、一つのロボットにおいて所定のイベントが検知された場合にオペレータに注視要請を通知する情報処理システムであってもよい。或いは、例えば、通知システム１は、複数のロボットのうちの任意のロボットにおいて所定のイベントが検知された場合に、オペレータに注視要請を通知する情報処理システムであってもよい。
　所定のイベントとは、ロボットＭ１等に配置されたカメラ等のセンサによって検知された情報に基づいて判定されるイベントである。所定のイベントは、予め任意に定められたイベントでよく、特に限定されない。所定のイベントとしては、例えば、ロボットＭ１等から所定の距離以内に歩行者が位置している等が挙げられる。例えば、ロボットＭ１等から所定の距離以内に歩行者が位置している場合、所定のイベントが検知されたと判定される。
　図１に示されるように、通知システム１は、サーバ装置１０と、表示装置２０ａ～２０ｎと、ロボットＭ１等とを備える。
　なお、以下では、表示装置２０ａ～２０ｎを特に区別しない場合、表示装置２０と記載する場合がある。また、ロボットＭ１～ＭＮで共通の構成について説明する場合、ロボットＭ１についてのみ説明する場合がある。
　サーバ装置１０は、オペレータへの通知に関する決定をする処理装置である。具体的には、サーバ装置１０は、ロボットＭ１等から得られる注視要請と同じくロボットＭ１等から得られる走行情報と、サーバ装置１０に記録された過去の注視要請に関する情報と、サーバ装置１０に記録された遠隔オペレータに関する情報とを用いて、コンピュータによる情報処理により、通知に関する決定をする。本開示では、サーバ装置１０は、ロボットＭ１等から取得した注視要請に対して、同じくロボットＭ１等から取得した走行情報とサーバ装置１０に記録されている過去の注視要請に関する情報とを用いて、取得した注視要請が、オペレータ対応が不要になる可能性がある注視要請かどうかを判定する。また、サーバ装置１０は、オペレータ対応が不要になる可能性があると判定された場合に、ロボットＭ１等から得られた走行情報とサーバ装置１０に記録されている遠隔オペレータに関する情報とに基づいて所定の通知条件を満たすかどうかを判定する。また、サーバ装置１０は、所定の通知条件を満たす場合に、取得した注視要請をオペレータに提示する際の提示情報を生成及び出力する。詳細は、後述する。
　なお、所定の通知条件は、予め任意に定められてよく、特に限定されない。例えば、所定のイベントが検知された場合に、所定の通知条件を満たすと判定される。
　なお、サーバ装置１０は、ネットワークＮに通信可能に接続され得る場所に設置され、その物理的な位置はどこにあってもよい。一例として、サーバ装置１０が表示装置２０と同一室内又は近傍に配置されていれば、サーバ装置１０と表示装置２０との通信が短時間でなされ得る利点がある。
　表示装置２０は、サーバ装置１０から提示情報を取得し、提示情報を画像として出力する装置である。画像は、写真、イラスト又は文字等を含む。表示装置２０は、例えば液晶ディスプレイ等である。表示装置２０が出力（表示）した画像は、オペレータによって視認され、オペレータがロボットＭ１等を監視するか否か、オペレータがどのロボットＭ１等を監視するか、又は、オペレータがロボットＭ１等をどのように監視するか等を決定する際に用いられる。
　なお、表示装置２０は、提示装置の一例である。通知システム１は、表示装置２０とともに、又は、表示装置２０に代えて、音を出力する装置を提示装置として備えてもよい。
　また、通知システム１は、プロジェクタ等の対象物（例えば、スクリーン）に提示情報を表示する装置を提示装置として備えていてもよい。表示装置２０に対してサーバ装置１０が遠隔地に配置されている場合、表示装置２０とサーバ装置１０とは、ネットワークＮを介して接続されていてもよい。
　ロボットＭ１は、オペレータによる管制の対象となり得るロボットである。ロボットＭ１は、表示装置２０が配置されている室内空間とは異なる外部の空間、例えば道路又は歩道等に存在している。
　なお、オペレータによる管制の対象となり得るもの（本実施の形態では、ロボットＭ１等）としては、自動運転車両又はドローン等自律的に移動する移動体が例示される。つまり、ロボットＭ１等は、自動運転車両であってもよいし、ドローンであってもよいし、他の自律的に移動する移動体であってもよい。
　ロボットＭ１は、通信インタフェースを備えており、通信によってネットワークＮに接続され、ネットワークＮを介してサーバ装置１０に通信可能に接続されている。ロボットＭ１は、ロボットＭ１の周囲を撮影する１以上のカメラと、ロボットＭ１の速度、加速度、ジャーク（加加速度）、操舵角、燃料の残量、方向指示器の作動状態、周辺物体の有無、数及び種類、周辺物体との距離、速度差、加速度差、並びに、ロボットの現在位置等を検知する複数のセンサとを備えている。ロボットＭ１は、１以上のカメラが撮影により生成した画像データ、並びに、複数のセンサが取得したロボットＭ１の速度等及び周辺物体の有無等のセンシングデータを含む情報を通信インタフェース及びネットワークＮを介してサーバ装置１０に送信する。
　なお、ロボットＭ１が送信する上記情報を走行情報ともいう。走行情報として送信される上述した様々な情報の種類を走行情報の種類とも称する。つまり、走行情報自体は、複数種類あってもよい。
　走行情報には、ロボットＭ１が備える複数のセンサが動作しているか否かを示す死活情報、又は、ロボットＭ１自体のシステムエラーに関する情報等のエラー情報等がさらに含まれていてもよい。また、ロボットＭ１が地図情報を記憶している場合、走行情報には、当該ロボットＭ１が設定した移動経路に関する情報、及び、走行地点の周囲に関する道路情報がさらに含まれていてもよい。また、ロボットＭ１が時刻情報を記憶している場合、ロボットＭ１が走行している現在時刻、及び、所定の走行地点を通る時刻に関する時刻情報が走行情報にさらに含まれていてもよい。
　ロボットＭ１は、上記走行情報を基に自律走行を続けるうえで問題が発生しそうな所定のイベントを検知した場合、オペレータへその旨を知らせるために注視要請（情報）を通信インタフェース及びネットワークＮを介してサーバ装置１０に送信する。上記注視要請には、例えば、ロボットＭ１が備えている複数のセンサによって得られたデータを基にした情報が含まれている。また、例えば、注視要請には、注視要請が発生した際のロボットＭ１の周囲に位置する歩行者等の人である周囲の交通参加者に関する情報、注視要請が発生した原因となる所定のイベントの種類を示す注視要請の種類に関する情報、オペレータが注視を行う期間、及び、ロボットＭ１の走行エリアに関する情報等が含まれている。また、注視要請には、注視要請が発生した要因となった物体又は当該物体が位置するエリア等、オペレータに注視させたい当該物体である注視対象に関する情報がさらに含まれていてもよい。
　ロボットＭ２～ＭＮは、それぞれ、ロボットＭ１とは独立に移動する。また、ロボットＭ２～ＭＮは、それぞれ、自装置が生成した画像データ及びセンシングデータをロボットＭ１と同様にサーバ装置１０に送信する。
　なお、ロボットＭ２～ロボットＭＮは、ロボットＭ１と同様のロボットであってもよいし、ロボットＭ１とは異なる種類であってもよいし、ロボットＭ１～ロボットＭＮのそれぞれが異なる種類であってもよい。
　ネットワークＮは、サーバ装置１０及びロボットＭ１等のそれぞれが接続される通信ネットワークである。ネットワークＮの通信規格又は通信方法は、例えば、携帯電話網、衛星通信網、Ｗｉ－Ｆｉ（登録商標）等を利用した広域通信網等であるが、これらに限定されない。ロボットＭ１等が備える通信インタフェースは、アンテナ及び無線通信回路等の、ネットワークＮを介してサーバ装置１０と無線通信するための無線通信インタフェースである。
　オペレータは、複数人存在し得るが、オペレータの人数は、ロボットＭ１等の台数より少なくてもよい。オペレータは、常にロボットＭ１等のすべてを注視しているわけではなく、注視が必要であると判断されるロボットだけを選択して注視しており、必要に応じて対応（オペレータ対応）を行う。例えば、オペレータ対応とは、ロボットの遠隔操作又は周囲の交通参加者への声掛けを行うための発話ボタンの押下等の操作又は制御である。このとき、オペレータは、対応しているロボット以外のその他のロボットを注視しないことが想定される。このようにすることで、オペレータの必要人数を削減し、かつ、注視及び／又は対応を要するロボットに集中してオペレータが対応することができる利点がある。
　注視が必要であると判断される場合とは、例えば、ロボットＭ１等が危険な位置にある場合、ロボットＭ１等が危険な状態にある場合、ロボットＭ１等が危険な位置に近づいている場合、ロボットＭ１等が危険な状態になると予測される場合、又は、ロボットＭ１等によって周囲の交通参加者の邪魔若しくは迷惑になる場合等である。
　なお、オペレータの人数は、１人であってもよいし、ロボットＭ１等の台数と同じであってもよい。なお、本実施の形態では、オペレータが複数人おり、複数のオペレータのうち１人のオペレータについての例を示す。
　オペレータは、表示装置２０により提示される画像を視認して、ロボットＭ１等のうちのどのロボットを注視するかを決定し、必要に応じてどのように対応を行うかを決定する。例えば表示装置２０には、被管制ロボットとなり得るロボットＭ１、Ｍ２、…、ＭＮのそれぞれの周囲を撮影する１以上のカメラが撮影により生成した画像等が提示される。
　以降では、サーバ装置１０が、どのロボットを注視の対象にするべきかをオペレータに提示するための情報をサーバ装置１０が生成する処理を詳しく説明する。オペレータは、表示装置２０により提示される情報に基づいて、ロボットＭ１等のうち、どのロボットを注視するかを決定し、必要に応じて対応を行う。サーバ装置１０は、ロボットＭ１等のうち、オペレータが対応を行う必要があるロボットを分かりやすくオペレータに対して適切に提示する。これにより、オペレータがロボットＭ１等のうちから対応を必要とするロボットを探す作業、及び、オペレータが対応を行う必要がないロボットに気を取られるといった負担が低減され得る。
　図２は、本実施の形態に係るサーバ装置１０の機能構成を示すブロック図である。
　図２に示されるように、サーバ装置１０は、走行時情報取得部１１と、走行前注視要請ＤＢ（データベース）１２と、遠隔オペレータＤＢ１３と、対応要否判定部１４と、通知制御部１５と、アラート出力部１６とを備える。サーバ装置１０は、ロボットＭ１～ＭＮ及び表示装置２０ａ～２０ｎと通信可能なコンピュータである。サーバ装置１０は、情報処理装置の一例である。
　走行時情報取得部１１は、ネットワークＮに接続され、ネットワークＮを介してロボットＭ１等と通信可能に接続される通信インタフェースである。走行時情報取得部１１は、ロボットＭ１等から走行情報と注視要請情報（単に注視要請ともいう）とを取得する。走行時情報取得部１１は、取得部の一例である。
　走行情報は、ロボットＭ１等に関する情報である。走行情報には、例えば、ロボットＭ１等が備えている複数のセンサによって得られたデータを基にした情報が含まれている。また、例えば、走行情報は、ロボットＭ１等の車両番号、現在時刻、ロボットＭ１等の走行地点、ロボットＭ１等の周囲の道路状況、ロボットＭ１等の周囲の交通参加者状況、及び、ロボットＭ１等毎に搭載された１以上のカメラが撮影した画像データに関する情報を含む。
　注視要請情報とは、ロボットＭ１等が備えている複数のセンサによって、オペレータが対象のロボットの注視を行い、必要に応じて対応を行うための情報である。例えば、注視要請情報は、注視要請が発生した（つまり、注視要請情報が送信された）場所、注視要請が発生した時間、注視要請が発生した際のロボットＭ１等の周囲の交通参加者状況、注視要請が発生した際のロボットＭ１等の周囲の道路状況、及び、注視要請が発生した原因を表す注視要請の種類に関する情報等を含む。
　走行前注視要請ＤＢ１２は、ロボットＭ１等の走行時に発生する注視要請が、オペレータ対応が必要となる可能性が高い注視要請かどうかを判断するための情報を記憶しているデータベースである。走行前注視要請ＤＢ１２は、ロボットＭ１等の走行時に発生する注視要請が、オペレータ対応が必要となる可能性が高い注視要請かどうかを判断するための情報として、過去に発生した注視要請に関する情報である過去注視要請情報を記憶している。
　過去注視要請情報は、例えば、過去に発生した注視要請の場所、注視要請の発生時刻、注視要請が発生した際のロボットＭ１等の周囲の交通参加者状況、注視要請が発生した際のロボットＭ１等の周囲の道路状況、及び、注視要請が発生した原因を表す注視要請の種類に関する情報等を含む。
　また、走行前注視要請ＤＢ１２は、過去注視要請情報と、当該過去注視要請情報における、ロボットＭ１等に対するオペレータ対応の有無を示す情報（つまり、オペレータによってロボットＭ１等の遠隔操作等の対応がなされたかどうかを示す情報）とが関係付けられたテーブル（過去注視要請テーブルＴ１（図３参照））を記憶している。オペレータ対応の有無を示す情報も過去注視要請情報に含まれていてもよい。
　走行前注視要請ＤＢ１２は、例えば、フラッシュメモリ又はＨＤＤ（Ｈａｒｄ　Ｄｉｓｋ　Ｄｒｉｖｅ）等の記憶装置によって実現される。
　ここで、走行前注視要請ＤＢ１２が記憶している、過去注視要請テーブルＴ１について、図３を参照しながら説明する。
　図３は、本実施の形態に係る走行前注視要請ＤＢ１２が記憶する過去注視要請テーブルＴ１の一例を示す図である。
　図３に示されるように、過去注視要請テーブルＴ１は、過去に発生した注視要請に関する情報（つまり、過去注視要請情報）と、各注視要請の種類に対してのオペレータ対応の有無を示す情報とが対応付けられたテーブルである。
　ここで、オペレータ対応の有無を示す情報とは、注視要請が発生してから所定の期間内に、注視要請を発生したロボット（つまり、注視要請情報を送信したロボット）をオペレータが操作した操作履歴を記録するログが存在するかどうかで決定される情報である。例えば、注視要請を発生したロボットをオペレータが操作した操作履歴を記録するログが存在する場合、オペレータ対応が有ったと判定され、オペレータ対応の有無を示す情報として「有」と過去注視要請テーブルＴ１に紐付けられて走行前注視要請ＤＢ１２に記憶される。一方、例えば、注視要請を発生したロボットをオペレータが操作した操作履歴を記録するログが存在しない場合、オペレータが注視のみ行いオペレータ対応が無かったと判定され、オペレータ対応の有無を示す情報として「無」と過去注視要請テーブルＴ１に紐付けられて走行前注視要請ＤＢ１２に記憶される。
　なお、オペレータ対応の有無の判定には、オペレータの様子をカメラで撮影したカメラ映像が併せて使用されてもよい。これによれば、注視要請を発生したロボットに対してオペレータが操作した操作履歴を記録するログが残っていなくても、オペレータが対応するために行動を行っていた場合にオペレータ対応の有無が適切に判定され得る。
　例えば、歩行者が接近したことを表す注視要請（例えば、図３に示す「歩行者接近」）が発生した場合に、オペレータが対象のロボットに対して近くの歩行者に走行を継続することを伝えるために発話をさせようと操作しようとしたが、発話相手の歩行者が既に通り過ぎていなくなったことで間に合わなかった場合等が考えられる。このような場合には、オペレータによってロボットの操作自体は行われていないため、ログが残らない。しかしながら、オペレータは、ロボットの操作を行おうとして、タッチパネル等を操作しようと動いている可能性がある。このような場合には、オペレータ対応が有ったと判定されて過去注視要請テーブルＴ１に設定されてもよい。
　また、サーバ装置１０は、オペレータの様子をカメラで撮影したカメラ映像を使用して、注視要請が発生していないが、オペレータが対応するための行動を行っていた場合に、その行動を基に、その際のロボットの走行地点、当該ロボットの周囲の交通参加者状況、及び、当該ロボットの周囲の道路状況等の走行情報を、注視要請に関する情報の代わりとして扱ってもよい。
　また、オペレータ対応には、歩行者接近又は自転車すれ違い等の種別によって安全性向上に関わるものだけではなく、効率性又は社会受容性の向上等の目的によるものが存在することが考えられる。そのため、オペレータ対応の有無を示す情報には、オペレータ対応の有無だけでなく、当該種別の情報が含まれていてもよい。例えば、当該種別毎に、注視要請でオペレータ対応不要の場合に表示態様を変更するための閾値が設定されてもよい。例えば、複数の種別のうち、重要な安全性向上にかかわる種別の閾値が他の種別の閾値よりも高くなるように設定され、オペレータ対応が不要であってもアラートとしてオペレータが気づきやすいように表示態様が決定されてもよい。
　過去注視要請情報は、例えば、注視要請がされるに至った所定のイベント等を示す情報である。例えば、過去注視要請情報には、種類を示す情報と、時刻を示す情報と、場所を示す情報と、道路の状況を示す情報と、交通参加者の状況を示す情報とが含まれる。
　種類を示す情報（図３に示す「種類」）は、「歩行者接近」又は「自転車すれ違い」等のように、検知された所定のイベントを示す情報である。
　時刻を示す情報（図３に示す「発生時刻」）は、所定のイベントが発生した時刻を示す情報である。
　場所を示す情報（図３に示す「発生場所」）は、所定のイベントが発生した場所を示す情報である。場所を示す情報は、例えば、（４２５，３７０）のように、サーバ装置１０が備える記憶装置に記憶された所定の地図の座標を示す情報である。
　道路の状況を示す情報（図３に示す「道路状況」）は、横断歩道の有無又は信号機の有無等のように、所定のイベントが発生した場所の道路の状況を示す情報である。
　交通参加者の状況を示す情報（図３に示す「交通参加者状況」）は、所定のイベントが発生した場所を通行する歩行者又は自転車運転者等の通行人である交通参加者の有無を示す情報である。例えば、図３に示す「自転車１」は、所定のイベントが発生した場所に自転車運転者（自転車に乗った通行人）が１人いたことを示し、図３に示す「歩行者２」は、所定のイベントが発生した場所に歩行者が２人いたことを示す。
　なお、過去注視要請情報には、当該注視要請の重要度及び／又は緊急度に関する情報が含まれていてもよい。例えば、重要度は、注視要請の種類毎に、オペレータが対応を行う頻度の高さ等に基づいて決定される情報である。また、例えば、緊急度は、注視要請が発生してから、オペレータが対応を行うまでの時間等に基づいて判断される情報である。
　また、過去注視要請情報には、天気の情報が含まれていてもよい。天気によって、後述する不必要な度合いが異なるケースも考えられる。そのため、過去注視要請情報に天気の情報が含まれていることで、天気が一致している過去注視要請情報を抽出して、オペレータ対応が必要かどうかを判定する際に使用することで、天気を考慮することができる。
　図２を再び参照して、遠隔オペレータＤＢ１３は、遠隔オペレータ情報を記憶しているデータベースである。
　遠隔オペレータ情報は、オペレータがロボットＭ１等に対して操作等の対応を行っているかどうかを示す情報である。遠隔オペレータＤＢ１３は、遠隔オペレータ情報として、それぞれのオペレータについての情報と、当該オペレータに関する、それぞれのオペレータがロボットＭ１等に対応中かどうかの情報とが関係付けられたテーブル（オペレータテーブルＴ２（図４参照））を記憶している。
　遠隔オペレータＤＢ１３は、例えば、フラッシュメモリ又はＨＤＤ等の記憶装置によって実現される。
　なお、走行前注視要請ＤＢ１２と遠隔オペレータＤＢ１３とは、１つの記憶装置によって実現されてもよいし、別々の記憶装置によって実現されてもよい。
　ここで、遠隔オペレータＤＢ１３が記憶している、オペレータテーブルＴ２について、図４を参照しながら説明する。
　図４は、本実施の形態に係る遠隔オペレータＤＢ１３が記憶するオペレータテーブルＴ２の一例を示す図である。
　オペレータテーブルＴ２は、全てのオペレータについて、それぞれのオペレータを示す情報と、それぞれのオペレータがロボットＭ１等に対応中かどうかの情報とが関係付けられたテーブルである。例えば、オペレータテーブルＴ２には、対応中ではないオペレータの情報も含まれる。図４に示されるように、オペレータテーブルＴ２は、それぞれのオペレータに関する情報と、当該オペレータの行動に関する情報と、オペレータの行動に応じた対応状況を示す情報とが対応付けられたテーブルである。
　ここで、オペレータの行動として、「注視」とは、遠隔オペレータがロボット１台に注力することができるように注目することを意味している。また、「対応」とは、遠隔オペレータがロボット１台に注力して対応することを意味しており、例えば、ロボットを遠隔操作したり、発話ボタンを押下することである。そのため、例えば、遠隔オペレータが複数台を常時監視している場合には、「注視」及び「対応」には含まれない。
　オペレータに関する情報は、複数のオペレータのそれぞれを固有に示す情報である。例えば、オペレータに関する情報は、オペレータ毎に固有に定められたＩＤ（図４に示す「オペレータＩＤ」）である。なお、図４に示す例では、オペレータに関する情報として、Ａ、Ｂ又はＣ等と設定されているが、数字又は名称等でもよく、特に限定されない。
　ここで、オペレータに関する情報には、それぞれのオペレータの熟練度を示す情報が含まれていてもよい。例えば、オペレータの熟練度を示す情報は、当該オペレータがオペレータ業務を行ったことのある回数等に基づいて決定される。
　オペレータの行動に関する情報は、発生した注視要請に対してオペレータがとった行動を示す情報（図４に示す「オペレータの行動」）である。例えば、図４に示す「タッチパネル操作」は、オペレータの様子を撮影したカメラ映像に基づいて判定される、オペレータがタッチパネルを用いて遠隔操作の対応中であることを示す情報である。例えば、オペレータが映るカメラ映像において、タッチパネルにオペレータが手を伸ばしている場合に、「タッチパネル操作」が検知される。
　対応状況を示す情報は、オペレータの行動に応じて定められる情報（図４に示す「対応状況」）である。例えば、オペレータが、図示しないタッチパネル、リモコン（リモートコントローラ）、又は、トランシーバ等の操作装置を操作することで、ロボットＭ１等を操作している場合、対応状況を示す情報として「対応中」とオペレータテーブルＴ２に紐付けられて遠隔オペレータＤＢ１３に記憶される。一方、例えば、オペレータが、上記の操作装置を操作せずに、つまり、ロボットＭ１等を操作せずに、表示装置２０を注視している場合、対応状況を示す情報として「対応していない」とオペレータテーブルＴ２に紐付けられて遠隔オペレータＤＢ１３に記憶される。
　図２を再び参照して、対応要否判定部１４は、発生した注視要請が、オペレータ対応が必要か否かを判定する処理部である。対応要否判定部１４は、ロボットＭ１等が送信した走行情報と注視要請情報とを走行時情報取得部１１から取得し、過去注視要請情報を走行前注視要請ＤＢ１２から取得する。そして、対応要否判定部１４は、取得した走行情報、注視要請情報、及び、過去注視要請情報に基づいて、発生した注視要請がオペレータ対応を必要とするものかどうかを判定し、判定結果である対応要否情報を生成する。対応要否情報は、より具体的には、発生した注視要請が、オペレータ対応が必要かどうかを判断（特定）するための情報である。
　対応要否情報は、発生した注視要請が、オペレータ対応が必要かどうかを特定するための情報を含む。対応要否情報には、例えば、ロボット毎に発生した注視要請に関して、オペレータ対応が必要になる度合いを示す情報が含まれていてもよい。オペレータ対応が必要となる度合いをどのように求めるかについては後述する。
　なお、複数のロボットのそれぞれで注視要請が発生した場合、発生した注視要請同士を比較していずれかのロボットに対してオペレータに優先して注視することを促さなくてもよい。対応要否情報には、オペレータ対応を必要としない度合いを示す情報が含まれてもよい。対応要否判定部１４は、少なくとも走行情報と注視要請情報と過去注視要請情報とに基づいて、発生した注視要請に対して、オペレータ対応が必要かどうかを決定（判定）すればよい。
　通知制御部１５は、対応要否判定部１４が生成した対応要否情報と、遠隔オペレータＤＢ１３から取得した遠隔オペレータ情報とに基づいて、所定の通知条件を満たすかどうかを判断する処理部である。通知制御部１５は、判断結果に基づいて、発生した注視要請に関してオペレータにアラート（アラート情報）として通知を行うかどうかを決定し、通知を行う場合、通知情報を生成する。例えば、通知制御部１５は、通知を行うと判定した場合、オペレータが注視を行い、必要に応じて対応を行う対象となるロボットを示す通知情報を生成する。通知制御部１５は、生成した通知情報をアラート出力部１６に提供する。
　通知制御部１５により生成される通知情報は、オペレータが注視を行い、必要に応じて対応を行う対象となるロボットを特定するための情報と、対応要否情報と遠隔オペレータ情報とに基づいて判断された、オペレータ対応が必要かどうかに基づくアラートの提示方法に関する情報とを含む。
　また、通知情報には、オペレータが注視を行い、必要に応じて対応を行う対象となるロボットであると判定された理由を示す情報が含まれていてもよい。
　また、通知情報には、例えば、図３に示される複数の注視要請の種類に関する情報のうちのどの注視要請の種類が検知されたかを示す情報が含まれる。通知情報には、さらに、オペレータ対応が必要かどうかに関する情報としてオペレータ対応が不必要な度合いを示す情報が含まれていてもよい。
　アラート出力部１６は、表示装置２０に表示するためのアラートを出力する処理部である。アラート出力部１６は、例えば、サーバ装置１０が備える図示しない通信インタフェースを介して表示装置２０に表示するためのアラートに係る画像データを含む提示情報を生成して表示装置２０に出力する。
　なお、サーバ装置１０は、表示装置２０と有線通信可能に接続されていてもよいし、無線通信可能に接続されていてもよい。例えば、サーバ装置１０が備える通信インタフェースは、通信線が接続されるコネクタ等により実現されてもよいし、無線通信するための無線通信回路等により実現されてもよい。
　アラート出力部１６が出力する提示情報は、ロボットＭ１等から走行時情報取得部１１が取得した画像データを含む。アラート出力部１６は、通知制御部１５から受け取った通知情報を基にアラートの提示方法を変更して、変更されたアラートを表示装置２０に画像データと共に提示情報として、サーバ装置１０が備える通信インタフェースを介して表示装置２０に出力する。
　なお、提示情報は、通知情報に示されるオペレータが注視を行い、必要に応じて対応を行う対象となるロボットを示す情報を含んでもよい。また、提示情報は、通知情報が注視の対象となりうる１以上のロボットを示す情報を含んでいる場合には、通知情報に含まれる１以上のロボットそれぞれの注視要請の種類、オペレータ対応が不必要な度合いを示す情報、及び、オペレータ対応が不要になる可能性が高いことを示す情報を含んでいてもよい。
　また、例えば、ロボットＡをオペレータ１とオペレータ２、ロボットＢをオペレータ３とオペレータ４、ロボットＣをオペレータ１とオペレータ３、ロボットＤをオペレータ２とオペレータ４がそれぞれ常時監視しているように、監視対象となるロボットが複数のオペレータで重複している場合が考えられる。また、ロボットＡをオペレータ１及びオペレータ２、ロボットＢをオペレータ１、ロボットＣをオペレータ２がそれぞれ常時監視しているように、監視対象となるロボットが複数のオペレータで一部重複している場合が考えられる。また、監視対象となるロボットが複数のオペレータで重複していない場合が考えられる。ここで、それぞれの場合に応じて、要求されるアラートの出力先が異なるため、アラートの出力先を決定する処理が行われてもよい。例えば、オペレータの状況（例えば、オペレータが常時監視以外に何か行動しているか等）、並びに、オペレータの情報（例えば、オペレータ歴及び熟練度等）等によってアラートの出力先が決定されてもよい。
　なお、アラートの出力先としては、基本的には、ロボットの監視を担当しているオペレータの端末（表示装置２０）になる。
　例えば、監視対象ロボットが複数のオペレータで重複している場合、重複しているオペレータの端末の両方を同じ表示にするように表示態様が決定されてもよい。また、監視対象ロボットが複数のオペレータで重複している場合、オペレータの状況及びオペレータの情報に基づいて、例えば、オペレータの負荷が大きいオペレータの端末にはアラートが目立たないように表示されるように表示態様が決定されてもよい。このように、アラートの出力先が重複する場合等に、出力先によってアラートの表示態様が決定（変更）されてもよい。
　対応要否判定部１４、通知制御部１５、及び、アラート出力部１６は、例えば、プロセッサと、当該プロセッサが実行する制御プログラムが記憶されたメモリとにより実現される。
　図５は、本実施の形態に係るロボットＭ１の機能構成を示すブロック図である。
　図５に示すように、ロボットＭ１は、撮像部ｍ１と、ロボット情報取得部ｍ２と、制御部ｍ３と、通信部ｍ４とを備える。ロボットＭ１は、ロボットＭ１が予め保有している地図情報、走行データ、及び、撮像部ｍ１等で検知した情報を基に生成した走行データ等に基づいて、自律走行を行うことが可能なロボットである。本実施の形態では、ロボットＭ１は、所定の条件で遠隔地にいるオペレータによって遠隔操作され、且つ、自動運転を行うことが可能な自動運転車両である。ロボットＭ１は、移動体の一例である。
　撮像部ｍ１は、ロボットＭ１の周囲を撮影するカメラである。撮像部ｍ１は、例えば、ロボットＭ１から前後左右方向の撮影が可能である位置に設けられている。撮像部ｍ１は、ロボットＭ１に設けられている。撮像部ｍ１は、１つのカメラで構成されていてもよいし、複数のカメラで構成されていてもよい。また、撮像部ｍ１は、ドライブレコーダに搭載されたカメラであってもよい。また、撮像部ｍ１は、ロボットＭ１に複数設置されていてもよい。
　ロボット情報取得部ｍ２は、ＣＡＮ（Ｃｏｎｔｒｏｌ　Ａｒｅａ　Ｎｅｔｗｏｒｋ）等のネットワークを介して、ロボットＭ１に搭載される各種センサから当該ロボットＭ１の走行に関する情報（ロボット情報）を取得する制御装置である。各種センサは、ロボットＭ１の速度を検出する速度センサ、及び、ロボットＭ１の現在位置を検出するＧＰＳ（Ｇｌｏｂａｌ　Ｐｏｓｉｔｉｏｎｉｎｇ　Ｓｙｓｔｅｍ）センサを含む。ロボット情報取得部ｍ２は、速度センサからロボットＭ１の速度を取得し、ＧＰＳセンサからロボットＭ１の現在位置を取得する。
　なお、各種センサには、ロボットＭ１の操舵角を検出する操舵角センサ、ブレーキの度合いを検出するブレーキセンサ、アクセルの度合い（アクセル開度）を検出するアクセルセンサ、及び、ウィンカの指示方向を検出するウィンカセンサ等が含まれていてもよい。
　制御部ｍ３は、ロボットＭ１の各種構成要素を制御する制御装置である。本実施の形態では、制御部ｍ３は、ロボット情報取得部ｍ２を介して取得したロボットＭ１の種類を表す車両番号、ロボットＭ１の速度及び現在位置を含むロボット情報、並びに、撮像部ｍ１から得られるロボットＭ１のセンシング情報（具体的には、撮像部ｍ１の撮像結果から得られる映像情報）を、通信部ｍ４を介してサーバ装置１０に送信する。
　なお、ロボットＭ１の種類を表す車両番号を示す情報等の予め任意に定められる情報は、通信部ｍ４を介してサーバ装置１０から取得されてもよいし、ロボットＭ１が備えるＨＤＤ等の記憶装置に記憶されており、当該記憶装置から取得されてもよい。
　制御部ｍ３は、例えば、撮像部ｍ１から得られるセンシング情報に基づき、ロボットＭ１の周辺の障害物を検知して、障害物情報を生成する。
　障害物情報は、例えば、障害物の現在位置、障害物の速度、障害物の加速度、障害物の進行方向、障害物の大きさ、及び、障害物の種類に関する情報の少なくとも１つを含んでいる。障害物の種類は、例えば、歩行者、バイク、自動車等を区別する種類である。障害物の現在位置は、障害物をセンシングした時点における、障害物の位置を示す。
　また、制御部ｍ３は、生成された障害物情報、及び、ロボット情報取得部ｍ２を介して取得したロボット情報を基に注視要請を行うかどうかを判断し、障害物情報、ロボット情報、及び、注視要請の種類に関する情報等を含めた注視要請情報を生成する。例えば、注視要請情報の注視要請の種類は、図３に示す「歩行者接近」又は「路駐車接近」等の注視要請が発生した原因を区別する種類である。
　例えば、「路駐車接近（又は、路駐車停止）」とは、ロボットＭ１の進行ルート先に路駐車（つまり、車両）が停止していることで、そのままではロボットＭ１が走行できない可能性があることを示す注視要請である。
　なお、注視要請は、図３に示す例以外にも任意に定められてよい。
　制御部ｍ３は、撮像部ｍ１から得られるセンシング情報に基づき、ロボットＭ１の周囲の映像情報を生成する。制御部ｍ３は、ロボットＭ１の前後左右方向におけるそれぞれの方向に応じた個別の映像情報を生成してもよいし、当該個別の映像情報を合成して一つの映像情報を生成してもよい。
　制御部ｍ３は、現在の年月日及び時刻を計時するリアルタイムクロック機能を有していてもよい。或いは、制御部ｍ３は、通信部ｍ４を介して取得したＧＰＳ衛星からの信号であるＧＰＳ信号に基づいて特定される時刻を、正確な時刻であるＧＰＳ時刻として用いてもよい。制御部ｍ３は、例えば、所定の時間間隔でＧＰＳ信号を受信する。
　ロボット情報取得部ｍ２及び制御部ｍ３等の制御装置は、例えば、プロセッサと、当該プロセッサが実行する制御プログラムが記憶されたメモリとにより実現される。
　通信部ｍ４は、ネットワークＮを介してサーバ装置１０と無線通信するための無線通信モジュールである。通信部ｍ４は、制御部ｍ３の制御により、ロボットＭ１が予め保有している地図情報、ロボット情報、映像情報、及び、時刻情報等を含む走行情報と、障害物情報に基づく注視要請情報とをネットワークＮを介してサーバ装置１０に送信する。
　なお、ロボットＭ２～ＭＮはそれぞれ、例えば、ロボットＭ１と同様の構成を備える。
　図６は、本実施の形態に係る表示装置２０の機能構成を示すブロック図である。なお、表示装置２０は、図１に示す表示装置２０ａ～２０ｎのそれぞれの構成と実質的に同様である。
　図６に示すように、表示装置２０は、表示通信部２１と、表示制御部２２と、出力部２３とを備える。表示装置２０は、例えば、ロボットＭ１等の状態を示す情報、及び、ロボットＭ１等の周囲を示す映像情報等を含む提示情報を表示する装置である。表示装置２０は、例えば、液晶ディスプレイ又は有機ＥＬ（Ｅｌｅｃｔｒｏ　Ｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイ等により実現される。
　表示通信部２１は、サーバ装置１０と通信することで、サーバ装置１０から提示情報を取得するための通信インタフェースである。
　なお、表示通信部２１は、サーバ装置１０と有線通信可能に接続されていてもよいし、無線通信可能に接続されていてもよい。例えば、表示通信部２１は、通信線が接続されるコネクタ等により実現されてもよいし、無線通信するための無線通信回路等により実現されてもよい。
　表示制御部２２は、表示通信部２１で受け取った提示情報を基にロボットＭ１等の状態を示す情報及びロボットＭ１等の周囲を示す映像情報の提示方法を制御する処理部である。表示制御部２２は、例えば、プロセッサと、当該プロセッサが実行する制御プログラムが記憶されたメモリとにより実現される。
　出力部２３は、表示制御部２２の制御に基づいてロボットＭ１の状態及びロボットＭ１等の周囲を示す映像情報を出力するディスプレイである。具体的には、出力部２３は、表示制御部２２に制御されることにより、ロボットＭ１等及び当該ロボットＭ１等の周囲の映像を表示する。
　［提示の具体例］
　次に、表示装置２０が表示する提示情報の提示方法の具体例について説明する。
　図７は、本実施の形態に係る提示情報の提示方法の第一例を示す説明図である。
　図７では、複数人いるオペレータの中の１人のオペレータが４台のロボットＭ１～Ｍ４を監視している例（具体的には、１人のオペレータが必要に応じてロボットＭ１～Ｍ４を注視したり対応したりする例）を示している。出力部２３には、通常時（具体的には、注視要請が発生していない場合）においては、提示情報に基づき、ロボットＭ１～Ｍ４からそれぞれ取得した画像データ（映像情報）が表示されている。
　また、図７では、オペレータ対応が必要となる可能性が高い注視要請が発生した際に、提示情報として、ロボットＭ１～Ｍ４からそれぞれ取得した画像データに加えて、オペレータ対応が必要となる可能性が高い注視要請が発生した注視要請の種類に基づき出力態様（提示態様）が決定されたアラートが提示される例を示している。
　また、図７では、注視要請を発生したロボットに関する画像データ（例えば当該ロボットから得られた映像情報）のうち、オペレータ対応が不必要な度合いが低い注視要請を発生したロボットに関する画像データには、太線の枠を付けられている。また、当該画像データには、注視要請の種類を示す画像が、当該画像に含まれる文字が大きくされることで強調されて目立つように重畳表示されている。
　一方、図７では、注視要請を発生したロボットに関する画像データのうち、オペレータ対応が不必要な度合いが高いものには太線の枠である画像２３４を付けられていない。また、当該画像データには、注視要請の種類を示す画像が、当該画像に含まれる文字が小さくされて目立たないように重畳表示されている。
　太枠の線は、表示装置２０に表示されるアラートの一例である。また、「路駐車接近」、「自転車すれ違い」、及び、「歩行者接近」等の注視要請の種類を示す文字を含む画像は、アラートの一例である。
　図７に示されるように、表示装置２０の出力部２３が表示する画像２３１は、画像２３２と、画像２３３と、画像２３４と、画像２３５とを含む。
　画像２３２は、ロボットＭ１等毎に搭載された１以上のカメラが撮影した画像データに基づく画像データである。
　画像２３３は、画像２３２に含まれるそれぞれの画像データがどのロボットに関する画像データであるかを識別するための画像データである。図７に示す例では、画像２３３は、「ロボットＭ１」、「ロボットＭ２」、「ロボットＭ３」、及び、「ロボットＭ４」等の文字列を含む画像データである。
　画像２３４は、オペレータ対応の不必要な度合いが低い注視要請を発生したロボットに対応する画像２３２を示すための画像データである。図７に示す例では、画像２３４は、太線の枠で示される画像である。
　画像２３５は、注視要請を発生したロボットに関する画像に重畳表示され、発生した注視要請のオペレータ対応が不必要な度合いに応じて、提示の仕方が変わる注視要請の種類を示す画像データである。図７に示す例では、画像２３５は、「路駐車接近」、「自転車すれ違い」、及び、「歩行者接近」等の文字列を含む画像データである。
　これらのように、例えば、アラート出力部１６は、ロボットＭ１等がそれぞれ撮影した画像データ（画像２３２）と、それぞれの画像データがどのロボットに関する画像データであるかを示す情報（画像２３３）と、オペレータ対応が不必要な度合いに応じて提示の仕方が変更される、注視要請の種類を示す画像データ（画像２３４及び画像２３５）とを含む画像２３１を表示装置２０の出力部２３に提示させる。具体的には、アラート出力部１６は、注視要請のオペレータ対応が不必要な度合いに基づいて、映像情報に太枠の線を設けるかどうか、及び、「路駐車接近」等の注視要請の内容の種類を示す文字のサイズ等のアラートの出力態様（本実施の形態では、表示態様）を決定し、アラートと、当該アラートの出力態様を示す情報とを含む提示情報を表示装置２０に出力する。表示制御部２２は、表示通信部２１を介して取得した提示情報に基づいて、アラート出力部１６により決定された出力態様でアラートを出力部２３に出力（提示）させる。具体的には、表示制御部２２は、当該出力態様でアラートを、ロボットＭ１等から取得された映像情報に出力部２３に重畳表示させる。
　なお、本例では、オペレータ対応が不必要な度合いは、画像２３５の大小（より具体的には、画像２３５に含まれる文字の大小）で示されているが、例えば、画像２３５の濃淡で示されてもよい。
　例えば、ロボットＭ２では、注視要請として「路駐車接近」が発生している。当該注視要請は、例えば、オペレータ対応が不必要な度合いが低い。そのため、当該注視要請を示す画像２３５は、濃く表示される。これにより、当該注視要請を示す画像２３５は、強調して表示される。
　また、例えば、ロボットＭ３では、注視要請として「歩行者接近」が発生している。当該注視要請は、例えば、オペレータ対応が不必要な度合いが高い。そのため、当該注視要請を示す画像２３５は、薄く表示される。
　このように、例えば、アラート出力部１６は、注視要請のオペレータ対応が不必要な度合いに基づいて、出力部２３にアラート情報が表示される際の当該アラート情報の濃淡を決定する。
　なお、注視要請の種類と不必要な度合いとは、予め任意に定められてよい。
　また、例えば、画像２３１は、オペレータ対応が不必要な度合いが低い注視要請が発生していることを強調するために、画像２３２を囲む枠としての画像２３４を含む。
　以上のような提示方法により、各ロボットに対応するそれぞれの映像情報のうち、オペレータが対応する必要がある、又は、オペレータが対応する必要性が相対的に高いロボットの映像情報をオペレータに注視されやすくできるため、オペレータが対応の必要性を素早く判断できる。
　なお、時々刻々と変化するロボットＭ１等の周囲の状況の変化に伴う、オペレータ対応が不必要な度合いの変化に応じて、上記の表示（アラート）の表示態様が動的に変化されてもよい。
　また、アラート出力部１６が決定する出力態様は、上記に限定されず、色、フォントの種類、及び、線の太さ等、任意でよい。また、アラート情報が音声で提示される場合には、アラート出力部１６は、音量等を出力態様として決定してもよい。
　また、強調表示のために、不必要な度合いに応じて、アラート態様として提示される画像のサイズが大きくされてもよい。画像のサイズは、絶対的な不必要な度合いに応じて決定してもよいし、相対的な不必要な度合いに応じて決定してもよい。
　また、不必要な度合いの順に画像が表示されてもよい。例えば、不必要な度合いが低い順に画像が表示されてもよい。
　また、不必要な度合いに応じてアラート情報の出力態様を単に変更するだけではなく、不必要な度合いが変化したタイミングもわかるような提示がされてもよい。
　これにより、オペレータが、注視を強めたり弱めたりするタイミングを認識しやすくすることができる。
　また、不必要な度合いが、閾値より高くなった場合、又は、閾値より低くなった場合に、アラート情報が出力されてもよい。
　また、不必要な度合いが、閾値より高くなった場合と、閾値より低くなった場合とで、アラート情報の出力態様が異なってもよい。
　また、不必要な度合いが閾値より高いかどうかが判定される際の当該閾値と、不必要な度合いが閾値より低いかどうかが判定される際の当該閾値とが、同じでもよいし異なってもよい。
　また、不必要な度合いが急増した場合、又は、不必要な度合いが急減した場合に、アラート情報が出力されてもよい。
　図８は、本実施の形態に係る提示情報の提示方法の第二例を示す説明図である。
　図８では、提示情報として、図７に示す画像２３２、画像２３３、画像２３４、及び、画像２３５と、オペレータ対応が不必要な度合いが高く、オペレータ対応が不要になる可能性が高いことを示す情報とが提示される例を示している。
　また、図８では、注視要請を発生したロボットに関する画像データのうち、オペレータ対応が不必要な度合いが高く、オペレータ対応が不要になる可能性が高い注視要請を発生したロボットに関する画像データに、オペレータ対応が不要になる可能性が高いことが分かる情報（画像２３６）が、重畳表示されている。
　図８に示されるように、表示装置２０の出力部２３が表示する画像２３１Ａは、オペレータ対応が不必要な度合いが高く、オペレータ対応不要になる可能性が高いことを示す画像２３６を含む。図８において、画像２３６は、ロボットＭ３で発生した「歩行者接近」の注視要請が、オペレータ対応が不要になる可能性が高いことを示している。
　なお、表示制御部２２は、オペレータ対応が不必要な度合いが低いことを示す情報が提示情報に含まれている場合、画像２３６のように、当該情報に対応するロボットに関する画像データに、オペレータ対応が不必要な度合いが低いことを示す情報を、出力部２３に重畳表示させてもよい。
　また、時々刻々と変化するロボットＭ１等の周囲の状況の変化に伴う、オペレータ対応が不必要な度合いの変化に応じて、上記の表示（アラート）の表示態様が動的に変化されてもよい。例えば、「歩行者接近」の注視要請が発生した際に、注視要請が発生した要因となった歩行者が、ロボットＭ１等の周囲を通り過ぎる前と通り過ぎる後とでは、オペレータ対応が不必要な度合いが変化する。そこで、アラート出力部１６は、このような場合には、歩行者の位置の変化等のロボットＭ１等の周囲の状況の変化に合わせて、アラートを出力させるかどうかを含めてアラートの出力態様を変化させてもよい。
　図９は、本実施の形態に係る提示情報の提示方法の第三例を示す説明図である。
　図９では、提示情報として、図７に示す画像２３２、画像２３３、画像２３４、画像２３５と、オペレータ対応が不必要な度合いの数値を示す情報（画像２３７）とが提示される例を示している。
　また、図９では、注視要請を発生したロボットに関する画像データに、オペレータ対応が不必要な度合いの数値が分かる情報（画像２３７）が、重畳表示されている。
　図９に示されるように、表示装置２０の出力部２３が表示する画像２３１Ｂは、オペレータ対応が不必要な度合いを示す画像２３７を含む。図９において、ロボットＭ３に対応する画像データに重畳表示された画像２３７は、ロボットＭ３で発生した「歩行者接近」の注視要請が、オペレータ対応が不必要な度合いが「９０％」であることを示している。また、図９において、ロボットＭ２に対応する画像データに重畳表示された画像２３７は、ロボットＭ２で発生した「路駐車接近」の注視要請が、オペレータ対応が不必要な度合いが「０％」であることを示している。また、図９において、ロボットＭ４に対応する画像データに重畳表示された画像２３７は、ロボットＭ４で発生した「自転車すれ違い」の注視要請が、オペレータ対応が不必要な度合いが「４０％」であることを示している。
　なお、表示制御部２２は、オペレータ対応が不必要な度合いを段階で示す情報が提示情報に含まれている場合、画像２３７のように、当該情報に対応するロボットに関する画像データに、当該情報を出力部２３に重畳表示させてもよい。つまり、不必要な度合いは、％で提示されてもよいし、１～５の５段階等のように予め任意に定められた段階で提示されてもよい。
　また、時々刻々と変化するロボットＭ１等の周囲の状況の変化に伴う、オペレータ対応が不必要な度合いの変化に応じて、上記の表示（アラート）の表示態様が動的に変化されてもよい。
　図１０は、本実施の形態に係る提示情報の提示方法の第四例を示す説明図である。
　図１０では、提示情報として、図７と同様の画像２３２、画像２３３、画像２３４、及び、画像２３５の情報が提示される例を示している。
　また、図１０では、注視要請を発生したロボットに関する画像データに、オペレータ対応が不必要な度合いに応じて文字が小さくされる等して目立たない様に変更された画像２３５が重畳表示されている。
　図１０に示されるように、表示装置２０の出力部２３が表示する画像２３１Ｃは、オペレータ対応が不必要な度合いに応じて、提示方法が変わる画像２３５を含む。例えば、ロボットＭ３で発生した「歩行者接近」の注視要請は、ロボットＭ２で発生した「路駐車接近」の注視要請、及び、ロボットＭ４で発生した「自転車すれ違い」の注視要請よりも、オペレータ対応が不必要な度合いが高い。そのため、ロボットＭ３に対応する画像２３５は、ロボットＭ２に対応する画像２３５と比べると目立たない様に文字が小さく表示されている。
　また、ロボットＭ４で発生した「自転車すれ違い」の注視要請と、ロボットＭ２で発生した「路駐車接近」の注視要請とを比べると、ロボットＭ４で発生した「自転車すれ違い」の注視要請の方が、オペレータ対応が不必要な度合いが高い。そのため、ロボットＭ４に対応する画像２３５は、ロボットＭ２に対応する画像２３５と比べて、目立たない様に文字が小さく表示されている。
　なお、時々刻々と変化するロボットＭ１等の周囲の状況の変化に伴う、オペレータ対応が不必要な度合いの変化に応じて、上記の表示（アラート）の表示態様が動的に変化されてもよい。例えば、「歩行者接近」の注視要請が発生した際に、注視要請が発生した要因となった歩行者が、ロボットＭ１等の周囲を通り過ぎる前と通り過ぎる後とでは、オペレータ対応が不必要な度合いが変化する。そこで、アラート出力部１６は、このような場合には、歩行者の位置の変化等のロボットＭ１等の周囲の状況の変化に合わせて、アラートを出力させるかどうかを含めてアラートの出力態様を変化させてもよい。
　また、ロボットＭ３に対応する画像２３５は、ロボットＭ２に対応する画像２３５及びロボットＭ４に対応する画像２３５と比較して目立たない様に薄く表示されてもよい。また、ロボットＭ４に対応する画像２３５は、ロボットＭ２に対応する画像２３５と比較して目立たない様に薄く表示されてもよい。
　図１１は、本実施の形態に係る提示情報の提示方法の第五例を示す説明図である。
　また、図１１では、提示情報として、図７と同様の画像２３２、画像２３３、画像２３４、及び、画像２３５の情報が提示される例を示している。
　また、図１１では、注視要請を発生したロボットに関する画像データに、当該注視要請のオペレータ対応が不必要な度合いが所定の値より高い場合、画像２３４及び画像２３５を表示しない。
　図１１に示されるように、表示装置２０の出力部２３が表示する画像２３１Ｄは、オペレータ対応が不必要な度合いが所定の値より高い場合、提示方法が変わる画像２３４と画像２３５とを含む。例えば、ロボットＭ３で発生した「歩行者接近」の注視要請は、オペレータ対応が不必要な度合いが、所定の値より高い。そのため、例えば、画像２３１Ｄでは、図８～１０で示された、ロボットＭ３に対応する、画像２３２を囲む太線の枠である画像２３４と、発生した注視要請の種類を表す画像２３５とが表示されていない。
　なお、時々刻々と変化するロボットＭ１等の周囲の状況の変化に伴う、オペレータ対応が不必要な度合いの変化に応じて、上記の表示（アラート）の表示態様が動的に変化されてもよい。
　また、所定の値は、予め任意に定められてよく、特に限定されない。
　［通知システムの動作］
　次に、上記のように構成された通知システム１による処理を説明する。
　図１２は、本実施の形態に係るサーバ装置１０の内部で行われる処理の一例を示すフロー図である。
　図１２に示されるように、ステップＳ１０１において、サーバ装置１０の走行時情報取得部１１は、ロボットＭ１等から送信された、注視要請を発生した際のロボットＭ１等の周囲の交通参加者状況、及び、注視要請が発生した原因を表す注視要請の種類等を示す注視要請（注視要請情報）を取得する。
　ステップＳ１０２において、走行時情報取得部１１は、ロボットＭ１等から送信された、ロボットＭ１等の車両番号、現在時刻、ロボットＭ１等の走行地点、ロボットＭ１等の周囲の道路状況、及び、ロボットＭ１等毎に搭載された１以上のカメラが撮影した画像データに関する情報等を示す走行情報を取得する。走行時情報取得部１１は、取得した走行情報とステップＳ１０１において取得した注視要請情報とをサーバ装置１０の対応要否判定部１４に送信する。
　ステップＳ１０３において、対応要否判定部１４は、ステップＳ１０２で走行時情報取得部１１から送信された、走行情報と注視要請情報とに基づいて、ステップＳ１０１で取得された注視要請について、オペレータ対応が不必要となる度合いが所定の値より高いかどうかを判定する。
　具体的には、まず、対応要否判定部１４は、ステップＳ１０２で走行時情報取得部１１から送信された、走行情報と注視要請情報とを取得する。また、対応要否判定部１４は、サーバ装置１０の走行前注視要請ＤＢ１２から、過去に発生した注視要請の場所、注視要請の発生時刻、注視要請が発生した際のロボットＭ１等の周囲の交通参加者状況、注視要請が発生した際のロボットＭ１等の周囲の道路状況、注視要請が発生した原因を表す注視要請の種類、及び、注視要請に対するオペレータ対応の有無に関する情報等を示す過去注視要請情報を取得する。
　次に、例えば、対応要否判定部１４は、取得した走行情報と注視要請情報と過去注視要請情報とに基づいて、発生した注視要請のオペレータ対応が不必要な度合いを求める。対応要否判定部１４は、その度合いが所定の値より高いかどうかに基づいて、オペレータ対応が必要であるか不必要であるかを判定する。例えば、対応要否判定部１４は、取得した過去注視要請情報の中で、取得した走行情報に含まれるロボットＭ１等の走行地点と、過去に発生した注視要請の場所が所定の距離より近い過去注視要請情報を抽出する。対応要否判定部１４は、その抽出した過去注視要請情報と対応付けられているオペレータ対応の有無に関する情報を参照し、抽出した過去注視要請情報においてオペレータ対応の有無の割合を算出することで、当該割合をオペレータ対応が不必要な度合いとして求める。
　そして、対応要否判定部１４は、その求めたオペレータ対応が不必要な度合いが所定の値より高ければ（Ｓ１０３でＹｅｓ）、発生した注視要請はオペレータ対応が不必要であると判定する。そして、対応要否判定部１４は、判定結果を基に、発生した注視要請がオペレータの対応が必要か否かを判断するための対応要否情報を生成する。所定の値及び所定の距離は、任意に定められてよく、特に限定されない。なお、詳細については後述する。
　ステップＳ１０４において、オペレータ対応が不必要な度合いが高い、つまりオペレータ対応が不必要であると判定された場合（Ｓ１０３でＹｅｓ）、サーバ装置１０の通知制御部１５は、ステップＳ１０３で対応要否判定部１４により生成された対応要否情報を取得する。さらに、通知制御部１５は、所定の通知条件を判断するための必要な情報を取得する。例えば、通知制御部１５は、所定の通知条件を判断するための必要な情報として、サーバ装置１０の遠隔オペレータＤＢ１３から、それぞれのオペレータについての情報、当該オペレータに関する、それぞれのオペレータがロボットＭ１等に対応中かどうかの情報等を示す遠隔オペレータ情報を取得する。所定の通知条件の詳細は後述する。
　ステップＳ１０５において、通知制御部１５は、ステップＳ１０４で取得した対応要否情報と遠隔オペレータ情報とに基づいて、注視要請の提示方法を変更するかどうかを判定する。例えば、通知制御部１５は、対応要否情報からオペレータ対応が不必要な度合いが高く、且つ、遠隔オペレータ情報から対応中のオペレータの人数が多ければ、他の注視要請と比べて目立たない様な提示方法に変更する等、注視要請の提示方法に関して変更の仕方を含め決定する。これにより、オペレータ対応が不必要となる可能性が高い注視要請に関しても、できるだけ提示方法を変えずに、オペレータに気付きやすい状況にする。また、対応中のオペレータの人数が多い時に、オペレータ対応が不必要となる可能性が高い注視要請に気を取られることで、オペレーションの全体効率が下がる可能性及び対応必須の注視要請への対応に遅れる可能性を下げることができる。
　なお、オペレータ対応が不必要な度合いに応じて、提示方法を決定する構成であってもよい。
　ステップＳ１０６において、通知制御部１５は、ステップＳ１０５で決定した提示方法の変更に関する情報を生成する。
　ステップＳ１０７において、通知制御部１５は、注視要請情報に基づく、アラート等の通知が行われるロボットを特定するための情報、及び、走行情報等を含む通知情報を生成し、生成した通知情報をサーバ装置１０のアラート出力部１６に送信する。
　例えば、通知制御部１５は、ステップＳ１０３でＹｅｓであり、且つ、ステップＳ１０５でＹｅｓの場合には、ステップＳ１０６で生成した提示方法の変更に関する情報を含む通知情報を生成する。一方、例えば、通知制御部１５は、ステップＳ１０３でＮｏの場合、又は、ステップＳ１０５でＮｏの場合には、ステップＳ１０６で生成した提示方法の変更に関する情報を含まない通知情報を生成する。
　ステップＳ１０８において、アラート出力部１６は、ステップＳ１０７で通知制御部１５により送信された通知情報を取得し、走行時情報取得部１１が取得した走行情報における、ロボットＭ１等毎に搭載された１以上のカメラが撮影した画像データに関する情報等を基に、提示情報を生成する。また、アラート出力部１６は、表示装置２０に提示情報を送信することで、提示情報を表示装置２０に出力させる。
　図１３は、実施の形態に係る対応要否判定部１４の処理の一例を示すフロー図である。図１３に示される処理は、図１２に示されるステップＳ１０３で実行される処理を詳細に示すものである。
　ステップＳ２０１において、対応要否判定部１４は、走行情報と注視要請情報と過去注視要請情報とを取得し、過去に発生した注視要請の中に、今回発生した注視要請と似たものがないかを探し、抽出する。例えば、対応要否判定部１４は、過去注視要請情報の中の過去に発生した注視要請の場所の中で、注視要請情報の中の注視要請が発生した場所との距離の差が所定の閾値以内である過去注視要請情報を抽出する。
　なお、発生した注視要請と似た過去の注視要請を対応要否判定部１４が探す基準として、注視要請の発生場所だけでなく、注視要請の発生時刻、注視要請が発生した場所の周囲の交通参加者状況、及び、注視要請が発生した場所の周囲の道路状況等の情報のいずれか一つ、又はそれらの情報を組み合わせた情報が採用されてもよい。
　ステップＳ２０２において、対応要否判定部１４は、ステップＳ２０１で抽出された過去注視要請情報と注視要請情報とに基づいて、発生した注視要請がオペレータによる対応が不必要かどうかを判断するための、オペレータ対応が不必要な度合いを算出する。対応要否判定部１４は、例えば、抽出した過去注視要請情報の中の過去に発生した注視要請のロボットＭ１等の周囲の交通参加者状況及びロボットＭ１等の周囲の道路状況と、注視要請情報のロボットＭ１等の周囲の交通参加者状況及びロボットＭ１等の周囲の道路状況とが共に同じである過去注視要請情報に注目し、その注目した過去注視要請情報の中でオペレータ対応の有無が無い、つまり、オペレータ対応がなされていない過去の注視要請の割合をオペレータ対応が不必要な度合いとして算出する。
　なお、オペレータ対応が不必要な度合いは、割合ではなく、例えば、０がオペレータによる対応が不必要なことを示し、１がオペレータによる対応が必要なことを示すようなオペレータの対応が必要か不必要かを判断することができる２値の値であってもよい。
　また、抽出される過去注視要請情報の中の注視要請を発生したロボットと、ステップＳ１０１で取得された注視要請を発生したロボットとは、同じロボットでもよいし、異なるロボットでもよい。
　また、不必要な度合いの算出について、過去のオペレータ対応の有無の回数だけを用いて単に算出するのではなく、ロボットＭ１等の周囲の交通参加者への影響度を用いて重みづけして不必要な度合いを決定してもよい。
　例えば、オペレータ対応の回数が少なくても、ロボットＭ１等の周囲への影響が大きい、つまり、影響度が高い場合には、オペレータ対応が不必要とはいいきれないと考えられる。そのため、例えば、このような注視要請の場合、オペレータ対応の回数から算出される不必要な度合いにさらに影響度を用いて重み付けがなされることで、不必要な度合いが、重み付けされない場合と比較して低くなるように算出され得る。
　ステップＳ２０３において、対応要否判定部１４は、ステップＳ２０２で算出されたオペレータ対応が不必要な度合いに基づいて、発生した注視要請が、オペレータ対応が必要かどうかを判定する。例えば、対応要否判定部１４は、ステップＳ２０２で算出されたオペレータ対応が不必要な度合いが閾値より高ければ、発生した注視要請についてオペレータ対応が不必要と判定する。
　なお、判定結果としては、オペレータ対応が不必要な可能性が８０％というように、オペレータ対応が不必要な度合いを割合で示すようなものであってもよい。また、判定結果としては、他の注視要請と比べて、オペレータ対応が不必要であることを示すようなものであってもよい。
　ステップＳ２０４において、対応要否判定部１４は、ステップＳ２０３で判定された結果に基づいて、対応要否情報を生成し、生成した対応要否情報を通知制御部１５に送信する。対応要否情報には、例えば、Ｓ２０３によって判定された結果を示す情報、注視要請情報、及び、走行情報等、発生した注視要請が、オペレータ対応が必要かどうかを特定するための情報が含まれる。
　図１４は、実施の形態に係る通知制御部１５の処理の一例を示すフロー図である。図１４に示される処理は、図１２に示されるステップＳ１０５で実行される処理の詳細の一例を示すものである。
　なお、図１４に示すフローは、表示装置２０に表示された画像データを確認してロボットＭ１等を監視する複数のオペレータのうちの一人のオペレータに着目したものであり、所定の通知条件として、複数のオペレータのうち、ロボットＭ１等を操作している等の対応中のオペレータの人数の割合が採用された場合を示す。例えば、通知制御部１５は、複数のオペレータに対する、ロボットＭ１等を操作している等の対応中のオペレータの割合を算出し、算出した割合に基づいて、当該一人のオペレータの負荷状況を判断する。例えば、通知制御部１５は、算出した割合が所定の割合より高い場合、当該一人のオペレータの負荷状況が高いと判断して、オペレータ対応が不必要な度合いが高い注視要請（具体的には、注視要請に関するアラート）の提示方法の変更を行うと判定する。
　なお、上記の複数のオペレータは、一人であってもよい。その場合、所定の通知条件としては、例えば、そのオペレータが対応中であるかどうかが採用されてもよい。例えば、通知制御部１５は、そのオペレータが対応中の場合には、そのオペレータの負荷状況が高いと判断し、オペレータ対応が不必要な度合いが高い注視要請（より具体的には、アラート）を提示させない。
　ステップＳ３０１において、通知制御部１５は、遠隔オペレータＤＢ１３から遠隔オペレータ情報を取得する。取得する遠隔オペレータ情報は、例えば、ロボットＭ１等を監視している全オペレータの人数、及び、対応中のオペレータの人数等を示す情報を含む。
　ステップＳ３０２において、通知制御部１５は、ステップＳ３０１で取得した遠隔オペレータ情報に基づいて、全オペレータのうち、対応中のオペレータの人数の割合を算出する。
　ステップＳ３０３において、通知制御部１５は、ステップＳ３０２で算出した対応中のオペレータの人数の割合に基づいて、発生したオペレータ対応が不必要な割合が高い注視要請の提示方法を変更するか判定する。例えば、通知制御部１５は、対応中のオペレータの割合が所定の閾値より高ければ、オペレータの負荷状況が高いと判断し、発生したオペレータ対応が不必要な割合が高い注視要請の提示方法を変更する。一方、例えば、通知制御部１５は、対応中のオペレータの割合が所定の閾値以下であれば、オペレータの負荷状況が低いと判断し、発生したオペレータ対応が不必要な割合が高い注視要請の提示方法を変更しない。
　本来、安全性の観点から考えると、オペレータ対応が不必要な割合が高い注視要請に関しても提示方法を変更せずにオペレータが気付きやすいようにオペレータに提示された方が望ましい。しかしながら、所定の通知条件としてオペレータの負荷状況が高い時には、オペレータ対応が不必要な割合が高い注視要請の提示方法を変更して目立たない様にする。これにより、オペレータ対応が不必要な割合が高い注視要請にオペレータが気をとられることで、オペレーションの全体効率が下がること、及び、オペレータ対応が必須な注視要請に対するオペレータ対応が遅れることを防ぐことができる。そのため、オペレータの負荷状況が高いかどうかを基に提示方法を変更することで、ロボットＭ１等の走行の安全性を可能な限り確保しつつ、オペレータのオペレーションの効率を下げずに運用できる。
　なお、所定の通知条件として、交通参加者数が所定の数より低いかどうかが採用されてもよい。例えば、通知制御部１５は、ロボットＭ１等の周囲の交通参加者の状況を示す情報から交通参加者数を求め、求めた交通参加者数が所定の数より低いかどうかで提示方法を変更するかどうかを判定してもよい。例えば、通知制御部１５は、交通参加者数が所定の数より低い場合には、ロボットＭ１等の周囲の交通参加者への影響度が低いと判断する。この場合、例えば、通知制御部１５は、発生した複数の注視要請のうち、オペレータ対応が不必要な度合いが高い注視要請に応じたアラートに関して、他の注視要請に応じたアラートより薄く表示させる等、他の注視要請に応じたアラートと比べて目立たない様に提示方法の変更を行う。
　これにより、オペレータ対応が不必要な度合いが高い注視要請によるオペレータの負荷をできるだけ下げつつ、且つ、ロボットＭ１等の周囲の交通参加者にとって当該ロボットＭ１等が邪魔又は迷惑になる可能性を下げることができる。
　また、注視要請したロボットＭ１等のサイズに応じて、提示方法を変更するかどうかが判定されてもよい。
　例えば、道路が狭い場合、ロボットＭ１等が大きいとき、イベントが発生してロボットＭ１等が停止すると、ロボットＭ１等の周囲への影響が大きい。例えば、このような場合、他車両がロボットＭ１等を追い抜いたり、すれ違ったりができなくなることがある。一方、ロボットＭ１等が小さければ、このような影響も小さい。例えば、ロボットＭ１等が小さければ、他車両がロボットＭ１等を追い抜いたり、すれ違ったりできる。
　そのため、オペレータ対応の不必要な度合いが低いが、注視要請したロボットＭ１等の方が小さい場合には、当該注視要請に応じた提示情報が目立たないように提示されてもよい。
　なお、ロボットＭ１等のサイズが単に用いられてもよいが、走行路の幅次第というところがあるため、走行路の幅に対するロボットＭ１等の幅の割合に応じて提示方法が変更されてもよい。走行路の幅は、ロボットＭ１等が現地で障害物センサを用いて測定してもよいし、道路ＤＢ（例えば、サーバ装置１０が備える記憶装置）に予め記憶されていてもよい。
　また、注視要請したロボットＭ１等が実施中のタスク状況に応じて、提示方法を変更するかどうかが判定されてもよい。例えば、配送期限が迫っているロボットＭ１等については、停止させることなく移動させたいというニーズがある。このことから、不必要な度合いが低いが、移動に対して時間的猶予があるロボットＭ１等の注視要請に応じた提示情報が目立たないように提示されてもよい。
　また、ロボットＭ１等が実施するサービスによって、ロボットＭ１等に人が近づいてくる頻度が異なる。そのため、ロボットＭ１等が実施するサービスの種別に応じて、提示方法を変更するかどうかが判定されてもよい。
　例えば、案内又は誘導等のような人とのインタラクションがあるサービスについては、ロボットＭ１等に人が近づいてくる頻度が高いことが考えられる。一方、例えば、掃除のような人とのインタラクションがないサービスについては、ロボットＭ１等に人が近づいてくる頻度が低いことが考えられる。
　また、不必要な度合いが低いが、人とのインタラクションがないサービスを実施するロボットＭ１等の注視要請に応じた提示情報は、目立たないように提示されてもよい。
　また、負荷状況だけではなく熟練度が用いられて不必要な度合いが算出されてもよい。遠隔オペレータＤＢ１３から、オペレータの熟練度に関する情報を取得し、オペレータの熟練度が高ければ、負荷状況が低くても、オペレータ対応が不必要な度合いが高い注視要請に応じ提示情報の出力態様が目立たないように変更されてもよい。
　また、所定の通知条件として、ロボットＭ１等の周辺の明るさ（明度とも記載する）が所定の明度より高いかどうかが採用されてもよい。例えば、通知制御部１５は、ロボットＭ１等の周囲の明るさが所定の明度より高いかどうかを判定して、判定結果に基づいてアラートの提示方法を変更してもよい。例えば、通知制御部１５は、注視要請が発生した際のロボットＭ１等の周辺が所定の明度以上の（つまり、明るい）場合には、発生した複数の注視要請のうち、オペレータ対応が不必要な度合いが高い注視要請に応じたアラートに関して、他の注視要請に応じたアラートより薄く表示させる等、他の注視要請に応じたアラートと比べて目立たない様に提示方法の変更を行う。
　これにより、ロボットＭ１等の周辺が明るい、つまり、オペレータが発生した注視要請に気付きやすく、且つ、注視要請に対する対応が取りやすい、オペレータ対応が不必要な度合いが高い注視要請によるオペレータの負荷を低減することができる。
　なお、通知制御部１５は、ロボットＭ１等の周辺が明るいかどうかを、照度センサ等のセンサによる値に基づいて判断してもよいし、注視要請が発生した時刻に基づいて、例えば日が落ちておらず昼であるかどうかで判断してもよい。ロボット情報取得部ｍ２が情報を取得する各種センサには、照度センサが含まれていてもよい。
　また、所定の通知条件として、オペレータの対応内容が、安全性に関わるものであるかどうかが採用されてもよい。例えば、通知制御部１５は、オペレータ対応の内容が安全性に関わるものかどうかの判定結果に基づいて、提示方法を変更するかどうかを判定してもよい。注視要請情報及び過去注視要請情報には、オペレータ対応の内容を示す情報が含まれていてもよい。例えば、通知制御部１５は、オペレータ対応の有無だけでなく、オペレータ対応の内容の安全性を判断してもよい。例えば、通知制御部１５は、オペレータ対応の内容に関する情報を取得し、過去に発生した注視要請の中で、発生した注視要請と似た注視要請を示す過去注視要請情報のオペレータ対応の内容が安全性に関わらない特定の対応内容だった場合に、オペレータ対応の内容が安全性に関わるものではないと判断してもよい。通知制御部１５は、例えば、オペレータ対応の内容が安全性に関わるものではないと判断した場合、発生した注視要請のうち、オペレータ対応が不必要な度合いが高い注視要請に応じたアラートに関して、他の注視要請に応じたアラートより薄く表示させる等、他の注視要請に応じたアラートと比べて目立たない様に提示方法の変更を行う。
　また、所定の通知条件として、事故多発地点等のリスク度の高い地域（場所）であるかどうかが採用されてもよい。例えば、通知制御部１５は、リスク度に関する情報を基に、注視要請の発生場所がリスク度の高い場所ではないかどうかの判定結果に基づいて、提示方法を変更するかどうかを判定してもよい。例えば、通知制御部１５は、走行情報としてロボットＭ１等が走行するルートに関する情報を含む地図情報と、どの地点で事故が多いか等を示すリスクマップとに基づいて、注視要請の発生場所と、所定のリスク度以上のリスク度の地点との距離を算出する。例えば、通知制御部１５は、算出した距離が所定の距離より大きければ、注視要請が発生した場所のリスク度が低いと判断する、つまり、オペレータ対応が不必要な度合いが高いと判定する。また、この場合、例えば、通知制御部１５は、発生した注視要請のうち、オペレータ対応が不必要な度合いが高い注視要請に応じたアラートに関して、他の注視要請に応じたアラートより薄く表示させる等、他の注視要請に応じたアラートと比べて目立たない様に提示方法の変更を行う。
　また、所定の通知条件として、注視要請が発生した際にかかる所要注視期間が所定の期間以上であるか否かが採用されてもよい。例えば、通知制御部１５は、所要注視期間を基に、提示方法を変更するかどうかを判定してもよい。例えば、通知制御部１５は、注視要請が発生した際にかかる所要注視期間が長い（例えば、所定の期間以上である）注視要請に応じたアラートに関して、他の注視要請に応じたアラートより薄くて表示させる等、他の注視要請に応じたアラートと比べて目立たない様に提示方法の変更を行う。
　これにより、所要注視期間が長い、つまり、オペレータにとって負荷が高く、且つ、オペレータ対応が不必要な度合いが高い注視要請によるオペレータの負荷を低減できる。
　なお、所要注視期間は、過去注視要請情報に基づいて類似した過去の注視要請に関する所要注視期間から判断されてもよい。過去の注視要請に関する所要注視期間は、例えば、オペレータが映る映像等から算出されて過去注視要請情報に含まれて走行前注視要請ＤＢ１２に記憶されてもよい。
　また、通知制御部１５は、所定の通知条件として、上記説明した所定の通知条件の組み合わせにより、提示方法の変更を行うかどうかを判定してもよい。
　［まとめ］
　以上説明したように、本実施の形態に係るサーバ装置１０は、以下の処理を実行する。
　図１５は、本実施の形態に係るサーバ装置１０の処理手順を示すフロー図である。
　まず、サーバ装置１０は、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、移動体の周囲で発生したイベントに関する第一の注視要請情報を取得する（Ｓ４０１）。移動体は、例えば、上記のロボットＭ１等である。また、例えば、第一の時刻は、オペレータがロボットＭ１等を監視している際の時刻である。また、例えば、第一の注視要請は、オペレータがロボットＭ１等を監視している際にロボットＭ１等からサーバ装置１０に送信される注視要請である。例えば、第二の注視要請は、過去にロボットＭ１等からサーバ装置１０に送信される注視要請である。
　次に、サーバ装置１０は、第一の時刻より過去に取得した第二の注視要請情報、及び、第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と第一の注視要請情報とに基づき、第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定する（Ｓ４０２）。例えば、第二の注視要請情報と対応情報とを含む過去注視要請情報は、サーバ装置１０によって記憶部に記憶される。記憶部は、例えば、上記の走行前注視要請ＤＢ１２である。
　次に、サーバ装置１０は、不必要な度合いに応じて、第一の注視要請情報に基づくアラート情報の出力態様を決定する（Ｓ４０３）。
　次に、サーバ装置１０は、決定された出力態様によって、アラート情報をオペレータが使用する端末に出力させる（Ｓ４０４）。例えば、アラート情報は、例えば、注視される必要な度合いが高いロボットが映る画像をオペレータに注視させるように促し、且つ、注視される必要な度合いが低いロボットが映る画像にオペレータの注意が向かないようにさせるための情報である。アラート情報は、例えば、画像（映像）であるが、音声情報、及び／又はオペレータに振動等を付与するための情報等であってもよい。また、例えば、端末は、上記の表示装置２０である。端末は、音声を出力するためのスピーカ等の音響機器、及び／又は振動発生装置等であってもよい。
　なお、サーバ装置１０は、ロボットＭ１等から注視要請を取得した場合、ロボットＭ１等から取得した各注視要請に関する情報（例えば、下記の情報）を表示装置２０に表示させることで、オペレータの負担を低減してもよい。例えば、サーバ装置１０は、取得した注視要請と同じ地点での過去の注視要請である過去注視要請について、これまでに実際に発生したイベント、及び、当該イベントへのオペレータ対応の内容を表示装置２０に表示させてもよい。また、サーバ装置１０は、イベントが発生した位置、又は、イベントが発生した時刻も表示装置２０に表示させてもよい。
　これにより、オペレータは、どのようなイベントが発生する可能性があるかを事前に把握できる。
　また、サーバ装置１０は、取得した注視要請と同じ地点での過去注視要請が安全に関わるものかそれ以外かで、提示情報の出力態様を異ならせてもよい。
　これにより、オペレータは、安全にかかわるものであればより注意が必要であると判断できる。
　また、サーバ装置１０は、取得した注視要請と同じ地点での過去注視要請がリスクエリア内であるかそれ以外であるか、又は、リスクエリアに近い（例えば、リスクエリアから所定の距離以内）かそれ以外かで提示情報の出力態様を異ならせてもよい。
　これにより、オペレータは、リスクエリア内、又は、リスクエリアの近くであればより注意が必要であると判断できる。
　なお、リスクエリアの位置及び所定の距離は、任意に定められてよい。これらの情報は、例えば、サーバ装置１０が備える記憶装置に予め記憶される。
　例えば、サーバ装置１０は、以下の処理を実行してもよい。
　図１６は、本実施の形態に係るサーバ装置１０の処理手順を示すフロー図である。
　まず、サーバ装置１０は、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、移動体の周囲で発生した第一のイベントに関する第一の注視要請情報を取得する（Ｓ５０１）。
　次に、サーバ装置１０は、第一の時刻より過去に取得した第二の注視要請情報、及び、第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と第一の注視要請情報とに基づき、第一の注視要請情報に関する情報をオペレータが使用する端末に表示させる（Ｓ５０２）。
　第一の注視要請情報に関する情報とは、例えば、第一のイベントが発生した位置と同じ位置で発生した第二のイベントに関する第二の注視要請情報に対するオペレータの対応を示す対応情報、第二のイベントを示す情報、第二のイベントが安全であるか否かを示す情報、及び、当該位置がリスクエリア内であるか否かを示す情報等である。
　［効果等］
　以下、本明細書の開示内容から得られる技術を例示し、当該技術から得られる効果等について説明する。
　技術１は、コンピュータが実行する情報処理方法であって、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、移動体の周囲で発生したイベントに関する第一の注視要請情報を取得し、第一の時刻より過去に取得した第二の注視要請情報、及び、第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と第一の注視要請情報とに基づき、第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定し、不必要な度合いに応じて、第一の注視要請情報に基づくアラート情報の出力態様を決定し、決定された出力態様によって、アラート情報をオペレータが使用する端末に出力させる、情報処理方法である。
　当該情報処理方法は、例えば、サーバ装置１０が実行する方法である。
　従来、オペレータが移動体（ロボット）を一時停止させる等、オペレータの何かしらの対応が必要な場合に通知が送られることが想定されている。
　ここで、例えば、ロボットからの通知に基づいて、オペレータが自身で判断してロボットを遠隔操作できるようにするシステムを想定する。例えば、遠隔操作が必要とされるタイミングを自動で判断するのが難しく、ロボットでは判断できないような場合に遠隔要請が発生されて、オペレータが当該遠隔要請を確認して判断するために注視を行われる。つまり、従来のように、オペレータによる対応を要請する遠隔要請をロボットが発生するのではなく、上記のロボットＭ１等のように、オペレータが遠隔操作が必要であるかどうかを判断するために、オペレータに注視を要請する注視要請をロボットが発生するようにする。
　このようなシステムでは、ロボットでは自動で判断を行うことが難しいため、注視要請としてオペレータ側に判断を委ねることで、オペレータが注視を行い対応を行うか、行わないかを判断する。そのため、ロボットから、オペレータによる対応が結果的に不要となる通知も行われることが想定される。このような場合、オペレータによる対応は必須ではなく推奨となり、オペレータの判断で遠隔操作が行われる。
　しかしながら、以上のような様々な場合にロボットから遠隔要請が発生されるようにすると、遠隔要請の数が膨大になり、それらを確認して判断するオペレータの負担が多くなる。
　ここで、例えば、オペレータの対応が必須ではなく推奨であり、オペレータの判断で対応が行われることによって、例えば、複数の注視要請の中でオペレータの対応が不要となる可能性（確率）が高い注視要請に関する表示については、他の注視要請に関する表示と比べて目立たないような表示態様とする。
　具体的には、本開示の一態様に係る情報処理方法によれば、不必要な度合いに基づいてアラート情報の出力態様が決定されるため、例えば、オペレータの対応が不要となる可能性が高いと想定される（例えば、不必要な度合いが高い）第一の注視要請情報に基づくアラート情報と、オペレータの対応が必要となる可能性が高いと想定される（例えば、不必要な度合いが低い）第一の注視要請情報に基づくアラート情報とで、異なる出力態様（提示態様）で端末によってオペレータに出力（つまり、提示）される。例えば、オペレータの対応が不要となる可能性が高いと想定される第一の注視要請情報に基づくアラート情報は、出力態様が変更される。例えば、不必要な度合いが所定の度合い以上であれば、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い未満であれば、アラート情報が第２態様で出力される。また、第１態様の方が第２態様より、文字が小さい及び／又は表示の色が薄い等のように、オペレータが気付きにくいような出力態様となっている。これによれば、オペレータの対応が不要になる可能性が高いようなアラート情報等に対してのオペレータへの負荷を低減させ、オペレータが柔軟に対応しやすくできる。したがって、本開示の一態様に係る情報処理方法によれば、オペレータの負担を低減することができる。
　なお、所定の度合いは予め任意に定められてよく、特に限定されない。また、不必要な度合いは、注視要請情報の内容に応じて任意に定められてよい。
　技術２は、不必要な度合いと、オペレータの注視又は操作に関する負荷状況とに基づき、出力態様を決定する、技術１に記載の情報処理方法である。
　負荷状況は、例えば、注視又は操作を実行中のオペレータの人数等である。負荷状況は、例えば、操作を実行中のオペレータの人数等でもよい。
　例えば、操作を実行中のオペレータの人数が少ない程、オペレータの負荷状況が低いと判定される。このような場合であれば、オペレータは比較的対応しやすい状況であると考えられる。一方、例えば、操作を実行中のオペレータの人数が多い場合、オペレータの負荷状況が高いと判定される。このような場合であれば、オペレータは比較的対応が難しい状況であると考えられる。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、負荷状況が所定の負荷値以上である場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、負荷状況が所定の負荷値未満である場合、アラート情報が第２態様で出力される。これによれば、オペレータの負荷状況に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　なお、所定の負荷値は任意に定められてよく、特に限定されない。
　技術３は、負荷状況とは、移動体を遠隔で注視又は操作する全オペレータの人数に対する、移動体の操作を実行中のオペレータの人数を表す、技術２に記載の情報処理方法である。
　例えば、全オペレータの人数が１０人であり、移動体の操作を実行中のオペレータの人数が８人である場合、当該実行中のオペレータの割合が８０％と算出される。
　例えば、操作を実行中のオペレータの割合が多い場合、オペレータの負荷状況が高いと判定される。このような場合であれば、オペレータは比較的対応が難しい状況であると考えられる。一方、例えば、操作を実行中のオペレータの人数の割合が低い場合、オペレータの負荷状況が低いと判定される。このような場合であれば、オペレータは比較的対応しやすい状況であると考えられる。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、操作を実行中のオペレータの人数の割合が所定の割合以上である場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、操作を実行中のオペレータの人数の割合が所定の割合未満である場合、アラート情報が第２態様で出力される。例えば、所定の割合が７５％と定められており、オペレータの割合が８０％であれば、オペレータの負荷状況が高いと判定される。これによれば、オペレータの負荷状況に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　なお、所定の割合は任意に定められてよく、特に限定されない。
　技術４は、不必要な度合いと、移動体の周囲の交通参加者数とに基づき、出力態様を決定する、技術１～３のいずれかに記載の情報処理方法である。
　例えば、交通参加者数が少なければ、オペレータの移動体の操作による当該交通参加者への影響度が低いと考えられる。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、交通参加者数が所定の参加者数未満の場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、交通参加者数が所定の参加者数以上の場合、アラート情報が第２態様で出力される。これによれば、交通参加者への影響度に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　なお、所定の参加者数は任意に定められてよく、特に限定されない。所定の参加者数は、例えば、２人であってもよいし、３人以上であってもよい。
　また、移動体の周囲は、例えば、移動体から所定の距離以内の位置であるが任意に定められてよい。移動体の周囲の交通参加者とは、例えば、移動体との距離が所定の距離以下の交通参加者であってもよいし、移動体に配置されたカメラに映る交通参加者でもよい。
　所定の距離は任意に定められてよく、特に限定されない。
　技術５は、不必要な度合いと、移動体の周辺の明度とに基づき、出力態様を決定する、技術１～４のいずれかに記載の情報処理方法である。
　例えば、移動体の周囲が明るい場合、オペレータが比較的対応しやすく、移動体の走行に問題があってもオペレータが気付きやすいと考えられる。一方、例えば、移動体の周囲が暗い場合、オペレータは比較的対応が難しいと考えられる。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、移動体の周囲の明度が所定の明度以上の場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、移動体の周囲の明度が所定の明度未満の場合、アラート情報が第２態様で出力される。これによれば、移動体の周囲の明度に基づくオペレータの対応に係る負荷に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　なお、所定の明度は予め任意に定められてよく、特に限定されない。また、明度は、時刻に基づいて算出されてもよいし、照度として測定される数値であってもよい。例えば、時刻が５：００～１７：００の時間帯であれば明るい、つまり、所定の明度以上であると判定され、時刻が当該時間帯以外であれば暗い、つまり、所定の明度未満であると判定されてもよい。
　技術６は、不必要な度合いと、第一の注視要請情報に対するオペレータの操作内容が安全性に関わるものかどうかとに基づき、出力態様を決定する、技術１～５のいずれかに記載の情報処理方法である。
　オペレータの操作内容には、例えば、移動体の運転等のように事故に直接繋がるような安全性に関わる（つまり、危険性が高い）ものと、移動体の周囲に位置する歩行者等への声かけ（例えば、移動体に設置されたスピーカからの音声発信）等のように事故に直接繋がらないような安全性に関わらない（つまり、危険性が低い）ものとがある。例えば、安全性に関わらない場合、安全性に関わる場合と比較して、オペレータの対応に係る負荷が低いと判定される。一方、例えば、安全性に関わる場合、オペレータが特に注意して対応する必要があるため、オペレータの対応に係る負荷が高いと判定される。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、オペレータの操作内容が安全性に関わりがない場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、オペレータの操作内容が安全性に関わる場合、アラート情報が第２態様で出力される。これによれば、オペレータの対応に係る負荷に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　なお、オペレータの操作内容と安全性との関係は予め任意に定められてよく、特に限定されない。また、オペレータの操作内容は、第一の注視要請情報と第二の注視要請情報とに基づいて決定されてもよい。例えば、第二の注視要請情報には、移動体の周囲の状況等とオペレータの操作内容とが含まれていてもよい。例えば、オペレータの操作内容は、第一の注視要請情報が示す移動体の周囲の状況等と同じ又は類似する（例えば、移動体の位置等が近い）第二の注視要請情報が示すオペレータの操作内容が採用される。
　技術７は、不必要な度合いと、第一の注視要請情報に対してオペレータが移動体を操作するエリアのリスク度とに基づき、出力態様を決定する、技術１～６のいずれかに記載の情報処理方法である。
　エリアのリスク度とは、例えば、当該エリアにおける事故の発生回数である。例えば、エリアのリスク度は、当該エリアにおける事故の発生回数が所定の回数以上であれば高いと判定され、当該エリアにおける事故の発生回数が所定の回数未満であれば低いと判定される。
　例えば、リスク度が低い場合、リスク度が高い場合と比較して、オペレータの対応に係る負荷が低いと判定される。一方、例えば、リスク度が高い場合、オペレータが特に注意して対応する必要があるため、オペレータの対応に係る負荷が高いと判定される。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、エリアのリスク度が所定のリスク度未満である場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、エリアのリスク度が所定のリスク度以上である場合、アラート情報が第２態様で出力される。これによれば、オペレータの対応に係る負荷に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　なお、所定のリスク度は、予め任意に定められてよく、特に限定されない。また、エリアとリスク度との関係を示すリスクマップは、情報処理装置が備える記憶装置に予め記憶されていてもよい。
　技術８は、不必要な度合いと、第一の注視要請情報に対してオペレータが実行した注視の期間とに基づき、出力態様を決定する、技術１～７のいずれかに記載の情報処理方法である。
　オペレータが注視しているどうかは、例えば、オペレータを撮影している映像に基づいて判定される。例えば、オペレータの視線が特定の移動体の映像を向き続けている期間が、オペレータが実行した注視の期間として算出される。
　例えば、注視の期間が短い程、長い場合と比較して、オペレータが注視又は対応が必要とは考えていない可能性が高く、オペレータの対応に係る負荷が低いと判定される。このような場合であれば、オペレータは比較的対応しやすいと考えられる。一方、例えば、注視の期間が長い程、オペレータが移動体に問題が生じる可能性があると考えている可能性が高く、オペレータの対応に係る負荷が高いと判定される。このような場合であれば、オペレータは比較的対応が難しいと考えられる。そこで、例えば、不必要な度合いが所定の度合い以上であり、且つ、注視の期間が所定の期間未満である場合、アラート情報が第１態様で出力され、不必要な度合いが所定の度合い以上であり、且つ、注視の期間が所定の期間以上である場合、アラート情報が第２態様で出力される。これによれば、オペレータの対応に係る負荷に応じた出力態様でアラート情報が出力されるため、オペレータの負担をさらに低減することができる。
　技術９は、不必要な度合いに応じて、表示態様を異ならせるように出力態様を決定する、技術１～８のいずれかに記載の情報処理方法である。
　これによれば、不必要な度合いをオペレータに分かりやすく表示できる。
　技術１０は、不必要な度合いを示す情報を表示するように出力態様を決定する、技術１～９のいずれかに記載の情報処理方法である。
　これによれば、不必要な度合いをオペレータに分かりやすく表示できる。
　技術１１は、不必要な度合いの変更に応じて表示態様が動的に変化するように出力態様を決定する、技術１～１０のいずれかに記載の情報処理方法である。
　これによれば、不必要な度合いの変化をオペレータに分かりやすく表示できる。
　技術１２は、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、移動体の周囲で発生したイベントに関する第一の注視要請情報を取得する取得部と、第一の時刻より過去に取得した第二の注視要請情報、及び、第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と第一の注視要請情報とに基づき、第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定する第一の決定部と、不必要な度合いに応じて、第一の注視要請情報に基づくアラート情報の出力態様を決定する第二の決定部と、決定された出力態様によって、アラート情報をオペレータが使用する端末に出力させる出力部と、を備える、情報処理装置である。
　取得部は、例えば、上記の走行時情報取得部１１である。また、記憶部は、例えば、上記の走行前注視要請ＤＢ１２である。また、例えば、第一の決定部は、上記の対応要否判定部１４である。また、例えば、第二の決定部及び出力部は、通知制御部１５及びアラート出力部１６である。
　このような情報処理装置によれば、上記の情報処理方法と同様の効果を奏する。
　技術１３は、コンピュータが実行する情報処理方法であって、オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、移動体の周囲で発生した第一のイベントに関する第一の注視要請情報を取得し、第一の時刻より過去に取得した第二の注視要請情報、及び、第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と第一の注視要請情報とに基づき、第一の注視要請情報に関する情報をオペレータが使用する端末に表示させる、情報処理方法である。
　これによれば、オペレータの負担を軽減できる。
　技術１４は、記憶部に記憶された複数の第二の注視要請情報のうち、第一のイベントが発生した位置と同じ位置で発生した第二のイベントに関する第二の注視要請情報に対するオペレータの対応を示す対応情報と第二のイベントを示す情報とを、第一の注視要請情報に関する情報として端末に表示させる、技術１３に記載の情報処理方法である。
　これによれば、オペレータは、どのようなイベントが発生する可能性があるかを事前に把握できる。
　技術１５は、第二のイベントに関する第二の注視要請情報が、安全に関するものであるか否かで表示態様が異なるように、第一の注視要請情報に関する情報を端末に表示させる、技術１４に記載の情報処理方法である。
　これによれば、オペレータは、安全にかかわるものであればより注意が必要であると判断できる。
　技術１６は、当該位置が、リスクエリアから所定の距離までの範囲内であるか否かで表示態様が異なるように、第一の注視要請情報に関する情報を端末に表示させる、技術１４又は１５に記載の情報処理方法である。
　これによれば、オペレータは、リスクエリア内、又は、リスクエリアの近くであればより注意が必要であると判断できる。
　なお、本開示の全般的又は具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラム又はコンピュータで読み取り可能なＣＤ－ＲＯＭ等の非一時的な記録媒体で実現されてもよい。また、システム、装置、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
　例えば、本開示は、情報処理方法として実現されてもよいし、情報処理方法をコンピュータに実行させるためのプログラムとして実現されてもよいし、このようなプログラムが記録されたコンピュータで読み取り可能な非一時的な記録媒体として実現されてもよい。
　また、例えば、上記実施の形態において、特定の処理部が実行する処理を別の処理部が実行してもよい。また、複数の処理の順序が変更されてもよいし、複数の処理が並行して実行されてもよい。
　また、例えば、上記実施の形態において、対応要否判定部、通知制御部、又は、アラート出力部等の処理部の各構成要素は、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵ又はプロセッサ等のプログラム実行部が、ハードディスク又は半導体メモリ等の記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
　また、各構成要素は、ハードウェアによって実現されてもよい。各構成要素は、回路（又は集積回路）でもよい。これらの回路は、全体として１つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。
　また、例えば、情報処理装置は、情報端末等の単一の装置として実現されてもよいし、複数の装置によって実現されてもよい。情報処理装置が複数の装置によって実現される場合、上記実施の形態で説明されたサーバ装置１０が備える構成要素は、複数の装置にどのように振り分けられてもよい。
　また、上記技術１～１６に記載の構成は、任意に組み合わされて実現されてもよい。例えば、出力態様は、不必要な度合いと、（ｉ）オペレータの負荷状況、（ｉｉ）移動体を遠隔で注視又は操作する全オペレータの人数のうち、移動体の操作を実行中のオペレータの人数、（ｉｉｉ）移動体の周囲の交通参加者数、（ｉｖ）移動体の周辺状況の明度、（ｖ）第一の注視要請情報に対するオペレータの操作内容が安全性に関わるものかどうか、（ｖｉ）第一の注視要請情報に対してオペレータが移動体を操作するエリアのリスク度、及び、（ｖｉｉ）第一の注視要請情報に対してオペレータが実行した注視の期間の少なくとも１つと、に基づいて、決定されてもよい。
　（その他の実施の形態）
　以上、本開示について実施の形態に基づいて説明したが、本開示は、上記実施の形態等に限定されるものではない。
　例えば、上記実施の形態では、ロボットＭ１等は、ロボットＭ１等が備えている複数のセンサによって得られたデータ等を含む走行情報を基に自律走行を続けるうえで問題が発生しそうな所定のイベントを検知した場合、オペレータへその旨を知らせるためにロボットＭ１等で注視要請情報を生成する。また、上記実施の形態では、ロボットＭ１等は、走行情報と注視要請情報とを通信インタフェース及びネットワークＮを介してサーバ装置１０に送信する。しかしながら、注視要請が生成される例は、これに限定されない。ロボットＭ１等は、ロボットＭ１等が備えている複数のセンサによって得られたデータ等を含む走行情報を出力し、サーバ装置１０が、受け取った走行情報を基に注視要請情報を生成してもよい。その場合、ロボットＭ１等は、ロボットＭ１等が備えている複数のセンサによって得られたデータ等を含む走行情報を通信インタフェース及びネットワークＮを介してサーバ装置１０に送信する。
　また、例えば、上記実施の形態では、オペレータ対応が不必要な割合が高い注視要請に関して、所定の通知条件を基にアラートの提示方法を変更する処理に関する例について説明したが、これに限定されない。注視要請への対応をさせるオペレータを割り振る際に、オペレータの熟練度に加えて、オペレータ対応が不必要な度合い（割合）を利用してもよい。例えば、サーバ装置１０は、オペレータＡとオペレータＢとの二人のオペレータの熟練度に関して、オペレータＡが高く、オペレータＢが低い場合（つまり、オペレータＡがオペレータＢより熟練度が高い場合）、発生した注視要請に関して、オペレータ対応が不必要な度合いが低い注視要請を熟練度の高いオペレータＡに割り振り、オペレータ対応が不必要な度合いが高い注視要請を熟練度の低いオペレータＢに割り振ってもよい。例えば、サーバ装置１０は、各オペレータがロボットＭ１等の監視に用いている表示装置２０に、各オペレータに割り振った注視要請に応じたアラートを表示させてもよい。
　これにより、オペレータ対応が不必要な度合いが低い、つまりオペレータが対応しないとロボットＭ１等の周囲の交通参加者の邪魔又は迷惑になる可能性が高いような注視要請には熟練度の高いオペレータを割り当てることができる。
　なお、オペレータの熟練度は、遠隔オペレータ情報に基づき、それぞれのオペレータの経験年数等から判断されてもよい。
　また、例えば、サーバ装置１０は、走行前注視要請ＤＢ１２に過去注視要請情報が十分に溜まっていない場合には、発生した注視要請に応じたアラートに対しては提示方法の変更を行わず、オペレータが気付きやすいように提示を行ってもよい。これにより、オペレータが、ロボットＭ１等の周囲の交通参加者への邪魔又は迷惑になることがないように対応しやすくできる。
　なお、過去注視要請情報が十分に溜まっていないかどうかは、過去注視要請情報の数、発生した場所、及び／又は、発生時刻等の過去注視要請情報の種類の数等から判断されてもよい。
　また、例えば、上記実施の形態では、オペレータ対応が不必要な度合いが高い場合に、提示方法が他の注視要請に応じたアラートと比べて気付きにくいように変更される。オペレータ対応が必要となった場合には、注視要請が来ておらず負荷の低い他のオペレータに対しては、提示方法を変更させずに当該他のオペレータに気付きやすいように注視要請に応じたアラートが通知されてもよい。
　これにより、オペレータ対応が不必要と思われた注視要請が対応必要に変わったとしても迅速に対応が可能となる。
　また、サーバ装置１０は、発生した注視要請の要因が複数あった場合の対応のために、過去注視要請情報の中に注視要請が発生した要因に対する重要度及び／又は緊急度を記録しておいてもよい。サーバ装置１０は、複数の要因により注視要請が発生した際に、そのような重要度及び／又は緊急度に基づき、対応の優先度を付けてアラートの出力態様を決定する等の対応をしてもよい。
　また、サーバ装置１０は、過去注視要請情報の中に発生した注視要請に対する重要度及び／又は緊急度を記録しておくことで、そのような重要度及び／又は緊急度に基づき、提示方法の変更、及び／又は、オペレータに注視要請の対応を割り振る際に利用してもよい。
　また、例えば、ロボットＭ１等は、オペレータが操作するタッチパネル等の操作装置と通信可能に接続されていてもよい。これにより、オペレータは、操作装置を操作することで、ロボットＭ１等を直接操作できる。或いは、オペレータによって当該操作装置に入力されたロボットＭ１等の操作に関する情報は、サーバ装置１０に送信され、さらにサーバ装置１０から当該情報がロボットＭ１等に転送されることで、ロボットＭ１等がオペレータによって操作されてもよい。
　また、例えば、当該操作装置と表示装置２０とは、タッチパネルディスプレイ等によって一体に実現されてもよい。
　また、例えば、注視要請した複数のロボットＭ１等を示す情報（例えば、ロボットＭ１等の名称等の識別子）をオペレータが選択して、表示装置２０に表示させてもよい。また、例えば、サーバ装置１０は、注視要請した複数のロボットＭ１等を示す情報を表示装置２０に一覧表示させることで、ユーザが選択できるようにしてもよい。また、その際に、サーバ装置１０は、選択支援のための情報を表示装置２０に表示させてもよい。選択支援のための情報としては、不必要な度合い、リスクエリア、過去の注視要請で発生したイベント、当該イベントへのオペレータ対応の内容、及び、ロボットＭ１等のタスク状況等が例示される。また、上記の所定の通知条件で用いられる情報等が、選択支援のための情報として用いられてもよい。
　また、例えば、オペレータがロボットＭ１等を注視中に、不必要な度合いの低い注視要請が新たに発生した場合、又は、注視中に不必要な度合いの高い注視要請から不必要な度合いの低い注視要請にステータスが変更した場合、オペレータが注視すべきロボットＭ１等の情報が変更になることが考えられる。オペレータは、より不必要な度合いが低い注視要請のロボットＭ１等の情報を優先的に注視する必要がある。しかしながら、オペレータが注視中の場合に、注視中のオペレータのこれまでの状況を無視して、オペレータが見ている表示装置２０の表示が切り替わってしまうとオペレータが混乱してしまうことが考えられる。これでは、オペレータが、注視をうまく行えず、よりオペレータに負担がかかってしまうことが考えられる。例えば、複数の注視要請が発生した場合、不必要な度合いの低い順に複数の注視要請に対応する情報を表示装置２０が表示しているときにその度合いが変更になり、表示装置２０における当該情報の表示順が急に変更されてしまうと、オペレータが混乱する。例えば、複数の注視要請に対応する情報が、不必要な度合いの順に表示装置２０の画面に上から順に表示されている状態において、表示装置２０における１番上に表示されていた情報が、上から３番目に急に変更されて表示されると、オペレータが混乱するおそれがある。
　そこで、サーバ装置１０は、オペレータが注視中に不必要な度合いの低い注視要請が新たに発生した場合、又は、オペレータが注視中に不必要な度合いの高い注視要請から不必要な度合いの低い注視要請にステータスが変更した場合、新たに発生した不必要な度合いの低い注視要請を出力したロボットＭ１等に関する表示と、オペレータが注視中のロボットＭ１等の中で不必要な度合いが最も高いロボットＭ１等の表示とについて、表示を切り替えるかどうかをオペレータに問合せしてもよい。例えば、サーバ装置１０は、これらの表示を切り替えるかどうかを問い合わせる表示を表示装置２０にさせてもよい。サーバ装置１０は、オペレータから切り替える指示があった場合に、これらの表示を切り替えてもよい。
　また、サーバ装置１０は、どの表示とどの表示を入れ替えるかの指示をオペレータから取得し、取得した指示にあわせた表示となるように表示装置２０を制御してもよい。
　また、サーバ装置１０は、オペレータが注視中のロボットＭ１等のうち、新たに発生した不必要な度合いが低い注視要請を出力したロボットＭ１等と、不必要な度合いが最も高いロボットＭ１等の表示とを自動で表示装置２０に切り替えさせてもよい。
　これによれば、表示の切り替えに慣れているオペレータにとっては、自動で切り替えてくれた方が、負担が少なくて済む。
　また、オペレータ毎に、このような表示を自動で切り替えるか、問い合わせて切り替えるかが設定できてもよい。
　また、サーバ装置１０は、遠隔要請は必須、注視要請は推奨とするように、オペレータにわかるようにそれらを区別して認識可能に表示装置２０に表示させてもよい。
　また、ロボットＭ１等は、不必要な度合いを判定し、不必要な度合いが高いと判断した場合、注視要請を出力しなくてもよい。
　また、ロボットＭ１等は、不必要な度合いを判定し、所定の通知条件と同様に、当該条件を満たす場合には、注視要請を出力しなくてもよい。
　また、不必要な度合いが低い注視要請の扱いを、常時監視と同じ扱いにしてもよいし、常時監視の中では優先度を高めにしてもよい。
　また、注視要請の対象となる物体の認識結果に応じて、不必要な度合いを決定されてもよい。
　また、例えば、ロボットＭ１等によくいたずらする人をブラックリストに登録しておいてもよい。例えば、ロボットＭ１等は、注視要請を出力する際に、ブラックリストに登録された人を認識したとき、不必要な度合いを高く決定してもよい。例えば、ブラックリストは、ロボットＭ１等が備える記憶装置に予め記憶される。
　また、サーバ装置１０は、オペレータからのインタラクションによって注視要請の提示方法を変更してもよい。例えば、サーバ装置１０は、オペレータからの提案（指示）によって、「歩行者接近」を目立たない様にし、且つ、「路駐車接近」をもっと強調表示して目立つように提示方法（表示方法）を変更してもよい。このように、オペレータによって注視要請の提示方法がカスタマイズできてもよい。
　これにより、各オペレータにとって対応しやすい注視要請の提示方法を行うことが可能となる。そのため、オペレータの注視要請への対応効率が向上すると考えられる。
　また、サーバ装置１０は、オペレータの過去の対応実績によって注視要請の提示方法を変更してもよい。例えば、サーバ装置１０は、オペレータの注視要請への過去の対応実績に合わせて、過去に対応できている注視要請と同じ注視要請を目立たないようにし、過去に対応できていない注視要請と同じ注視要請を強調するように、注視要請の提示方法を変更できてもよい。過去の対応実績としては、他のオペレータと比較して、「歩行者接近」にはよく気づいて、ロボットＭ１等を必要に応じて停止させる等の対応速度が速いが、「路駐車接近」には気付くのが遅く、ロボットＭ１等を停止させて、回避するまでの時間が遅い等が例示される。
　これにより、各オペレータにとって、効率の良い注視要請の提示方法を行うことができると考えられる。
　また、本開示は、ロボットＭ１等からの注視要請が、判断要請である場合だけではなく、ロボットＭ１等からのアラート（異常通知ともいう）である場合においても適用可能である。
　ここで、ロボットＭ１等からの判断要請とは、オペレータが遠隔操作等対応する必要があるかどうかを判断するために通知するものである。
　一方、ロボットＭ１等からの異常通知とは、オペレータが遠隔操作等対応する必要があるかどうかに関わらず何かしらの状況変化又は異常（いつもと違う事象）を通知するものである。
　例えば、判断要請は、「歩行者接近」等のように、オペレータがロボットＭ１等を停止するかどうかを判断するために通知される。オペレータは、歩行者に衝突しないように必要に応じてロボットＭ１等の操作が必要となる。
　一方、例えば、異常通知は、「後方車両接近」等のように、後方に車両がいることを通知するものでオペレータとしては特別対応する必要はないが、後ろに車両がいることを伝えるために通知するものである。異常通知により、例えばロボットＭ１等の右側から後方車両が追い抜こうとしているような場合には、オペレータが右折等の操作を控えることに繋がる。
　このように、判断要請は、異常通知と比較すると事故等に繋がるレベル感が高い。
　一方、異常通知は、判断要請と比較すると事故等に繋がるレベル感が低い。
　また、サーバ装置１０は、オペレータの負荷状況の平準化のため、負荷状況が低ければオペレータに負荷がかかるような通知に提示情報の出力態様を変更してもよい。
　また、上記実施の形態等における通知システム１が備える装置間の通信方法については特に限定されるものではない。装置間では、無線通信が行われてもよいし、有線通信が行われてもよい。また、装置間では、無線通信及び有線通信が組み合わされてもよい。
　また、上記で用いた数字は、全て本開示を具体的に説明するために例示するものであり、本開示の各実施の形態は例示された数字に制限されない。
　また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
　また、上記実施の形態では、サーバ装置１０は、単一の装置で実現されていたが、互いに接続された複数の装置で実現されてもよい。
　また、フロー図における各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
　その他、上記実施の形態等に対して当業者が思い付く各種変形を施して得られる形態、本開示の趣旨を逸脱しない範囲で実施の形態等における構成要素及び機能を任意に組み合わせることで実現される形態も本開示に含まれる。
　本開示は、オペレータが被管制ロボットを注視又は操作する際の情報処理方法に利用可能である。
１　通知システム（情報処理システム）
１０　サーバ装置
１１　走行時情報取得部
１２　走行前注視要請ＤＢ
１３　遠隔オペレータＤＢ
１４　対応要否判定部
１５　通知制御部
１６　アラート出力部
２０、２０ａ、…、２０ｎ　表示装置
２１　表示通信部
２２　表示制御部
２３　出力部
２３１～２３７、２３１Ａ、２３１Ｂ、２３１Ｃ、２３１Ｄ　画像
Ｍ１、Ｍ２、…、ＭＮ　ロボット
ｍ１　撮像部
ｍ２　ロボット情報取得部
ｍ３　制御部
ｍ４　通信部
Ｎ　ネットワーク
Ｔ１　過去注視要請テーブル
Ｔ２　オペレータテーブル

Claims (16)

  1. 　コンピュータが実行する情報処理方法であって、
    　オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、前記移動体の周囲で発生したイベントに関する第一の注視要請情報を取得し、
    　前記第一の時刻より過去に取得した第二の注視要請情報、及び、前記第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と前記第一の注視要請情報とに基づき、前記第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定し、
    　前記不必要な度合いに応じて、前記第一の注視要請情報に基づくアラート情報の出力態様を決定し、
    　決定された前記出力態様によって、前記アラート情報をオペレータが使用する端末に出力させる、
    　情報処理方法。
  2. 　前記不必要な度合いと、オペレータの注視又は操作に関する負荷状況とに基づき、前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  3. 　前記負荷状況とは、前記移動体を遠隔で注視又は操作する全オペレータの人数に対する、前記移動体の操作を実行中のオペレータの人数を表す、
    　請求項２に記載の情報処理方法。
  4. 　前記不必要な度合いと、前記移動体の周囲の交通参加者数とに基づき、前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  5. 　前記不必要な度合いと、前記移動体の周辺の明度とに基づき、前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  6. 　前記不必要な度合いと、前記第一の注視要請情報に対するオペレータの操作内容が安全性に関わるものかどうかとに基づき、前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  7. 　前記不必要な度合いと、前記第一の注視要請情報に対してオペレータが前記移動体を操作するエリアのリスク度とに基づき、前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  8. 　前記不必要な度合いと、前記第一の注視要請情報に対してオペレータが実行した注視の期間とに基づき、前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  9. 　前記不必要な度合いに応じて、表示態様を異ならせるように前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  10. 　前記不必要な度合いを示す情報を表示するように前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  11. 　前記不必要な度合いの変更に応じて表示態様が動的に変化するように前記出力態様を決定する、
    　請求項１に記載の情報処理方法。
  12. 　オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、前記移動体の周囲で発生したイベントに関する第一の注視要請情報を取得する取得部と、
    　前記第一の時刻より過去に取得した第二の注視要請情報、及び、前記第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と前記第一の注視要請情報とに基づき、前記第一の注視要請情報に対してオペレータによる注視又は操作が不必要となる度合いを示す不必要な度合いを決定する第一の決定部と、
    　前記不必要な度合いに応じて、前記第一の注視要請情報に基づくアラート情報の出力態様を決定する第二の決定部と、
    　決定された前記出力態様によって、前記アラート情報をオペレータが使用する端末に出力させる出力部と、を備える、
    　情報処理装置。
  13. 　コンピュータが実行する情報処理方法であって、
    　オペレータによって遠隔で注視又は操作される移動体から、第一の時刻における、前記移動体の周囲で発生した第一のイベントに関する第一の注視要請情報を取得し、
    　前記第一の時刻より過去に取得した第二の注視要請情報、及び、前記第二の注視要請情報に対するオペレータの対応を示す対応情報が関連付けられて記憶部に記憶された情報である過去注視要請情報と前記第一の注視要請情報とに基づき、前記第一の注視要請情報に関する情報をオペレータが使用する端末に表示させる、
    　情報処理方法。
  14. 　前記記憶部に記憶された複数の前記第二の注視要請情報のうち、前記第一のイベントが発生した位置と同じ位置で発生した第二のイベントに関する前記第二の注視要請情報に対するオペレータの対応を示す前記対応情報と前記第二のイベントを示す情報とを、前記第一の注視要請情報に関する情報として前記端末に表示させる、
    　請求項１３に記載の情報処理方法。
  15. 　前記第二のイベントに関する前記第二の注視要請情報が、安全に関するものであるか否かで表示態様が異なるように、前記第一の注視要請情報に関する情報を前記端末に表示させる、
    　請求項１４に記載の情報処理方法。
  16. 　前記位置が、リスクエリアから所定の距離までの範囲内であるか否かで表示態様が異なるように、前記第一の注視要請情報に関する情報を前記端末に表示させる、
    　請求項１４に記載の情報処理方法。
PCT/JP2023/030978 2022-09-02 2023-08-28 情報処理方法、及び、情報処理装置 WO2024048517A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022-139709 2022-09-02
JP2022139709 2022-09-02

Publications (1)

Publication Number Publication Date
WO2024048517A1 true WO2024048517A1 (ja) 2024-03-07

Family

ID=90099927

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/030978 WO2024048517A1 (ja) 2022-09-02 2023-08-28 情報処理方法、及び、情報処理装置

Country Status (1)

Country Link
WO (1) WO2024048517A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019016227A (ja) * 2017-07-07 2019-01-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 情報処理方法、情報処理装置及び情報処理プログラム
JP2021057724A (ja) * 2019-09-30 2021-04-08 株式会社デンソー 監視センタ、及び支援方法
WO2021199351A1 (ja) * 2020-03-31 2021-10-07 日本電気株式会社 遠隔監視システム、遠隔監視装置、及び方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019016227A (ja) * 2017-07-07 2019-01-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 情報処理方法、情報処理装置及び情報処理プログラム
JP2021057724A (ja) * 2019-09-30 2021-04-08 株式会社デンソー 監視センタ、及び支援方法
WO2021199351A1 (ja) * 2020-03-31 2021-10-07 日本電気株式会社 遠隔監視システム、遠隔監視装置、及び方法

Similar Documents

Publication Publication Date Title
US20230311749A1 (en) Communication between autonomous vehicle and external observers
US11590890B2 (en) Method and system for augmented alerting based on driver's state in hybrid driving
US20200192360A1 (en) Method and system for driving mode switching based on self-aware capability parameters in hybrid driving
JP6112054B2 (ja) 電子機器、電子機器の制御方法及び電子機器の制御プログラム
CN107134160A (zh) 紧急信号检测和响应
WO2015162764A1 (ja) 車載情報機器および車載情報機器の機能制限方法
JP2024063147A (ja) 車載装置
JP2020091790A (ja) 自動運転システム
JPWO2009047874A1 (ja) 車載情報提供装置
EP3862941B1 (en) Information processing method and information processing system
JP7147852B2 (ja) 車両の走行制御方法及び走行制御装置
WO2017094783A1 (ja) 情報伝達装置及びプログラム
US11285966B2 (en) Method and system for controlling an autonomous vehicle response to a fault condition
JP2016181032A (ja) 自動走行制御装置及び自動走行制御システム
JP2014196009A (ja) 駐車支援装置、これに用いられる携帯端末、および、プログラム
JP7428839B2 (ja) 情報処理方法
JP2007286959A (ja) 運転支援装置
JP7119846B2 (ja) 車両の走行制御方法及び走行制御装置
WO2015033470A1 (ja) 運転支援装置および運転支援方法
US11807278B2 (en) Autonomous vehicle passenger safety monitoring
WO2024048517A1 (ja) 情報処理方法、及び、情報処理装置
JP7297055B2 (ja) 表示制御装置、表示制御方法及びプログラム
JP7147858B2 (ja) 車両の走行制御方法及び走行制御装置
WO2016152834A1 (ja) 自動走行制御装置及び自動走行制御システム
CN113401071B (zh) 显示控制装置、显示控制方法以及计算机可读取存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23860279

Country of ref document: EP

Kind code of ref document: A1