WO2024069975A1 - 学習装置、推定装置、学習方法、推定方法及びプログラム - Google Patents

学習装置、推定装置、学習方法、推定方法及びプログラム Download PDF

Info

Publication number
WO2024069975A1
WO2024069975A1 PCT/JP2022/036822 JP2022036822W WO2024069975A1 WO 2024069975 A1 WO2024069975 A1 WO 2024069975A1 JP 2022036822 W JP2022036822 W JP 2022036822W WO 2024069975 A1 WO2024069975 A1 WO 2024069975A1
Authority
WO
WIPO (PCT)
Prior art keywords
person
user
model
intention
voice
Prior art date
Application number
PCT/JP2022/036822
Other languages
English (en)
French (fr)
Inventor
克洋 鈴木
済央 野本
亮 北原
Original Assignee
日本電信電話株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電信電話株式会社 filed Critical 日本電信電話株式会社
Priority to PCT/JP2022/036822 priority Critical patent/WO2024069975A1/ja
Publication of WO2024069975A1 publication Critical patent/WO2024069975A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Definitions

  • the present invention relates to a learning device, an estimation device, a learning method, an estimation method, and a program.
  • neural networks and other techniques have been proposed that use neural networks and other techniques to obtain data from the tasks and comments of real users, as well as techniques to add fictional characters to role-playing games.
  • the development of artificial intelligence technology using neural networks and other techniques has made it possible to demonstrate performance that exceeds that of humans in areas such as competitive games.
  • Neural networks and artificial intelligence technologies are also being widely researched in the field of collaborative work. In collaborative work, artificial intelligence does not make inferences based on its own knowledge alone, but is required to understand the other party and change its thinking depending on the other party. Collaborative work requires the ability to build equal relationships with humans and the ability to behave socially, such as communicating with humans and working together with them.
  • Patent Document 1 cannot model real people, and its use is limited to specific role-playing games.
  • Patent Document 2 acquires data from the tasks and comments of real users, but only assists in deepening the user's thinking.
  • the present invention has been made in consideration of the above, and aims to provide a learning device, an estimation device, a learning method, an estimation method, and a program that enable output with human-like individuality.
  • the learning device of the present invention includes a recognition unit that recognizes the appearance, gestures, facial expression, tone of voice, emotion and/or language information of another person or an object of the other person as a recognition result based on input data that is an image, voice, and/or text created by the other person or an object of the other person; an estimation unit that uses a first model to estimate the intention and/or action of the person who will become the self based on at least the recognition result by the recognition unit; a generation unit that generates an image, voice, text, and/or operation information for a specified device of the object of the person who will become the self that indicates the appearance, gestures, facial expression, tone of voice, emotion and/or language information expressing the intention and/or action of the person who will become the self estimated by the estimation unit; and a personal
  • the device is characterized by having a characteristic, a trust index indicating the first person's trust in others, a first recognition result regarding the appearance, gestures, facial expression
  • the estimation device further comprises a recognition unit that recognizes the appearance, gestures, facial expressions, tone of voice, emotions and/or language information of a second person or an object of the second person performing a task in cooperation with a real first person as a second recognition result based on second data being an image, a voice and/or a text created by the second person or the object of the second person, and a correlation between the intention and/or action of the first person when the first person performs a task in cooperation with the second person or the object of the second person and the second recognition result.
  • the system is characterized by having an estimation unit that estimates the intention and/or action of the first person when performing a task in cooperation with the second person using a first model that has learned a third relationship, which is a relationship between the first person and the second person, and a second model that estimates the intention and action of the second person or the object of the second person based on the second recognition result, and a generation unit that generates an image, voice, text, and/or operation information for a specified device of the object of the first person that indicates the appearance, gesture, facial expression, tone of voice, emotion, and/or language information that expresses the intention and/or action of the first person estimated by the estimation unit.
  • the present invention makes it possible to produce output with human-like individuality.
  • FIG. 1 is a diagram illustrating an example of a configuration of a processing device according to a first embodiment.
  • FIG. 2 is a diagram for explaining the data accumulation phase.
  • FIG. 3 is a diagram illustrating the learning phase.
  • FIG. 4 is a flowchart showing the procedure of the processing method according to the first embodiment.
  • FIG. 5 is a flowchart showing the procedure of the estimation process shown in FIG.
  • FIG. 6 is a flowchart showing the procedure of the learning process shown in FIG.
  • FIG. 7 is a diagram illustrating an example of a configuration of a processing device according to the second embodiment.
  • FIG. 8 is a diagram illustrating the estimation phase.
  • FIG. 9 is a diagram illustrating the learning phase.
  • FIG. 10 is a flowchart showing the procedure of the processing method according to the second embodiment.
  • FIG. 10 is a flowchart showing the procedure of the processing method according to the second embodiment.
  • FIG. 11 is a flowchart showing the procedure of the estimation process shown in FIG.
  • FIG. 12 is a flowchart showing the procedure of the learning process shown in FIG.
  • FIG. 13 is a diagram illustrating an example of a configuration of a processing device according to a modification of the second embodiment.
  • FIG. 14 is a diagram illustrating an example of a configuration of a processing system according to the third embodiment.
  • FIG. 15 is a sequence diagram showing the procedure of a processing method according to the third embodiment.
  • FIG. 16 is a diagram illustrating an example of a computer in which a processing device is realized by executing a program.
  • a processing device that executes learning of a model that enables output with a personality like a human will be described.
  • the goal is to build trust with other users and accomplish a cooperative task, in the same way as when a certain user actually builds trust with other users and cooperates to perform a task.
  • the other users include not only other real people, but also thought models having the personalities of these other people.
  • the elements necessary to generate a model that reflects the individuality of a certain user are the appearance, gestures, language information, personality traits, and trustworthiness of the user.
  • a thought model that reflects the individuality of, for example, user A (first person) is generated. Note that user A is a real person.
  • the behavior of user A who actually works together with other users to perform a task is collected, and learning data (first learning data) is accumulated to learn how user A thinks logically, decides on an intention, and generates an intention in response to the behavior of other users, which leads to actual behavior. Then, in the first embodiment, learning of a thinking model that reflects user A's individuality is performed based on the accumulated first learning data.
  • FIG. 1 is a diagram showing an example of the configuration of a processing device according to embodiment 1.
  • a processing device 10 shown in Fig. 1 is initially equipped with two general-purpose thinking models (a general-purpose self model and an other-person model).
  • one of the thinking models estimates the self's intentions and/or actions as the self (generalized self model) and outputs a digital twin or the like (first data) corresponding to the self's intentions and/or actions.
  • the processing device 10 regards its own device as the self (third person) and user A (first person) as another person who performs a task in cooperation with the self, and collects the behavior of user A with respect to the output digital twin or the like of the self.
  • the processing device 10 treats the other's thought model as an other-person model, and this other-person model estimates user A's intention and/or the next action that user A will take based on user A's behavior, etc., and outputs this to the generic self-model.
  • the processing device 10 accumulates user A's behavior, etc., and also accumulates user A's intention and/or action estimated by the other-person model.
  • the processing device 10 performs learning of the other-model based on the accumulated learning data.
  • the processing device 10 transfers the other-model having the personality of user A, generated by this learning, to the self-model, and in the subsequent processing (see embodiments 2 and 3 described below), the transferred self-model is used to estimate the intentions and/or actions of user A when performing a task in cooperation with another user (user B (second person)).
  • the processing device 10 is realized, for example, by loading a specific program into a computer or the like including a ROM (Read Only Memory), a RAM (Random Access Memory), a CPU (Central Processing Unit), etc., and the CPU executing the specific program.
  • the processing devices 10, 210, 210-1, 310A, and 310B have a communication interface for sending and receiving various information to and from other devices connected via a network, etc.
  • the processing device 10 has a reception unit 20, an estimation processing unit 30, an output unit 40, and a learning unit 50.
  • the reception unit 20 receives input of information indicating user A's behavior, etc.
  • user A's behavior is an action taken in response to an image, voice, or text that corresponds to the person's intention and/or action and that is output by the processing device 10.
  • Information indicating user A's behavior, etc. is, for example, an image of user A, a voice of user A, and/or text created by user A.
  • the estimation processing unit 30 recognizes information indicating the behavior, etc. of user A received by the reception unit 20, and outputs information corresponding to the user's intention and/or action estimated by the generic self-model 33 (described below) based on at least the recognition result (first recognition result).
  • the estimation processing unit 30 outputs, for example, an image of a generically used human model (e.g., an image of a three-dimensional or two-dimensional object or a digital twin), audio, and/or text, etc., that corresponds to the intention and/or action of the generic self-model 33, which is the user.
  • the generic self-model 33 may estimate its own intentions and/or actions using as input the recognition results regarding the behavior, etc. of user A, as well as the intentions and/or actions of user A estimated by the other-model 34A (described below) based on the behavior, etc. of user A.
  • the estimation processing unit 30 stores the first recognition result and the intention and/or action of user A estimated using the other person model 34A.
  • the estimation processing unit 30 also acquires personal characteristics of user A obtained from a questionnaire or the like given by user A, and a trust index indicating the degree of trust that user A has in others, and stores these in DB 36 (described below).
  • the learning unit 50 uses the first learning data among the data stored in the DB 36 to make the other model 34A learn the personality of the user A.
  • the first learning data is data that accumulates the personal characteristics of the person of the user A, a trust index indicating the degree of trust of the user A in others, a first recognition result regarding the behavior, etc. of the user A, and an estimation result of the intention and/or action of the user A estimated by the other model 34A.
  • the first learning data may include the intention and action of the person who will become the self, estimated by the generic self model 33.
  • the first learning data may also include the personal characteristic information and trust index of the generic self model.
  • the learning unit 50 transfers the learned other-model 34A to the generic self-model 33, and in subsequent processing (see embodiments 2 and 3 described below), a self-model 33A (described below) (first model) having the personality of user A is used to estimate the intentions and/or actions of user A when performing a task in cooperation with another user (user B).
  • a self-model 33A (described below) (first model) having the personality of user A is used to estimate the intentions and/or actions of user A when performing a task in cooperation with another user (user B).
  • the estimation processing unit 30 has a recognition unit 31, an estimation unit 32 having a general self model 33 and an other-person model 34A, a generation unit 35, and an output unit 40.
  • the recognition unit 31 accepts input of images, voice, and text, and converts them into information in a format that can be processed by the estimation unit 32. For example, the recognition unit 31 recognizes the appearance (e.g., a three-dimensional object (three-dimensional model)), gestures (e.g., a pose), facial expressions, tone of voice, emotions, and/or language information of user A based on the image, voice, and/or text of user A accepted by the acceptance unit 20, and outputs this recognition result (first recognition result) to the estimation unit 32 and DB 36.
  • the recognition unit 31 outputs the first recognition result with identification information (e.g., an identification ID) or a timestamp that can identify the first recognition result, so that the association with the intention and/or action estimated by the estimation unit 32 (described later) can be determined.
  • identification information e.g., an identification ID
  • the recognition unit 31 applies, for example, facial expression recognition and emotion recognition technology through image analysis.
  • the recognition unit 31 also applies appearance recognition or gesture recognition technology based on feature points of the face, body, and hands.
  • the recognition unit 31 also applies voice tone recognition, emotion recognition, and language information recognition technology through voice analysis.
  • the estimation unit 32 receives the recognition result by the recognition unit 31 as an input.
  • the estimation unit 32 estimates the intention and/or action of the person who will be the self, using the general self model 33, based on at least the first recognition result.
  • Other model 34A estimates what kind of logical thinking, intention determination, and intention generation the other person, user A, is engaged in. Based on the first recognition result, other person model 34A estimates the intention and/or action of other person, user A, and outputs this to the general self model 33 and DB 36. Other person model 34A outputs the estimated intention and/or action with identification information (e.g., an identification ID) or a timestamp corresponding to the identification information assigned to the first recognition result by recognition unit 31, so that the correspondence with the first recognition result can be determined.
  • identification information e.g., an identification ID
  • recognition unit 31 e.g., a timestamp
  • the generic self model 33 estimates the logical thinking, intention determination, intention generation, etc., of the person who will become the self. For example, the generic self model 33 understands the intention of the other person, user A, from the first recognition result and the information in DB 36, and estimates the intention of the person who will become the self and the action that the person who will become the self should take from now on.
  • the generic self model 33 may receive the estimation result by the other-person model 34A as an input in addition to the first recognition result, and estimate the intention and/or action of the person who will become the self.
  • the estimation unit 32 outputs the intention and/or action of the person who will become the self estimated by the generic self model 33 to the generation unit 35 and DB 36.
  • the generation unit 35 converts the intentions and/or actions of the person who will become the self input from the estimation unit 32 into information in a form that can be communicated to others.
  • the generation unit 35 generates images, audio, text, and/or operation information for a specified device of the object of the person who will become the self that expresses the intentions and/or actions of the person who will become the self estimated by the estimation unit 32.
  • the generation unit 35 generates images, audio, and text that indicate the appearance (e.g., a three-dimensional object (3D model)), gestures (e.g., a pose), facial expressions, audio, and/or language information of the person who will become the self.
  • DB36 stores, for example, learning data for various models held by the estimation unit 32.
  • DB36 stores personal characteristic information 361 (e.g., Big Five) of each user obtained from a questionnaire or the like given by each user, and a reliability index 362 (e.g., Rapport) indicating the reliability of each user with respect to other users.
  • the personal characteristic information 361 and reliability index 362 are stored for all parties involved in performing a task in cooperation with each other.
  • DB36 stores the recognition results output from recognition unit 31 and the intentions and/or actions output from estimation unit 32 as accumulated information group 363.
  • the intentions and actions include the intentions and actions of the person who is the self estimated by general self model 33, as well as the intentions and actions of user A, who is the other person, estimated by other model 34A.
  • the output unit 40 outputs the image, audio, text, and/or operation information for a specific device of the object of the person who is the self generated by the generation unit 35 in a format appropriate to the output target.
  • the output unit 40 is a terminal device having a display and a speaker, and outputs the image, audio, and text of the object of the person who is the self to user A who is another person.
  • the output unit 40 outputs operation information for the controller to a game control device.
  • FIG. 2 is a diagram for explaining the data accumulation phase.
  • Fig. 2 illustrates a case in which various data are accumulated with user A as a third party. Note that the personal characteristic information and reliability index of user A are stored in advance in DB 36.
  • the processing device 10 accepts input of an image, voice, and/or text of user A (step S1), and the recognition unit 31 recognizes the appearance, gestures, facial expressions, tone of voice, emotions, and/or language information of user A, who is another person.
  • the recognition unit 31 outputs the recognition result as a first recognition result to the general self model 33, the other person model 34A, and DB 36 (steps S2-1, S2-2, S2-3).
  • DB 36 stores the first recognition result in the stored information group 363.
  • the other person model 34A estimates the intention and action of the other person, user A, based on the first recognition result, and outputs this to the general self model 33 and DB 36 (steps S3-1, S3-2).
  • the other person model 34A estimates the intention and/or action of user A at time n+1 from the recognition result at time n.
  • DB 36 stores the intention and action of the other person, user A, estimated by the other person model 34A, in the stored information group 363.
  • the generic self model 33 estimates the intention and/or action of the person who will become the self based on the first recognition result and the estimation result by the other-person model 34A, and outputs this to the generation unit 35 and the DB 36 (steps S4-1, S4-2).
  • the DB 36 stores the intention and/or action of the person who will become the self, estimated by the generic self model 33, in the accumulated information group 363.
  • the generation unit 35 generates an image, voice, text, and/or operation information for a specified device of an object of the person who is to become the self, which indicates the gestures, facial expressions, voice, and/or language information expressing the intentions and/or actions of the person who is to become the self estimated by the estimation unit 32 (step S5).
  • the output unit 40 outputs the image, audio, text, and/or operation information (first data) for a specific device of the object of the person representing the self generated by the generation unit 35 to the other person, user A (step S6).
  • the reception unit 20 receives input of user A's image, voice, and/or text in response to the output by the output unit 40 (step S1).
  • the processing device 10 accumulates the accumulated information group 363 in the DB 36 by repeating the processes of steps S1 to S6.
  • FIG. 3 is a diagram for explaining the learning phase.
  • the processing device 10 generates a model having the personality of the user A by performing learning on the other person model 34A.
  • the learning unit 50 determines whether it is time to learn.
  • the learning timing may be, for example, when a preset date and time is reached, when a preset amount of collaborative tasks is completed, or when the amount of data in the accumulated information group 363 of the DB 36 reaches a preset amount.
  • the learning unit 50 determines that it is time to learn, it starts learning the other model 34A of the estimation processing unit 30 (step S11).
  • the first learning data to be used for learning the other model 34A is read out from the various data stored in DB36 (step S12).
  • the personal characteristic information 361 of user A and the reliability index 362 of user A are used as the first learning data.
  • the recognition result of user A by the recognition unit 31 (first recognition result) is used as the first learning data.
  • the first recognition result is a recognition result by the recognition unit 31 recognized based on the image, voice and/or text created by user A at time n for the image, voice and/or text output by the processing device 10, and relates to the appearance, gestures, facial expressions, tone of voice, emotions and/or language information of user A.
  • the intentions and actions of the other person, user A, at time n+1, estimated by the other-person model 34A, and the intentions and actions of the self (third person) at time n+1, estimated by the general self-model 33, are used.
  • the teacher data the recognition result of user A by the recognition unit 31 at time n+1 is used.
  • the learning unit 50 uses the first learning data to make the other-person model 34A learn a first relationship.
  • the first relationship is the relationship between the intention and/or action of user A when user A performs a task in cooperation with the processing device 10 (self (third person)) and the first recognition result.
  • the learning unit 50 executes learning of the other-person model 34A so as to minimize the difference between the estimation result of the intention and/or action of user A at time n+1 based on the recognition result by the recognition unit 31 for user A at time n, and the recognition result by the recognition unit 31 for user A at time n+1, which is the teacher data.
  • the output (first data) of the processing device 10 is an image, voice, and/or text created by the object of the person who is the self (generic self model 33).
  • the first recognition result is a recognition result recognized by the recognition unit 31 based on the image, voice, and/or text of the image of user A relative to the output (first data) of the processing device 10.
  • the other-model 34A can estimate what kind of logical thinking, intention determination, and intention generation the user A is performing when collaborating with other users to perform a task.
  • the learning unit 50 transfers the other-model 34A, for which learning has been completed, to the general self-model 33 (step S13), which is hereafter referred to as the self-model 33A (described below).
  • Fig. 4 is a flowchart showing the procedure of the processing method in the embodiment 1.
  • the processing device 10 accepts input of an image, voice, and/or text of user A, who is another person, in response to the output by the processing device 10 (step S21), and performs an estimation process to estimate the user's intentions and/or actions (step S22).
  • the processing device 10 outputs an image, audio, text, and/or operation information for a specified device of the object of the person who will become the self, which expresses the intention and/or action of the person who will become the self estimated in the estimation process (step S23).
  • the processing device 10 determines whether the collaborative task with user A has ended (step S24). If the collaborative task with user A has not ended (step S24: No), the processing device 10 returns to step S21. The processing device 10 accumulates the first learning data by repeating steps S21 to S24.
  • step S24: Yes the processing device 10 determines whether it is time to learn (step S25). If it is not time to learn (step S25: No), the processing device 10, for example, temporarily ends the process.
  • step S25 If it is time to learn (step S25: Yes), the processing device 10 executes a learning process to learn a model based on the first learning data (step S26).
  • the learning process of the first embodiment executes learning on the other model 34A so that the other model 34A has the personality of user A.
  • the processing device 26 transfers the other-person model 34A to the generic self-model 33 (step S27) and ends the process.
  • the recognition unit 31 performs a recognition process to recognize the appearance, gestures, facial expressions, tone of voice, emotions, and/or language information of user A based on the image, voice, and/or text of user A (step S31).
  • the recognition unit 31 outputs the recognition result of user A (first recognition result) to the general self model 33, the other model 34A, and DB 36.
  • the other model 34A estimates the intention and action of the other user A based on the first recognition result (step S32).
  • the other model 34 estimates the intention and/or action of user A at time n+1 based on the recognition result by the recognition unit 31 for user A at time n.
  • the other model 34A outputs the estimated intention and action of user A to the generic self model 33 and stores it in the DB 36 (step S33).
  • the generic self model 33 estimates the intention and/or action of the person who will become the self based on the first recognition result and the estimation result by the other-person model 34A (step S34).
  • the generic self model 33 outputs the estimated intention and action of the person who will become the self to the generation unit 35 and stores them in the DB 36 (step S35).
  • the generation unit 35 generates, for example, an image, sound, text, and/or operation information for a specified device of the object of the person who will become the self, which indicates a three-dimensional object (3D model) of the person who will become the self, its pose, facial expression, voice, and linguistic information, gestures, facial expression, voice, and/or linguistic information (step S36).
  • step S26 the learning process (step S26) will be described with reference to a flowchart shown in FIG.
  • the first learning data uses the personal characteristic information 361 of user A, the trust index 362 of user A, the first recognition result by the recognition unit 31 for user A at time n, the intention and action of user A at time n+1 estimated by the other model 34A based on the first recognition result, and the intention and action of the person who will be the self at time n+1 estimated by the general self model 33 based on the first recognition result.
  • the teacher data uses the recognition result by the recognition unit 31 for user A at time n+1.
  • the learning unit 50 uses the first learning data to have the other model 34A learn the first relationship and optimize the parameters of the other model 34A (step S42).
  • user A can be modeled by using appearance, gestures, language information, personality traits, and trustworthiness as learning data, which are elements necessary for modeling an actual person.
  • model learning is performed by including data on user A's behavior, etc., in a state in which user A is performing a task in cooperation with others in the first learning data, so that a model capable of estimating the thoughts of user A performing a task in cooperation with others can be realized. Since the processing device 10 can model the individuality of a human being, it can be applied to various cooperative tasks.
  • Embodiment 2 Next, a description will be given of embodiment 2.
  • the processing device according to embodiment 2 executes a task in cooperation with another user B (second person) by using a self-model 33A (described later) (first model) having the personality of user A (first person) learned in embodiment 1.
  • user B includes not only another real user B himself, but also a thought model having the personality of user B.
  • [Processing device] 7 is a diagram showing an example of the configuration of a processing device according to embodiment 2.
  • the processing device 210 has the same functions as the processing device 10.
  • the processing device 210 has a receiving unit 20, an estimation processing unit 230 having an estimation unit 232, an output unit 40, and a learning unit 250.
  • the reception unit 20 receives input of information indicating user B's behavior, etc.
  • user B's behavior is an action taken in response to an image, voice, or text output by the processing device 210 that corresponds to the intention and/or action of the person (user A) himself/herself.
  • the information (second data) indicating user B's behavior, etc. is, for example, an image of user B or user B's object, user B's voice, and/or text created by user B or user B's object.
  • the estimation processing unit 230 has a recognition unit 31, an estimation unit 232, a generation unit 35, a DB 36, and an output unit 40.
  • the recognition unit 31 recognizes the appearance, gestures, facial expressions, tone of voice, emotions and/or language information of the person of user B or the object of user B as the second recognition result based on the second data.
  • the recognition unit 31 outputs the second recognition result to the estimation unit 232 and DB 36.
  • the recognition unit 31 outputs the second recognition result with identification information (e.g., an identification ID) or a timestamp that can identify the second recognition result, so that the association with the intention and/or action estimated by the estimation unit 232 (described later) can be determined.
  • the estimation unit 232 is equipped with a self-model 33A (first model) that has the personality of user A transferred in the processing of embodiment 1, and an other-person model 34B (second model) that is a general-purpose thinking model at the beginning of the processing.
  • first model that has the personality of user A transferred in the processing of embodiment 1
  • second model that is a general-purpose thinking model at the beginning of the processing.
  • the other person model 34B estimates the type of logical thinking, intention determination, and intention generation that the other person, user B, is performing based on the second recognition result, and estimates the intention and action of user B or user B's object.
  • the other person model 34B outputs the estimation result to the self model 33A and DB 36.
  • the other person model 34B outputs the estimated intention and/or action with identification information (e.g., an identification ID) corresponding to the identification information assigned to the second recognition result by the recognition unit 31 or a time stamp, so that the correspondence with the second recognition result can be determined.
  • identification information e.g., an identification ID
  • Self-model 33A is a thinking model that learns the personality of user A, and estimates the logical thinking, intention determination, intention generation, etc. of user A, who becomes the self.
  • Self-model 33A estimates the intention and/or action of user A when performing a task in cooperation with user B based on the second recognition result and the estimation result by other-model 34B.
  • Self-model 33A outputs the estimation result to generation unit 35 and DB 36.
  • Self-model 33A outputs the estimated intention and/or action with identification information (e.g., an identification ID) or a timestamp corresponding to the identification information assigned to the second recognition result by recognition unit 31, so that the correspondence with the second recognition result can be determined.
  • identification information e.g., an identification ID
  • the generation unit 35 generates images, sounds, text, and/or operation information for a specific device of user A's object, which indicate gestures, facial expressions, sounds, and/or language information expressing the intentions and/or actions of user A estimated by the self-model 33A.
  • the output unit 40 outputs the images, sounds, and text of user A's object to user B, who is another person.
  • DB36 stores the second recognition result and the estimation results of self-model 33A and other-model 34B as accumulated information group 363.
  • the learning unit 250 uses the second learning data from the data stored in the DB 36 to cause the other model 34B to learn the second relationship.
  • the second learning data includes personal characteristics of user B, a trust index indicating user B's trust in others, a second recognition result for user B by the recognition unit 31 at time n, and an estimation result of user B's intention and/or action at time n+1 by the other-model 34B.
  • the second learning data includes personal characteristics of user A, a trust index indicating user A's trust in others, and an estimation result of user A's intention and/or action at time n+1 by the self-model 33A.
  • the teacher data is the recognition result for user B by the recognition unit 31 at time n+1.
  • the second relationship is the relationship between the intention and/or action of user B or user B's object when user B or user B's object collaborates with user A to perform a task, and the second recognition result.
  • the learning unit 250 causes the other-person model 34B to learn the second relationship, and also causes the self-model 33A to learn the third relationship using the second learning data.
  • the third relationship is the relationship between the second recognition result and the intention and/or action of user A when user A collaborates with user B or user B's object to perform a task.
  • Fig. 8 is a diagram for explaining the estimation phase.
  • various data for learning are also accumulated. Note that the personal characteristic information and reliability index of users A and B are stored in advance in DB 36.
  • the processing device 210 accepts input of an image, voice, and/or text of user B (step S201), and the recognition unit 31 recognizes the appearance, gestures, facial expressions, tone of voice, emotions, and/or language information of the other user B.
  • the recognition unit 31 outputs the recognition result as a second recognition result to the self model 33A, the other person model 34B, and DB 36 (steps S202-1, S202-2, S202-3).
  • DB 36 stores the second recognition result in the stored information group 363.
  • the other model 34B estimates the intention and action of the other user B based on the second recognition result, and outputs this to the self model 33A and DB 36 (steps S203-1, S203-2).
  • the other model 34B estimates the intention and/or action of user B at time n+1 based on the recognition result at time n.
  • DB 36 stores the intention and action of user B, who is the other user, estimated by the other model 34B in the stored information group 363.
  • the self model 33A estimates the intention and/or action of user A, who will become the self, based on the second recognition result and the estimation result by the other-person model 34B, and outputs this to the generation unit 35 and DB 36 (steps S204-1, S204-2).
  • the self model 33A estimates the intention and/or action of user A at time n+1 based on the recognition result at time n and the intention and/or action of user B at time n+1.
  • DB 36 accumulates the intention and/or action of user A, who will become the self, estimated by the self model 33A in accumulated information group 363.
  • the generation unit 35 generates an image, a voice, a text, and/or operation information for a specific device of user A, which indicates the gesture, facial expression, voice, and/or language information expressing the intention and/or action of user A estimated by the estimation unit 32 (step S205).
  • the output unit 40 outputs the image, audio, text, and/or operation information for a specific device of the object of user A generated by the generation unit 35 to another user B (step S206).
  • the reception unit 20 receives input of image, voice and/or text from user B in response to the output by the output unit 40 (step S201).
  • the processing device 210 repeats the processes of steps S201 to S206. That is, it accepts data on the behavior of user B, estimates the intention and/or action of user B in response to the data, and sends back a process to output a digital twin or the like. By repeating these processes, the processing device 210 can execute a task in cooperation with user B, regarding user A as itself. At the same time, the processing device 210 accumulates a group of accumulated information 363 for learning in DB 36.
  • Fig. 9 is a diagram for explaining the learning phase.
  • the processing device 210 generates a model for estimating the intention and/or action of user B by performing learning on the other-person model 34B, and also generates a model capable of estimating the intention and/or action of the user when performing a task in cooperation with user B by performing learning on the self-model 33A.
  • the learning unit 250 determines whether it is time to learn.
  • the learning timing may be, for example, when a preset date and time is reached, when a preset amount of collaborative tasks is completed, or when the amount of data in the accumulated information group 363 of DB 36 reaches a preset amount.
  • the learning unit 250 determines that it is time to learn, it starts learning the other model 34B and the self model 33A of the estimation processing unit 230 (step S211).
  • the second learning data to be used for learning the other model 34B and the self model 33A is read out from the various data stored in DB36 (step S212).
  • the learning unit 250 uses the second learning data to have the other model 34B learn the second relationship (step S212).
  • the learning unit 250 executes learning of the other model 34A so as to minimize the difference between the intention and/or action of user B at time n+1 estimated based on the recognition result by the recognition unit 31 for user B at time n, and the recognition result by the recognition unit 31 for user B at time n+1, which is the teacher data.
  • the learning unit 250 uses the second learning data to have the self model 33A learn the third relationship (step S213).
  • Fig. 10 is a flowchart showing the procedure of the processing method in the second embodiment.
  • the processing device 210 accepts input of an image, voice, and/or text of another person, user B (step S221), and performs an estimation process to estimate the intention and/or action of the processing device 210 (user A) (step S222).
  • the processing device 210 outputs an image, sound, text, and/or operation information for a specific device of user A's object that expresses user A's intention and/or action (step S223).
  • the processing device 210 determines whether the collaborative task with user B has ended (step S224). If the collaborative task with user B has not ended (step S224: No), the process returns to step S221. The processing device 210 repeats steps S221 to S224 to perform the task in collaboration with user B.
  • step S224 Yes
  • the processing device 210 executes step S225, which is the same process as step S25 shown in FIG. 4.
  • step S225 If it is time to learn (step S225: Yes), the processing device 210 or the processing device 10 executes a learning process to learn the model based on the second learning data (step S226).
  • the recognition unit 31 performs a recognition process to recognize the appearance, gestures, facial expressions, tone of voice, emotions, and/or language information of user B based on the image, voice, and/or text of user B (step S231).
  • the recognition unit 31 outputs the recognition result of user B (second recognition result) to the self model 33A, the other-person model 34B, and DB 36.
  • the other-person model 34B estimates the intention and action of user B based on the third recognition result (step S232), outputs the result to the self-model 33A, and stores the result in the DB 36 (step S233).
  • the self model 33A estimates the intention and/or action of the user A, who is the self, based on the second recognition result and the estimation result by the other-person model 34B (step S234), and outputs it to the generation unit 35 and stores it in the DB 36 (step S235).
  • the generation unit 35 generates, for example, an image, a voice, a text of an object of user A, and/or operation information for a specific device, which indicates the gestures, facial expressions, voice, and/or language information of user A who is the self (step S236).
  • step S226 the learning process (step S226) will be described with reference to a flowchart shown in FIG.
  • the estimation processing unit 230 under the control of the learning unit 250, acquires second learning data from various data stored in DB 36 (steps S241, S243).
  • the second learning data includes personal characteristics of users A and B, a trust index indicating the degree of trust of users A and B in others, a second recognition result for user B by the recognition unit 31 at time n, an estimation result of user B's intention and/or action at time n+1 by the other-person model 34B, and an estimation result of user A's intention and/or action at time n+1 by the self-model 33A.
  • the teacher data is the recognition result of user B by the recognition unit 31 at time n+1.
  • the learning unit 250 uses the second learning data from the data stored in the DB 36 to have the other model 34B learn the second relationship and optimize the parameters of the other model 34B (step S242).
  • the learning unit 250 uses the second learning data to have the self-model 33A learn the third relationship and optimize the parameters of the self-model 33A (step S244).
  • the estimation unit 232 has an other-person model 34B, and in addition to the second recognition result for the other person, user B, the self model 33A also receives the estimation result of user B's thoughts and/or actions by the other-person model 34B. Then, the self model 33A estimates user A's thoughts and/or actions based on the estimation result of user B's thoughts and/or actions by the other-person model 34B in addition to the second recognition result.
  • self-model 33A can estimate intentions and/or actions similar to those of user A when actually performing a task in cooperation with user B. Therefore, processing device 210 can build a sense of trust with user B and smoothly perform a task in cooperation with user B, just as user A actually does.
  • the processing device 210 even while the processing device 210 is performing a task in cooperation with user B, the processing device 210 accumulates the estimated intentions and/or actions in the self-model 33A and the other-model 34B in the accumulation value database in DB36 as indications of the characteristics of the self or the other. Therefore, the processing device 210 can continue to grow the self-model 33A and the other-model 34B even while performing a cooperative task.
  • [Modification of the second embodiment] 13 is a diagram showing an example of the configuration of a processing device according to the modification of embodiment 2. As shown in FIG. 13, a processing device 210-1 according to the modification of embodiment 2 performs a task in cooperation with user B and user C.
  • the processing device 210-1 has a reception unit 20B that receives the image, voice, and/or text created by user B, a reception unit 20C that receives the image, voice, and/or text created by user C, an estimation processing unit 230-1, an output unit 40, and a learning unit 250A that controls the learning process of the other-models 34B, 34C and the self-model 33A.
  • the estimation processing unit 230-1 further includes a recognition unit 31C that recognizes the appearance, gestures, facial expressions, tone of voice, emotions, and/or language information of user C based on the data received by the reception unit 20C.
  • the estimation unit 232-1 further includes an other-person model 34C.
  • the other-person model 34C estimates the intentions and/or actions of user C based on the recognition results of the recognition unit 31C, and outputs the estimation results to the self-model 33A and DB 36.
  • the self model 33A estimates the intention and/or action of user A, which represents the self, based on the recognition results by the recognition units 31B and 31C and the estimation results of the other-person models 34B and 34C.
  • the generation unit 35 then generates images, sounds, text, and/or operation information for a specific device of user A's object, which indicate gestures, facial expressions, sounds, and/or language information expressing user A's intention and/or action, and outputs them from the output unit 40.
  • reception units 20B and 20C receive input of images, voice, and/or text from users B and C in response to the output from the output unit 40. Thereafter, the processing device 210-1 repeats the same process to execute the task in cooperation with users B and C, just as user A would actually do.
  • the learning unit 250A performs learning of the other-models 34B, 34C and the self-model 33A using the personal characteristics of the users A, B, and C, the trust index indicating the degree of trust of the users A, B, and C in others, the recognition results by the recognition units 31B and 31C, the estimation results by the other-models 34B and 34C, and the estimation results by the self-model 33A as learning data.
  • the learning unit 250A causes the other-person model 34B to learn the relationship between the intention and/or action of user B when user B performs a task in cooperation with user A and user C, and the recognition results by the recognition units 31B and 31C.
  • the learning unit 250A causes the other-person model 34C to learn the relationship between the intention and/or action of user C's object when user C performs a task in cooperation with user A and user B, and the recognition results by the recognition units 31B and 31C.
  • the learning unit 250A also causes the self-model 33A to learn the relationship between the intention and/or action of user A when user A performs a task in cooperation with user B and user C, and the recognition results by the recognition units 31B and 31C.
  • the processing device 210-1 even while the processing device 210-1 is performing a task in cooperation with users B and C, the processing device 210-1 accumulates the estimated intentions and/or actions in the self model 33A and the other models 34B and 34C in the accumulated value database in DB 36 as indicators of the characteristics of the self or the other. Therefore, the processing device 210 can grow the self model 33A and the other models 34B and 34C even while performing a cooperative task. Furthermore, when there are three or more users collaborating, the processing device 210-1 can provide an other model for each other user, accumulate learning data even while performing the cooperative task, and learn each model.
  • a third embodiment will be described.
  • a loop system is proposed in which, when processing devices of a plurality of people perform tasks in cooperation with each other while outputting digital twins, each processing device recognizes the actions of the digital twins that are the other parties and updates the respective other party models, while determining its own intentions and/or actions based on the updated other party models.
  • [Processing System] 14 is a diagram showing an example of the configuration of a processing system according to embodiment 3.
  • the processing system according to the embodiment includes, for example, a processing device 310A having a self-model 333A having a personality of a user A, and a processing device 310B having a self-model 333B having a personality of a user B.
  • the reception unit 320A receives input of images, audio, text, and/or operation information for a specific device of user B's object, which expresses user B's intention and/or action, output from the processing device 310B.
  • the estimation unit 332A estimates the intention and/or action of the user A himself/herself, and outputs images, audio, text, and/or operation information for a specific device of user A's object, which expresses user A's intention and/or action, to the processing device 310B via the generation unit 35A and the output unit 40A.
  • the reception unit 320B receives input of images, voice, text, and/or operation information for a specific device of user A's object, which expresses user A's intention and/or action output from the processing device 310A. Then, the estimation processing unit 330B, the estimation unit 332B, estimates the intention and/or action of the user itself (user B), and outputs to the processing device 310A via the generation unit 35B and the output unit 40B, images, voice, text, and/or operation information for a specific device of user B's object, which show gestures, facial expressions, voice, and/or language information expressing user B's intention and/or action.
  • the estimation unit 332A has an other-person model 334B that estimates the intention and/or action of user B based on the recognition results by the recognition unit 331A for the images, voice, and text of user B's objects output by the processing device 310B.
  • the self-model 333A estimates the intention and/or action of user A based on the recognition results by the recognition unit 331A and the estimation results of the other-person model 334B.
  • the estimation unit 332B has an other-person model 334A that estimates the intention and/or action of user A based on the recognition results by the recognition unit 331B for the images, voice, and text of user A's objects output by the processing device 310A.
  • the self-model 333B estimates the intention and/or action of user B based on the recognition results by the recognition unit 331B and the estimation results of the other-person model 334A.
  • the processing device 310A that generates user A's object and the other processing device 310B that generates user B's object each estimate the intention and/or action of the person's object to be output based on the recognition results of the appearance, gestures, facial expressions, tone of voice, emotions and/or language information of the other person's object.
  • the learning units 350A and 350B share the personal characteristic information, reliability index, and accumulated information group stored in the DBs 36A and 36B of the other processing devices 310A and 310B, and use the shared data to perform learning, respectively.
  • the processing device 310A that generates user A's object and the other processing device 310B that generates user B's object each share the recognition results of the appearance, gestures, facial expressions, tone of voice, emotions and/or language information of the other person's object, as well as the estimation results of the other person's self model and other model, and update the self model and other model of their own device.
  • Fig. 15 is a sequence diagram showing the procedure of the processing method in embodiment 3.
  • processing device 310A receives input of user B's object image, audio, text, and/or operation information for a specific device from processing device 310B (steps S301, S302).
  • the processing device 310A performs an estimation process to estimate the intention and/or action of the user A (step S303), and outputs to the processing device 310B an image, sound, text, and/or operation information for a specific device of the user A's object that expresses the intention and/or action of the user A (steps S304, S305).
  • Step S303 is the same process as step S222 in FIG. 10.
  • the processing of the processing device 310B involves accepting input of images, audio, text, and/or operation information for a specific device of user A's object from the processing device 310A (steps S307, S308).
  • the processing device 310B performs an estimation process to estimate the intention and/or action of the user (user B) (step S308), and outputs to the processing device 310A an image, sound, text, and/or operation information for a specific device of user B, which expresses the intention and/or action of user B (steps S309, S301).
  • Step S308 is the process of replacing user A with user B, replacing self-model 33A with self-model 333B, and replacing other-model 34B with other-model 334A in step S222 of FIG. 10.
  • step S306 No, step S310: No
  • the processing devices 310A and 310B return to step S302 and step S307, respectively, and continue the cooperative task.
  • step S306 Yes, step S310: Yes
  • step S311 Yes, step S312: Yes
  • step S3113 the processing devices 310A and 310B share personal characteristics, trust indices, and accumulated information (step S313), and perform learning processes for the self-model and other-model, respectively (steps S314, S315).
  • the processing devices 310A, 310B share the personal characteristic information, reliability index, and accumulated information group held by the other processing device 310A, 310B, and use the shared data to learn their own model and other-person model, respectively.
  • the processing devices 310A, 310B can obtain not only the information accumulated by their own device, but also the information accumulated by the other device with which they are collaborating, making it easier to collect the data necessary for model learning and to construct an appropriate model.
  • each process performed by the processing devices 10, 210, 210-1, 310A, and 310B may be realized in whole or in part by a CPU and a program analyzed and executed by the CPU. Furthermore, each process performed by the processing devices 10, 210, 210-1, 310A, and 310B may be realized as hardware using wired logic.
  • [program] 16 is a diagram showing an example of a computer in which the processing devices 10, 210, 210-1, 310A, and 310B are realized by executing a program.
  • the computer 1000 has, for example, a memory 1010 and a CPU 1020.
  • the computer 1000 also has a hard disk drive interface 1030, a disk drive interface 1040, a serial port interface 1050, a video adapter 1060, and a network interface 1070. These components are connected by a bus 1080.
  • the memory 1010 includes a ROM 1011 and a RAM 1012.
  • the ROM 1011 stores a boot program such as a BIOS (Basic Input Output System).
  • BIOS Basic Input Output System
  • the hard disk drive interface 1030 is connected to a hard disk drive 1090.
  • the disk drive interface 1040 is connected to a disk drive 1100.
  • a removable storage medium such as a magnetic disk or optical disk is inserted into the disk drive 1100.
  • the serial port interface 1050 is connected to a mouse 1110 and a keyboard 1120, for example.
  • the video adapter 1060 is connected to a display 1130, for example.
  • the hard disk drive 1090 stores, for example, an OS (Operating System) 1091, an application program 1092, a program module 1093, and program data 1094. That is, the programs that define the processes of the processing devices 10, 210, 210-1, 310A, and 310B are implemented as program modules 1093 in which code executable by the computer 1000 is written.
  • the program modules 1093 are stored, for example, in the hard disk drive 1090.
  • the program modules 1093 for executing processes similar to the functional configurations of the processing devices 10, 210, 210-1, 310A, and 310B are stored in the hard disk drive 1090.
  • the hard disk drive 1090 may be replaced by an SSD (Solid State Drive).
  • the setting data used in the processing of the above-mentioned embodiment is stored as program data 1094, for example, in memory 1010 or hard disk drive 1090.
  • the CPU 1020 reads the program module 1093 or program data 1094 stored in memory 1010 or hard disk drive 1090 into RAM 1012 as necessary and executes it.
  • the program module 1093 and program data 1094 may not necessarily be stored in the hard disk drive 1090, but may be stored in a removable storage medium, for example, and read by the CPU 1020 via the disk drive 1100 or the like.
  • the program module 1093 and program data 1094 may be stored in another computer connected via a network (such as a LAN (Local Area Network), WAN (Wide Area Network)).
  • the program module 1093 and program data 1094 may then be read by the CPU 1020 from the other computer via the network interface 1070.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

処理装置（１０）は、ユーザＡの個人特性と、ユーザＡにおける他者に対する信頼度を示す信頼指数と、第１の認識結果と、第１の認識結果に基づくユーザＡの意図及び／またはアクションの推定結果と、を第１の学習データとして、第１のモデルに、ユーザＡが他のユーザのオブジェクトと協調してタスク際のユーザＡの意図及び／またはアクションと、第１の認識結果との関係である第１の関係を学習させる。第１の認識結果は、ユーザＡの協調対象である他のユーザのオブジェクトの画像、音声、及び／または、他のユーザのオブジェクトが作成したテキストである第１のデータに対するユーザＡの画像、音声及び／またはユーザＡが作成したテキストを基に認識されたユーザＡの外観、仕草、表情、声色、感情及び／または言語情報に関する。

Description

学習装置、推定装置、学習方法、推定方法及びプログラム
　本発明は、学習装置、推定装置、学習方法、推定方法及びプログラムに関する。
　ニューラルネットワーク等を用いて、実在するユーザのタスクや発言からデータを取得する技術や、ロールプレイングゲームに登場する架空の人物を追加する技術が提案されている。このように、ニューラルネットワーク等を用いた人工知能技術の発展により、例えば、対戦ゲームなどの分野で人間を超える性能を発揮できるようになった。ニューラルネットワークや人工知能の技術は協調作業の分野においても広く研究されている。協調作業では、人工知能は自分の知識のみで推論を行うのではなく、相手を理解して、相手によって思考を変更することが必要となる。協調作業を行う上で、人間と対等な関係を構築する能力や、人間とコミュニケーションを取りながら一緒に仕事をするといった社会的な行動をする能力が求められる。
特開２０００－２７１３４７号公報 特開２０１０－１１７８５９号公報
　人間の代理行為を行うことが可能である人工知能技術の開発が望まれている。人工知能が本人の代理行為として人間関係を構築し、経験を本人にフィードバックすることで、その本人は、より多くの機会や経験を得ることができる。しかしながら、特許文献１に記載の技術は、実在する人物をモデルにして登場させることはできず、特定のロールプレイングゲームに用途が限られている。また、特許文献２に記載の技術は、実在するユーザのタスクや発言からデータを取得しているが、ユーザの思考内容を深めるよう支援するに過ぎない。
　このように、従来の技術では、タスクを早く、正確に解くことや、決められたポイントを最大化することはできるものの、人間のような個性を持つモデルがまだ実現できていない。言い換えると、機械学習技術では、協調作業などの相手を理解して、相手によって思考を変更することが必要となるタスクを解くことは難しい。また、従来技術では、特定の用途に限られたモデルや、人間の一部機能しかモデル化できていない。また、特許文献１，２には、本人の代理行為を行うために必要な個性を持つモデルについては言及されていない。
　本発明は、上記に鑑みてなされたものであって、人間のような個性を持った出力を可能とする学習装置、推定装置、学習方法、推定方法及びプログラムを提供することを目的とする。
　上述した課題を解決し、目的を達成するために、本発明に係る学習装置は、他の人物または前記他の人物のオブジェクトの画像、音声、及び／または、前記他の人物または前記他の人物のオブジェクトが作成したテキストである入力データに基づいて、前記他の人物または前記他の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識結果として認識する認識部と、第１のモデルを用いて、少なくとも前記認識部による認識結果を基に、自己となる人物の意図及び／またはアクションを推定する推定部と、前記推定部が推定した前記自己となる人物の意図及び／またはアクションを表現した外観、仕草、表情、声色、感情及び／または言語情報を示す、前記自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する生成部と、第１の人物の個人特性と、前記第１の人物における他者に対する信頼度を示す信頼指数と、前記第１の人物の協調対象である第３の人物のオブジェクトの画像、音声、及び／または、前記第３の人物のオブジェクトが作成したテキストである第１のデータに対する前記第１の人物の画像、音声及び／または前記第１の人物が作成したテキストを基に前記認識部によって認識された前記第１の人物の外観、仕草、表情、声色、感情及び／または言語情報に関する第１の認識結果と、前記第１の認識結果に基づく前記第１の人物の意図及び／またはアクションの推定結果と、を第１の学習データとして、前記第１のモデルに、前記第１の人物が前記第３の人物のオブジェクトと協調してタスクを行う際の前記第１の人物の意図及び／またはアクションと、前記第１の認識結果との関係である第１の関係を学習させる学習部と、を有することを特徴とする。
　また、本発明に係る推定装置は、実在する第１の人物の人物と協調してタスクを行う第２の人物または前記第２の人物のオブジェクトの画像、音声、及び／または、前記第２の人物または前記第２の人物のオブジェクトが作成したテキストである第２のデータに基づいて、前記第２の人物または前記第２の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を第２の認識結果として認識する認識部と、前記第１の人物が前記第２の人物または前記第２の人物のオブジェクトと協調してタスクを行う際の前記第１の人物の意図及び／またはアクションと、前記第２の認識結果との関係である第３の関係を学習した第１のモデルと、前記第２の認識結果を基に前記第２の人物または前記第２の人物のオブジェクトの意図及びアクションを推定する第２のモデルと、を用いて、前記第２の人物と協調してタスクを行う際の前記第１の人物の意図及び／またはアクションを推定する推定部と、前記推定部が推定した前記第１の人物の意図及び／またはアクションを表現した外観、仕草、表情、声色、感情及び／または言語情報を示す、前記第１の人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する生成部と、を有することを特徴とする。
　本発明によれば、人間のような個性を持った出力を可能とする。
図１は、実施の形態１に係る処理装置の構成の一例を示す図である。 図２は、データ蓄積フェーズを説明する図である。 図３は、学習フェーズを説明する図である。 図４は、実施の形態１における処理方法の処理手順を示すフローチャートである。 図５は、図４に示す推定処理の処理手順を示すフローチャートである。 図６は、図４に示す学習処理の処理手順を示すフローチャートである。 図７は、実施の形態２に係る処理装置の構成の一例を示す図である。 図８は、推定フェーズを説明する図である。 図９は、学習フェーズを説明する図である。 図１０は、実施の形態２における処理方法の処理手順を示すフローチャートである。 図１１は、図１０に示す推定処理の処理手順を示すフローチャートである。 図１２は、図１０に示す学習処理の処理手順を示すフローチャートである。 図１３は、実施の形態２の変形例に係る処理装置の構成の一例を示す図である。 図１４は、実施の形態３に係る処理システムの構成の一例を示す図である。 図１５は、実施の形態３における処理方法の手順を示すシーケンス図である。 図１６は、プログラムが実行されることにより、処理装置が実現されるコンピュータの一例を示す図である。
　以下に、本願に係る学習装置、推定装置、学習方法、推定方法及びプログラムの実施の形態を図面に基づいて詳細に説明する。また、本発明は、以下に説明する実施の形態により限定されるものではない。
［実施の形態１］
　実施の形態１では、人間のような個性を持った出力を可能とするモデルの学習を実行する処理装置について説明する。実施の形態１では、あるユーザの個性を有する思考モデルの出力を基に、あるユーザが実際に他のユーザと信頼感を構築して協調してタスクを行う場合と同様に、他のユーザと信頼感を構築し、協調タスクを達成することを目標とする。なお、他のユーザは、実在する他の人物のほか、この他の人物の個性を有する思考モデルも含まれる。
　まず、実施の形態１では、あるユーザの個性を有するモデルを生成するために必要な要素が、このユーザの外見、しぐさ、言語情報、人格特性、信頼度であることを定義する。実施の形態１では、これらの各種要素を学習データとして用いることで、例えば、ユーザＡ（第１の人物）の個性を有する思考モデルを生成する。なお、ユーザＡは、実在する人物である。
　そして、ユーザＡの思考モデルが、協調タスクを他のユーザと実行するには、ユーザＡの個性を有するとともに、協調してタスクを行う他のユーザがどのような意図及び／またはアクションを行うかを推定することも必要であると考えられる。
　そこで、実施の形態１では、他のユーザと実際に協調してタスクを行うユーザＡの行動等を収集することで、他のユーザの行動等に対しユーザＡがどのような論理的思考、意図決定、意図生成を行い、実際の行動に至っているかを学習するための学習データ（第１の学習データ）を蓄積する。そして、実施の形態１では、蓄積した第１の学習データを基に、ユーザＡの個性を有する思考モデルの学習を実行する。
［処理装置］
　図１は、実施の形態１に係る処理装置の構成の一例を示す図である。図１に示す処理装置１０は、当初は、汎用的な二つの思考モデル（汎用自己モデル、他者モデル）を搭載する。
　データ蓄積フェーズにおいて、まず、処理装置１０では、一方の思考モデルが、自己（汎用自己モデル）として、自己の意図及び／またはアクションを推定し、この自己の意図及び／またはアクションに対応するデジタルツイン等（第１のデータ）を出力する。実施の形態１では、処理装置１０が、自装置を自己（第３の人物）と見立て、ユーザＡ（第１の人物）を自己と協調してタスクを行う他者として見立て、出力した自己のデジタルツイン等に対するユーザＡの行動等を収集する。
　そして、処理装置１０は、他方の思考モデルを他者モデルとし、この他者モデルが、ユーザＡの行動等を基に、ユーザＡの意図及び／またはユーザＡが次に取るアクションを推定して、汎用自己モデルに出力する。処理装置１０は、ユーザＡの行動等を蓄積するとともに、他者モデルで推定したユーザＡの意図及び／またはアクションを蓄積する。
　学習フェーズにおいて、処理装置１０は、蓄積した学習データを基に、他者モデルの学習を実行する。処理装置１０は、この学習によって生成された、ユーザＡの個性を有する他者モデルを、自己モデルに転写し、以降の処理（後述する実施の形態２，３参照）では、転写した自己モデルを用いて、他のユーザ（ユーザＢ（第２の人物））と協調してタスクを行う際のユーザＡの意図及び／またはアクションを推定する。
　処理装置１０は、例えば、ＲＯＭ（Read　Only　Memory）、ＲＡＭ（Random　Access　Memory）、ＣＰＵ（Central　Processing　Unit）等を含むコンピュータ等に所定のプログラムが読み込まれて、ＣＰＵが所定のプログラムを実行することで実現される。また、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂは、ネットワーク等を介して接続された他の装置との間で、各種情報を送受信する通信インタフェースを有する。処理装置１０は、受付部２０、推定処理部３０、出力部４０及び学習部５０を有する。
　受付部２０は、ユーザＡの行動等を示す情報の入力を受け付ける。具体的には、ユーザＡの行動は、処理装置１０が出力した、自己である人物の意図及び／またはアクションに対応する画像、音声またはテキストに対して取った行動である。ユーザＡの行動等を示す情報は、例えば、ユーザＡの画像、ユーザＡの音声、及び／または、ユーザＡが作成したテキストである。
　推定処理部３０は、受付部２０が受け付けたユーザＡの行動等を示す情報を認識し、少なくとも該認識結果（第１の認識結果）を基に汎用自己モデル３３（後述）が推定した、自己の意図及び／またはアクションに対応する情報を出力する。推定処理部３０は、例えば、自己である汎用自己モデル３３の意図及び／またはアクションに対応させた、汎用的に使用される人物モデルの画像（例えば、３次元または２次元のオブジェクトの画像やデジタルツイン）、音声、及び／または、テキスト等を出力する。
　汎用自己モデル３３は、ユーザＡの行動等に関する認識結果とともに、ユーザＡの行動等を基に他者モデル３４Ａ（後述）で推定されたユーザＡの意図及び／またはアクションを入力として、自己の意図及び／またはアクションを推定してもよい。
　推定処理部３０は、第１の認識結果、他者モデル３４Ａで推定したユーザＡの意図及び／またはアクションを蓄積する。また、推定処理部３０は、ユーザＡによるアンケート等から取得したユーザＡの個人特性、ユーザＡにおける他者に対する信頼度を示す信頼指数を取得し、ＤＢ３６（後述）に蓄積する。
　学習部５０は、ＤＢ３６に蓄積されたデータのうち、第１の学習データを用いて、他者モデル３４ＡにユーザＡの個性を学習させる。第１の学習データは、ユーザＡの人物の個人特性と、ユーザＡにおける他者に対する信頼度を示す信頼指数と、ユーザＡの行動等に関する第１の認識結果と、他者モデル３４Ａが推定したユーザＡの意図及び／またはアクションの推定結果とを蓄積したデータである。第１の学習データは、汎用自己モデル３３によって推定された、自己となる人物の意図及びアクションとを含んでもよい。また、第１の学習データは、汎用自己モデルの個人特性情報と信頼指数も含んでもよい。
　学習部５０は、学習後の他者モデル３４Ａを汎用自己モデル３３に転写し、以降の処理（後述する実施の形態２，３参照）では、ユーザＡの個性を有する自己モデル３３Ａ（後述）（第１のモデル）を用いて、他のユーザ（ユーザＢ）と協調してタスクを行う際のユーザＡの意図及び／またはアクションを推定する。
　続いて、推定処理部３０について説明する。推定処理部３０は、認識部３１、汎用自己モデル３３及び他者モデル３４Ａを有する推定部３２、生成部３５及び出力部４０を有する。
　認識部３１は、画像、音声、テキストの入力を受け付けて、推定部３２が処理可能である形式の情報へと変換する。例えば、認識部３１は、受付部２０が受け付けたユーザＡの画像、音声及び／またはテキストを基に、ユーザＡの外観（例えば、３次元オブジェクト（３次元モデル））、仕草（例えば、ポーズ）、表情、声色、感情及び／または言語情報を認識し、この認識結果（第１の認識結果）を、推定部３２及びＤＢ３６に出力する。認識部３１は、推定部３２（後述）が推定した意図及び／アクションとの対応付けが判別できるように、第１の認識結果に、この第１の認識結果を識別可能である識別情報（例えば、識別ＩＤ）、または、タイムスタンプを付して出力する。
　認識部３１は、例えば、画像解析による表情認識及び感情認識の技術を適用する。また、認識部３１は、顔と体と手の特徴点に基づく外観認識または仕草認識の技術を適用する。また、認識部３１は、音声解析による声色認識、感情認識、言語情報認識の認識技術を適用する。
　推定部３２は、認識部３１による認識結果を入力として受け付ける。推定部３２は、少なくとも第１の認識結果を基に、汎用自己モデル３３を用いて、自己となる人物の意図及び／またはアクションを推定する。
　他者モデル３４Ａは、他者であるユーザＡがどのような論理的思考、意図決定、意図生成を行っているのか推定する。他者モデル３４Ａは、第１の認識結果を基に、他者となるユーザＡの意図及び／またはアクションを推定し、汎用自己モデル３３及びＤＢ３６に出力する。他者モデル３４Ａは、第１の認識結果との対応付けが判別できるように、推定した意図及び／またはアクションに、この意図及び／またはアクションに、認識部３１が第１の認識結果に付与した識別情報と対応する識別情報（例えば、識別ＩＤ）、または、タイムスタンプを付して出力する。
　汎用自己モデル３３は、自己となる人物の論理的思考、意図決定、意図生成などを推定する。例えば、汎用自己モデル３３は、第１の認識結果とＤＢ３６の情報とから、他者であるユーザＡの意図を理解し、自己となる人物の意図と、自己となる人物が今から取るべきアクションとを推定する。
　汎用自己モデル３３は、第１の認識結果に加え、他者モデル３４Ａによる推定結果を入力として受け付け、自己となる人物の意図及び／またはアクションを推定してもよい。推定部３２は、汎用自己モデル３３が推定した、自己となる人物の意図及び／またはアクションを生成部３５及びＤＢ３６に出力する。
　生成部３５は、推定部３２から入力された、自己となる人物の意図及び／アクションを、他者に伝わる形態の情報に変換する。生成部３５は、推定部３２が推定した、自己となる人物の意図及び／またはアクションを表現した、自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する。例えば、生成部３５は、自己となる人物の外観（例えば、３次元オブジェクト（３Ｄモデル））、仕草（例えば、ポーズ）、表情、音声、及び／または、言語情報を示す、画像、音声、テキストを生成する。
　ＤＢ３６は、例えば、推定部３２が有する各種モデルの学習データを記憶する。ＤＢ３６は、各ユーザによるアンケート等から取得した各ユーザの個人特性情報３６１（例えば、Big　Five）、各ユーザの他のユーザに対する信頼度を示す信頼指数３６２（例えば、Rapport）を記憶する。個人特性情報３６１及び信頼指数３６２は、協調してタスクを行う関係者全員について記憶される。
　ＤＢ３６は、認識部３１から出力された認識結果、及び、推定部３２から出力された意図及び／またはアクションを蓄積情報群３６３として記憶する。意図及びアクションは、汎用自己モデル３３によって推定された自己となる人物の意図及びアクションのほか、他者モデル３４Ａによって推定された他者であるユーザＡの意図及びアクションを含む。
　出力部４０は、生成部３５が生成した自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を、出力対象に応じた形式で出力する。例えば、出力部４０は、ディスプレイ及びスピーカーを有する端末装置であり、自己となる人物のオブジェクトの画像、音声、テキストを、他者であるユーザＡに対して出力する。また、出力部４０は、ユーザＡとの間でコントローラを用いてゲーム等を行っている場合には、コントローラに対する操作情報を、ゲーム制御装置に出力する。
［データ蓄積フェーズ］
　続いて、学習データを蓄積するデータ蓄積フェーズの処理について説明する。図２は、データ蓄積フェーズを説明する図である。図２では、ユーザＡを他者として、各種データを蓄積する場合について説明する。なお、ＤＢ３６には、予め、ユーザＡの個人特性情報及び信頼指数が格納されている。
　図２に示すように、処理装置１０では、ユーザＡの画像、音声及び／またはテキストをの入力を受け付けて（ステップＳ１）、認識部３１が、他者であるユーザＡの外観、仕草、表情、声色、感情及び／または言語情報を認識する。認識部３１は、認識結果を、第１の認識結果として、汎用自己モデル３３、他者モデル３４Ａ及びＤＢ３６に出力する（ステップＳ２－１，Ｓ２－２，Ｓ２－３）。ＤＢ３６は、第１の認識結果を、蓄積情報群３６３に蓄積する。
　他者モデル３４Ａは、第１の認識結果を基に、他者となるユーザＡの意図及びアクションを推定し、汎用自己モデル３３及びＤＢ３６に出力する（ステップＳ３－１、Ｓ３－２）。他者モデル３４Ａは、時間ｎの時の認識結果から時間ｎ＋１の時のユーザＡの意図及び／またはアクションを推定する。ＤＢ３６は、他者モデル３４Ａによって推定された、他者となるユーザＡの意図及びアクションを、蓄積情報群３６３に蓄積する。
　汎用自己モデル３３は、第１の認識結果と、他者モデル３４Ａによる推定結果とを基に、自己となる人物の意図及び／またはアクションを推定し、生成部３５及びＤＢ３６に出力する（ステップＳ４－１、Ｓ４－２）。ＤＢ３６は、汎用自己モデル３３によって推定された、自己となる人物の意図及び／またはアクションを、蓄積情報群３６３に蓄積する。
　生成部３５は、推定部３２が推定した、自己となる人物の意図及び／またはアクションを表現した仕草、表情、音声、及び／または、言語情報を示す、自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する（ステップＳ５）。
　出力部４０は、生成部３５が生成した自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報（第１のデータ）を、他者であるユーザＡに対して出力する（ステップＳ６）。
　そして、受付部２０は、出力部４０による出力に対するユーザＡの画像、音声及び／またはテキストの入力を受け付ける（ステップＳ１）。処理装置１０は、ステップＳ１～ステップＳ６の処理を繰り返すことで、ＤＢ３６に、蓄積情報群３６３を蓄積する。
［学習フェーズ］
　次に、学習フェーズの処理について説明する。図３は、学習フェーズを説明する図である。図３では、処理装置１０は、他者モデル３４Ａに対する学習を行うことによって、ユーザＡの個性を有するモデルを生成する場合について説明する。
　まず、学習部５０は、学習タイミングであるか否かを判定する。学習タイミングは、例えば、予め設定された所定の日時に達した場合、所定量の協調タスクが終了した場合、ＤＢ３６の蓄積情報群３６３のデータ量が所定量に達した場合などである。
　学習部５０は、学習タイミングであると判定した場合、推定処理部３０の他者モデル３４Ａの学習を開始する（ステップＳ１１）。
　まず、学習フェーズでは、ＤＢ３６に蓄積された各種データのうち、他者モデル３４Ａの学習に使用する第１の学習データを読み出す（ステップＳ１２）。
　具体的には、第１の学習データとして、ユーザＡの個人特性情報３６１、及び、ユーザＡの信頼指数３６２を使用する。第１の学習データとして、認識部３１によるユーザＡの認識結果（第１の認識結果）を使用する。第１の認識結果は、処理装置１０が出力した画像、音声及び／またはテキストに対する、時間ｎにおけるユーザＡの画像、音声及び／またはユーザＡが作成したテキストを基に認識された認識部３１による認識結果であり、ユーザＡの外観、仕草、表情、声色、感情及び／または言語情報に関する。
　そして、第１の学習データとして、他者モデル３４Ａによって推定された、他者であるユーザＡの時間時間ｎ＋１での意図及びアクションと、汎用自己モデル３３によって推定された、自己（第３の人物）の時間時間ｎ＋１での意図及びアクションとを使用する。また、教師データとして、ユーザＡの時間ｎ＋１での認識部３１による認識結果を用いる。
　学習部５０は、第１の学習データを用いて、他者モデル３４Ａに第１の関係を学習させる。第１の関係は、ユーザＡが処理装置１０（自己（第３の人物））と協調してタスクを行う際のユーザＡの意図及び／またはアクションと、第１の認識結果との関係である。学習部５０は、時間ｎの時のユーザＡに対する認識部３１による認識結果に基づいて時間ｎ＋１のユーザＡの意図及び／またはアクションを推定した推定結果と、教師データである時間ｎ＋１の時のユーザＡに対する認識部３１による認識結果との差が最も小さくなるように他者モデル３４Ａの学習を実行する。
　ここで、処理装置１０の出力（第１のデータ）は、自己（汎用自己モデル３３）となる人物のオブジェクトの画像、音声、及び／または、自己となる人物のオブジェクトが作成したテキストである。第１の認識結果は、処理装置１０の出力（第１のデータ）に対するユーザＡの画像の画像、音声及び／またはテキストを基に、認識部３１によって認識された認識結果である。
　これによって、他者モデル３４Ａは、ユーザＡが、他のユーザと協調してタスクを行う際に、どのような論理的思考、意図決定、意図生成を行っているのか推定することができる。学習部５０は、学習が終了した他者モデル３４Ａを、汎用自己モデル３３に転写し（ステップＳ１３）、以降、自己モデル３３Ａ（後述）とする。
［処理方法］
　次に、実施の形態１の処理装置１０が実行する処理方法の処理手順について説明する。図４は、実施の形態１における処理方法の処理手順を示すフローチャートである。
　図４に示すように、処理装置１０は、処理装置１０による出力に対する他者であるユーザＡの画像、音声及び／またはテキストの入力を受け付けて（ステップＳ２１）、自己の意図及び／またはアクションを推定する推定処理を行う（ステップＳ２２）。
　処理装置１０は、推定処理において推定された自己となる人物の意図及び／またはアクションを表現した、自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を出力する（ステップＳ２３）。
　処理装置１０は、ユーザＡとの協調タスクが終了したか否かを判定する（ステップＳ２４）。ユーザＡとの協調タスクが終了していない場合（ステップＳ２４：Ｎｏ）、ステップＳ２１に戻る。処理装置１０は、ステップＳ２１～ステップＳ２４を繰り返すことによって、第１の学習データを蓄積する。
　ユーザＡとの協調タスクが終了している場合（ステップＳ２４：Ｙｅｓ）、処理装置１０は、学習タイミングであるか否かを判定する（ステップＳ２５）。学習タイミングでない場合（ステップＳ２５：Ｎｏ）、処理装置１０は、例えば、一旦処理を終了する。
　学習タイミングである場合（ステップＳ２５：Ｙｅｓ）、処理装置１０は、第１の学習データを基に、モデルの学習を実行する学習処理を実行する（ステップＳ２６）。実施の形態１の学習処理は、他者モデル３４ＡがユーザＡの個性を有するように、他者モデル３４Ａに対して学習を実行する。
　そして、処理装置２６は、他者モデル３４Ａを汎用自己モデル３３に転写し（ステップＳ２７）、処理を終了する。
［推定処理］
　次に、推定処理（ステップＳ２２）について説明する。図５は、図４に示す推定処理の処理手順を示すフローチャートである。
　図５に示すように、推定処理部３０では、認識部３１が、ユーザＡの画像、音声及び／またはテキストを基に、ユーザＡの外観、仕草、表情、声色、感情及び／または言語情報を認識する認識処理を行う(ステップＳ３１)。認識部３１は、ユーザＡの認識結果（第１の認識結果）を汎用自己モデル３３、他者モデル３４Ａ及びＤＢ３６に出力する。
　他者モデル３４Ａは、第１の認識結果を基に、他者となるユーザＡの意図及びアクションを推定する（ステップＳ３２）。他者モデル３４は、時間ｎの時のユーザＡに対する認識部３１による認識結果を基に、時間ｎ＋１の時のユーザＡの意図及び／またはアクションを推定する。他者モデル３４Ａは、推定したユーザＡの意図及びアクションを汎用自己モデル３３に出力するとともに、ＤＢ３６に格納する（ステップＳ３３）。
　汎用自己モデル３３は、第１の認識結果と、他者モデル３４Ａによる推定結果とを基に、自己となる人物の意図及び／またはアクションを推定する（ステップＳ３４）。汎用自己モデル３３は、推定した自己となる人物の意図及びアクションを生成部３５に出力するとともに、ＤＢ３６に格納する（ステップＳ３５）。
　生成部３５は、例えば、自己となる人物の３次元オブジェクト（３Ｄモデル）、そのポーズ、表情、音声、言語情報仕草、表情、音声、及び／または、言語情報を示す、自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する（ステップＳ３６）。
［学習処理］
　次に、学習処理（ステップＳ２６）について説明する。図６は、図４に示す学習処理の処理手順を示すフローチャートである。
　図６に示すように、推定処理部３０は、学習部５０の制御の基、ＤＢ３６に蓄積された各種データのうち、第１の学習データを取得する（ステップＳ４１）。第１の学習データは、ユーザＡの個人特性情報３６１、ユーザＡの信頼指数３６２、時間ｎの時のユーザＡに対する認識部３１による第１の認識結果、第１の認識結果を基に他者モデル３４Ａによって推定された時間ｎ＋１の時のユーザＡの意図及びアクションと、第１の認識結果を基に汎用自己モデル３３によって推定された、自己となる人物の時間ｎ＋１での意図及びアクションとを使用する。教師データは、ユーザＡの時間ｎ＋１での認識部３１による認識結果を用いる。
　学習部５０は、第１の学習データを用いて他者モデル３４Ａに第１の関係を学習させ、他者モデル３４Ａのパラメータを最適化する（ステップＳ４２）。
［実施の形態１の効果］
　このように、実施の形態１では、実際の人物をモデル化するために必要な要素として、外見、しぐさ、言語情報、性格特性、信頼度を学習データとして用いることによって、ユーザＡをモデル化することができる。また、実施の形態１では、ユーザＡが他者と協調してタスクを行っている状態の、ユーザＡの行動等に関するデータを第１の学習データに含めてモデル学習を行うため、他者と協調してタスクを行うユーザＡの思考を推定することができるモデルを実現できた。処理装置１０は、人間の持つ個性をモデル化することができるため、様々な協調タスクに適用することができる。
［実施の形態２］
　次に、実施の形態２について説明する。実施の形態２に係る処理装置は、実施の形態１において学習されたユーザＡ（第１の人物）の個性を有する自己モデル３３Ａ（後述）（第１のモデル）を用いて、他者であるユーザＢ（第２の人物）と協調してタスクを実行する。なお、ユーザＢは、実在する他のユーザＢ自身のほか、ユーザＢの人物の個性を有する思考モデルも含まれる。
［処理装置］
　図７は、実施の形態２に係る処理装置の構成の一例を示す図である。処理装置２１０は、処理装置１０と同様の機能を有する。処理装置２１０は、受付部２０と、推定部２３２を有する推定処理部２３０と、出力部４０と、学習部２５０とを有する。
　受付部２０は、ユーザＢの行動等を示す情報の入力を受け付ける。具体的には、ユーザＢの行動は、処理装置２１０が出力した、自己である人物（ユーザＡ）の意図及び／またはアクションに対応する画像、音声またはテキストに対して取った行動である。ユーザＢの行動等を示す情報（第２のデータ）は、例えば、ユーザＢまたはユーザＢのオブジェクトの画像、ユーザＢの音声、及び／または、ユーザＢまたはユーザＢのオブジェクトが作成したテキストである。
　推定処理部２３０は、認識部３１、推定部２３２、生成部３５、ＤＢ３６及び出力部４０を有する。
　認識部３１は、第２のデータに基づいて、ユーザＢの人物またはユーザＢのオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を、第２の認識結果として認識する。認識部３１は、第２の認識結果を、推定部２３２及びＤＢ３６に出力する。認識部３１は、推定部２３２（後述）が推定した意図及び／アクションとの対応付けが判別できるように、第２の認識結果に、この第２の認識結果を識別可能である識別情報（例えば、識別ＩＤ）、または、タイムスタンプを付して出力する。
　推定部２３２は、実施の形態１の処理において転写された、ユーザＡの個性を有する自己モデル３３Ａ（第１のモデル）と、処理当初は汎用的思考モデルである他者モデル３４Ｂ（第２のモデル）とを搭載する。
　他者モデル３４Ｂは、第２の認識結果を基に、他者であるユーザＢがどのような論理的思考、意図決定、意図生成を行っているのか推定し、ユーザＢまたはユーザＢのオブジェクトの意図及びアクションを推定する。他者モデル３４Ｂは、推定結果を自己モデル３３Ａ及びＤＢ３６に出力する。他者モデル３４Ｂは、第２の認識結果との対応付けが判別できるように、推定した意図及び／またはアクションに、この意図及び／またはアクションに、認識部３１が第２の認識結果に付与した識別情報と対応する識別情報（例えば、識別ＩＤ）、または、タイムスタンプを付して出力する。
　自己モデル３３Ａは、ユーザＡの個性を学習した思考モデルであり、自己となるユーザＡの論理的思考、意図決定、意図生成などを推定する。自己モデル３３Ａは、第２の認識結果と、他者モデル３４Ｂによる推定結果とを基に、ユーザＢと協調してタスクする際のユーザＡの意図及び／またはアクションを推定する。自己モデル３３Ａは、推定結果を生成部３５及びＤＢ３６に出力する。自己モデル３３Ａは、第２の認識結果との対応付けが判別できるように、推定した意図及び／またはアクションに、この意図及び／またはアクションに、認識部３１が第２の認識結果に付与した識別情報と対応する識別情報（例えば、識別ＩＤ）、または、タイムスタンプを付して出力する。
　生成部３５は、自己モデル３３Ａが推定したユーザＡの意図及び／またはアクションを表現した仕草、表情、音声、及び／または、言語情報を示す、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する。出力部４０は、ユーザＡのオブジェクトの画像、音声、テキストを、他者であるユーザＢに対して出力する。
　ＤＢ３６は、第２の認識結果、及び、自己モデル３３Ａ及び他者モデル３４Ｂの推定結果を蓄積情報群３６３として記憶する。
　学習部２５０は、ＤＢ３６に格納されたデータのうち、第２の学習データを用いて、他者モデル３４Ｂに、第２の関係を学習させる。
　第２の学習データは、ユーザＢの個人特性と、ユーザＢにおける他者に対する信頼度を示す信頼指数と、時間ｎでの認識部３１によるユーザＢに対する第２の認識結果と、他者モデル３４Ｂによる時間時間ｎ＋１でのユーザＢの意図及び／またはアクションの推定結果とを含む。そして、第２の学習データは、ユーザＡの個人特性と、ユーザＡにおける他者に対する信頼度を示す信頼指数と、自己モデル３３Ａによる時間時間ｎ＋１でのユーザＡの意図及び／またはアクションの推定結果を含む。教師データは、ユーザＢの時間ｎ＋１での認識部３１による認識結果である。
　第２の関係は、ユーザＢまたはユーザＢのオブジェクトがユーザＡと協調してタスクを行う際のユーザＢまたはユーザＢのオブジェクトの意図及び／またはアクションと、第２の認識結果との関係である。
　学習部２５０は、他者モデル３４Ｂに第２の関係を学習させるとともに、第２の学習データを用いて、自己モデル３３Ａに、第３の関係を学習させる。第３の関係は、ユーザＡがユーザＢまたはユーザＢのオブジェクトと協調してタスクを行う際のユーザＡの意図及び／またはアクションと、第２の認識結果との関係である。
［推定フェーズ］
　続いて、ユーザＡの意図及ぶ／アクションを推定しながら、ユーザＢと協調してタスクを行う推定フェーズの処理について説明する。図８は、推定フェーズを説明する図である。推定フェーズでは、学習用の各種データの蓄積も行う。なお、ＤＢ３６には、予め、ユーザＡ，Ｂの個人特性情報及び信頼指数が格納されている。
　図８に示すように、処理装置２１０では、ユーザＢの画像、音声及び／またはテキストの入力を受け付けて（ステップＳ２０１）、認識部３１が、他者であるユーザＢの外観、仕草、表情、声色、感情及び／または言語情報を認識する。認識部３１は、認識結果を、第２の認識結果として、自己モデル３３Ａ、他者モデル３４Ｂ及びＤＢ３６に出力する（ステップＳ２０２－１，Ｓ２０２－２，Ｓ２０２－３）。ＤＢ３６は、第２の認識結果を、蓄積情報群３６３に蓄積する。
　他者モデル３４Ｂは、第２の認識結果を基に、他者となるユーザＢの意図及びアクションを推定し、自己モデル３３Ａ及びＤＢ３６に出力する（ステップＳ２０３－１、Ｓ２０３－２）。他者モデル３４Ｂは、時間ｎの時の認識結果を基に、時間ｎ＋１の時のユーザＢの意図及び／またはアクションを推定する。ＤＢ３６は、他者モデル３４Ｂによって推定された、他者となるユーザＢの意図及びアクションを、蓄積情報群３６３に蓄積する。
　自己モデル３３Ａは、第２の認識結果と、他者モデル３４Ｂによる推定結果とを基に、自己となるユーザＡの意図及び／またはアクションを推定し、生成部３５及びＤＢ３６に出力する（ステップＳ２０４－１、Ｓ２０４－２）。自己モデル３３Ａは、時間ｎの時の認識結果と、時間ｎ＋１の時のユーザＢの意図及び／またはアクションとを基に、時間ｎ＋１の時のユーザＡの意図及び／またはアクションを推定する。ＤＢ３６は、自己モデル３３Ａによって推定された、自己となるユーザＡの意図及び／またはアクションを、蓄積情報群３６３に蓄積する。
　生成部３５は、推定部３２が推定した、ユーザＡの意図及び／またはアクションを表現した仕草、表情、音声、及び／または、言語情報を示す、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する（ステップＳ２０５）。
　出力部４０は、生成部３５が生成したユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を、他者であるユーザＢに対して出力する（ステップＳ２０６）。
　そして、受付部２０は、出力部４０による出力に対するユーザＢの画像、音声及び／またはテキストの入力を受け付ける（ステップＳ２０１）。
　処理装置２１０は、ステップＳ２０１～ステップＳ２０６の処理を繰り返す。すなわち、ユーザＢの行動等に関するデータを受け付け、それに対するユーザＢの意図及び／またはアクションを推定して、デジタルツイン等を出力する処理を送り返す。これら処理の繰り返しを行うことで、処理装置２１０は、ユーザＡを自己とし、ユーザＢとの間で協調してタスクを実行することができる。それとともに、処理装置２１０は、ＤＢ３６に、学習用の蓄積情報群３６３を蓄積する。
［学習フェーズ］
　次に、学習フェーズの処理について説明する。図９は、学習フェーズを説明する図である。図９では、処理装置２１０は、他者モデル３４Ｂに対する学習を行うことによって、ユーザＢの意図及び／またはアクションを推定するモデルを生成するとともに、自己モデル３３Ａに対する学習を行うことによって、ユーザＢと協調してタスクを行う場合のユーザの意図及び／またはアクションを推定できるモデルについて説明する。
　まず、学習部２５０は、学習タイミングであるか否かを判定する。学習タイミングは、例えば、予め設定された所定の日時に達した場合、所定量の協調タスクが終了した場合、ＤＢ３６の蓄積情報群３６３のデータ量が所定量に達した場合などである。
　学習部２５０は、学習タイミングであると判定した場合、推定処理部２３０の他者モデル３４Ｂ及び自己モデル３３Ａの学習を開始する（ステップＳ２１１）。
　まず、学習フェーズでは、ＤＢ３６に蓄積された各種データのうち、他者モデル３４Ｂ及び自己モデル３３Ａの学習に使用する第２の学習データを読み出す（ステップＳ２１２）。
　そして、学習部２５０は、第２の学習データを用いて、他者モデル３４Ｂに、第２の関係を学習させる（ステップＳ２１２）。学習部２５０は、時間ｎの時のユーザＢに対する認識部３１による認識結果に基づいて推定された時間ｎ＋１の時のユーザＢの意図及び／またはアクションと、教師データである時間ｎ＋１の時のユーザＢに対する認識部３１による認識結果と、の差が最も小さくなるように他者モデル３４Ａの学習を実行する。これとともに、学習部２５０は、第２の学習データを用いて、自己モデル３３Ａに、第３の関係を学習させる（ステップＳ２１３）。
［処理方法］
　次に、実施の形態２の処理装置２１０が実行する処理方法の処理手順について説明する。図１０は、実施の形態２における処理方法の処理手順を示すフローチャートである。
　図１０に示すように、処理装置２１０は、他者であるユーザＢの画像、音声及び／またはテキストの入力を受け付けて（ステップＳ２２１）、自己（ユーザＡ）の意図及び／またはアクションを推定する推定処理を行う（ステップＳ２２２）。
　処理装置２１０は、ユーザＡの意図及び／またはアクションを表現した、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を出力する（ステップＳ２２３）。
　処理装置２１０は、ユーザＢとの協調タスクが終了したか否かを判定する（ステップＳ２２４）。ユーザＢとの協調タスクが終了していない場合（ステップＳ２２４：Ｎｏ）、ステップＳ２２１に戻る。処理装置２１０は、ステップＳ２２１～ステップＳ２２４を繰り返すことによって、ユーザＢと協調してタスクを行う。
　処理装置２１０は、ユーザＢとの協調タスクが終了している場合（ステップＳ２２４：Ｙｅｓ）、図４に示すステップＳ２５と同じ処理であるステップＳ２２５を実行する。
　学習タイミングである場合（ステップＳ２２５：Ｙｅｓ）、処理装置２１０は、処理装置１０は、第２の学習データを基に、モデルの学習を実行する学習処理を実行する（ステップＳ２２６）。
［推定処理］
　次に、推定処理（ステップＳ２２２）について説明する。図１１は、図１０に示す推定処理の処理手順を示すフローチャートである。
　図１１に示すように、推定処理部３３０では、認識部３１が、ユーザＢの画像、音声及び／またはテキストを基に、ユーザＢの外観、仕草、表情、声色、感情及び／または言語情報を認識する認識処理を行う(ステップＳ２３１)。認識部３１は、ユーザＢの認識結果（第２の認識結果）を自己モデル３３Ａ、他者モデル３４Ｂ及びＤＢ３６に出力する。
　他者モデル３４Ｂは、第３の認識結果を基に、ユーザＢの意図及びアクションを推定し（ステップＳ２３２）、自己モデル３３Ａへの出力、及び、ＤＢ３６への格納を行う（ステップＳ２３３）。
　自己モデル３３Ａは、第２の認識結果と、他者モデル３４Ｂによる推定結果とを基に、自己となるユーザＡの意図及び／またはアクションを推定し（ステップＳ２３４）、生成部３５への出力、及び、ＤＢ３６への格納を行う（ステップＳ２３５）。
　生成部３５は、例えば、自己となるユーザＡの仕草、表情、音声、及び／または、言語情報を示す、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する（ステップＳ２３６）。
［学習処理］
　次に、学習処理（ステップＳ２２６）について説明する。図１２は、図１０に示す学習処理の処理手順を示すフローチャートである。
　図１２に示すように、推定処理部２３０は、学習部２５０の制御の基、ＤＢ３６に蓄積された各種データのうち、第２の学習データを取得する（ステップＳ２４１，Ｓ２４３）。第２の学習データは、ユーザＡ，Ｂの個人特性と、ユーザＡ，Ｂにおける他者に対する信頼度を示す信頼指数と、時間ｎでの認識部３１によるユーザＢに対する第２の認識結果と、他者モデル３４Ｂによる時間時間ｎ＋１でのユーザＢの意図及び／またはアクションの推定結果と、自己モデル３３Ａによる時間時間ｎ＋１でのユーザＡの意図及び／またはアクションの推定結果とを含む。教師データは、ユーザＢの時間ｎ＋１での認識部３１による認識結果である。
　学習部２５０は、ＤＢ３６に格納されたデータのうち、第２の学習データを用いて、他者モデル３４Ｂに第２の関係を学習させ、他者モデル３４Ｂのパラメータを最適化する（ステップＳ２４２）。
　学習部２５０は、第２の学習データを用いて、自己モデル３３Ａに、第３の関係を学習させ、自己モデル３３Ａのパラメータを最適化する（ステップＳ２４４）。
［実施の形態２の効果］
　ユーザＡは、実際にユーザＢと協調してタスクを行っている場合、ユーザＢの表情や仕草等を基に、ユーザＢの意図及び／アクションを予測しながら、自己の思考及び／またはアクションを決定している。
　実施の形態２では、推定部２３２に、他者モデル３４Ｂを持たせ、自己モデル３３Ａに、他者であるユーザＢに対する第２の認識結果に加え、さらに、他者モデル３４ＢによるユーザＢの思考及び／またはアクションの推定結果を入力する。そして、自己モデル３３Ａは、第２の認識結果に加え、さらに、他者モデル３４ＢによるユーザＢの思考及び／またはアクションの推定結果を基に、ユーザＡの思考及び／またはアクションを推定している。
　このため、自己モデル３３Ａは、実際にユーザＢと協調してタスクを行っている場合のユーザＡと近似した意図及び／アクションを推定することができるといえる。したがって、処理装置２１０は、ユーザＡが実際に行うように、ユーザＢと信頼感を構築し、ユーザＢと協調して円滑にタスクを実行することができる。
　そして、処理装置２１０は、ユーザＢとの間で協調してタスクを行っている間も、自己モデル３３Ａ及び他者モデル３４Ｂにおいて、それぞれ推定された意図及び／またはアクションを、自己或いは他者の特性を示すものとしてＤＢ３６に蓄積価値観データベースに蓄積している。このため、処理装置２１０は、協調タスクを行う間も自己モデル３３Ａ及び他者モデル３４Ｂを成長させていくことができる。
［実施の形態２の変形例］
　図１３は、実施の形態２の変形例に係る処理装置の構成の一例を示す図である。図１３に示すように、実施の形態２の変形例に係る処理装置２１０－１は、ユーザＢ及びユーザＣと協調してタスクを行う。
　この際、処理装置２１０－１は、ユーザＢの画像、音声、及び／または、ユーザＢが作成したテキストを受ける受付部２０Ｂと、ユーザＣの画像、音声、及び／または、ユーザＣが作成したテキストを受ける受付部２０Ｃと、推定処理部２３０－１と、出力部４０と、他者モデル３４Ｂ，３４Ｃ及び自己モデル３３Ａの学習処理を制御する学習部２５０Ａとを有する。
　推定処理部２３０－１は、受付部２０Ｃが受け付けたデータを基にユーザＣの外観、仕草、表情、声色、感情及び／または言語情報を認識する認識部３１Ｃをさらに有する。推定部２３２－１は、他者モデル３４Ｃをさらに有する。他者モデル３４Ｃは、認識部３１Ｃの認識結果を基に、ユーザＣの意図及び／アクションを推定し、推定結果を自己モデル３３Ａ及びＤＢ３６に出力する。
　自己モデル３３Ａは、認識部３１Ｂ，３１Ｃによる認識結果と、他者モデル３４Ｂ，３４Ｃの推定結果を基に、自己となるユーザＡの意図及び／またはアクションを推定する。そして、生成部３５は、ユーザＡの意図及び／またはアクションを表現した仕草、表情、音声、及び／または、言語情報を示す、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成し、出力部４０から出力する。
　そして、受付部２０Ｂ，２０Ｃは、出力部４０による出力に対するユーザＢ，Ｃの画像、音声及び／またはテキストの入力を受け付ける。以降、処理装置２１０－１は、同様の処理を繰り返すことで、ユーザＡが実際に行うように、ユーザＢ，Ｃと協調してタスクを実行する。
　学習部２５０Ａは、ユーザＡ，Ｂ，Ｃの個人特性と、ユーザＡ，Ｂ，Ｃにおける他者に対する信頼度を示す信頼指数と、認識部３１Ｂ，３１Ｃによる認識結果と、他者モデル３４Ｂ，３４Ｃによる推定結果と、自己モデル３３Ａによる推定結果とを学習データとして、他者モデル３４Ｂ，３４Ｃ及び自己モデル３３Ａの学習を実行する。
　学習部２５０Ａは、他者モデル３４Ｂに、ユーザＢが、ユーザＡ及びユーザＣと協調してタスクを行う際のユーザＢの意図及び／またはアクションと、認識部３１Ｂ，３１Ｃによる認識結果との関係を学習させる。学習部２５０Ａは、他者モデル３４Ｃに、ユーザＣが、ユーザＡ及びユーザＢと協調してタスクを行う際のユーザＣのオブジェクトの意図及び／またはアクションと、認識部３１Ｂ，３１Ｃによる認識結果との関係を学習させる。また、学習部２５０Ａは、自己モデル３３Ａに、ユーザＡがユーザＢ及びユーザＣと協調してタスクを行う際のユーザＡの意図及び／またはアクションと、認識部３１Ｂ，３１Ｃによる認識結果との関係を学習させる。
　このため、処理装置２１０－１は、ユーザＢ，Ｃとの間で協調してタスクを行っている間も、自己モデル３３Ａ及び他者モデル３４Ｂ，３４Ｃにおいて、それぞれ推定された意図及び／またはアクションを、自己或いは他者の特性を示すものとしてＤＢ３６に蓄積価値観データベースに蓄積している。このため、処理装置２１０は、協調タスクを行う間も自己モデル３３Ａ及び他者モデル３４Ｂ，３４Ｃを成長させていくことができる。また、処理装置２１０－１は、協調するユーザが３名以上となる場合には、他者となるユーザごとに他者モデルを持たせて、協調タスクを行う間も学習用データを蓄積し、各モデルの学習を行えばよい。
［実施の形態３］
　次に、実施の形態３について説明する。実施の形態３では、複数の人の処理装置同士がデジタルツインを出力しながら協調してタスクを行う場合、各処理装置が他者となるデジタルツインの行動を認識してそれぞれの他者モデルを更新しながら、更新された他者モデルに基づき自己の意図及び／またはアクションを決定するループシステムを提案する。
［処理システム］
　図１４は、実施の形態３に係る処理システムの構成の一例を示す図である。実施の形態に係る処理システムでは、例えば、ユーザＡの個性を有する自己モデル３３３Ａを有する処理装置３１０Ａと、ユーザＢの個性を有する自己モデル３３３Ｂを有する処理装置３１０Ｂとを有する。
　処理装置３１０Ａは、受付部３２０Ａが、処理装置３１０Ｂから出力されたユーザＢの意図及び／またはアクションを表現した、ユーザＢのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報の入力を受け付ける。推定処理部３３０Ａは、推定部３３２Ａが、自己（ユーザＡ）の意図及び／またはアクションを推定し、生成部３５Ａ及び出力部４０Ａを介して、ユーザＡの意図及び／またはアクションを表現した、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を処理装置３１０Ｂに出力する。
　処理装置３１０Ｂは、受付部３２０Ｂが、処理装置３１０Ａから出力されたユーザＡの意図及び／またはアクションを表現した、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報の入力を受け付ける。そして、推定処理部３３０Ｂは、推定部３３２Ｂが、自己（ユーザＢ）の意図及び／またはアクションを推定し、生成部３５Ｂ及び出力部４０Ｂを介して、ユーザＢの意図及び／またはアクションを表現した仕草、表情、音声、及び／または、言語情報を示す、ユーザＢのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を処理装置３１０Ａに出力する。
　推定部３３２Ａは、処理装置３１０Ｂが出力したユーザＢのオブジェクトの画像、音声、テキストに対する認識部３３１Ａによる認識結果を基に、ユーザＢの意図及び／またはアクションを推定する他者モデル３３４Ｂを有する。自己モデル３３３Ａは、認識部３３１Ａによる認識結果及び他者モデル３３４Ｂの推定結果を基に、ユーザＡの意図及び／またはアクションを推定する。
　推定部３３２Ｂは、処理装置３１０Ａが出力したユーザＡのオブジェクトの画像、音声、テキストに対する認識部３３１Ｂによる認識結果を基に、ユーザＡの意図及び／またはアクションを推定する他者モデル３３４Ａを有する。自己モデル３３３Ｂは、認識部３３１Ｂによる認識結果及び他者モデル３３４Ａの推定結果を基に、ユーザＢの意図及び／またはアクションを推定する。
　このように、ユーザＡのオブジェクトと、ユーザＢのオブジェクトとが協調してタスクを行う場合、ユーザＡのオブジェクトを生成する処理装置３１０Ａと、ユーザＢのオブジェクトを生成する他方の処理装置３１０Ｂとのそれぞれが、それぞれ他方の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識した認識結果を基に、出力する人物のオブジェクトの意図及び／またはアクションを推定する。
　学習部３５０Ａ，３５０Ｂは、学習時には、他方の処理装置３１０Ａ，３１０ＢのＤＢ３６Ａ，３６Ｂが格納する個人特性情報、信頼指数、蓄積情報群を共有し、共有したデータを用いて、それぞれ学習を行う。
　このようにユーザＡのオブジェクトと、ユーザＢのオブジェクトとが協調してタスクを行う場合、ユーザＡのオブジェクトを生成する処理装置３１０Ａと、ユーザＢのオブジェクトを生成する他方の処理装置３１０Ｂとのそれぞれが、他方の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識した認識結果、及び、他方の自己モデル及び他者モデルの推定結果を共有して、自装置の自己モデル及び他者モデルを更新する。
［処理方法］
　次に、実施の形態３の処理システムが実行する処理方法の処理手順について説明する。図１５は、実施の形態３における処理方法の手順を示すシーケンス図である。
　図１５に示すように、処理装置３１０Ａが、処理装置３１０Ｂから、ユーザＢのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報の入力を受け付ける（ステップＳ３０１，Ｓ３０２）。
　処理装置３１０Ａは、自己（ユーザＡ）の意図及び／またはアクションを推定する推定処理を行い（ステップＳ３０３）、ユーザＡの意図及び／またはアクションを表現した、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を処理装置３１０Ｂに出力する（ステップＳ３０４，Ｓ３０５）。ステップＳ３０３は、図１０のステップＳ２２２と同じ処理である。
　処理装置３１０Ｂの処理は、処理装置３１０Ａから、ユーザＡのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報の入力を受け付ける（ステップＳ３０７，Ｓ３０８）。
　処理装置３１０Ｂは、自己（ユーザＢ）の意図及び／またはアクションを推定する推定処理を行い（ステップＳ３０８）、ユーザＢの意図及び／またはアクションを表現した、ユーザＢのオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を処理装置３１０Ａに出力する（ステップＳ３０９，Ｓ３０１）。ステップＳ３０８は、図１０のステップＳ２２２において、ユーザＡをユーザＢに入れ替え、自己モデル３３Ａを自己モデル３３３Ｂに入れ替え、他者モデル３４Ｂを他者モデル３３４Ａに入れ替えた処理となる。
　処理装置３１０Ａ，３１０Ｂは、協調タスクが終了していない場合（ステップＳ３０６：Ｎｏ，ステップＳ３１０：Ｎｏ）、それぞれステップＳ３０２、ステップＳ３０７に戻り、協調タスクを継続する。
　協調タスクが終了しており（ステップＳ３０６：Ｙｅｓ，ステップＳ３１０：Ｙｅｓ）、宅習タイミングである場合（ステップＳ３１１：Ｙｅｓ，ステップＳ３１２：Ｙｅｓ）、処理装置３１０Ａ，３１０Ｂ間で、個人特性、信頼指数、蓄積情報群の共有を行い（ステップＳ３１３）、それぞれ、自己モデル及び他者モデルに対する学習処理を行う（ステップＳ３１４，Ｓ３１５）。
［実施の形態３の効果］
　実施の形態３では、処理装置３１０Ａ，３１０Ｂ同士が、デジタルツイン等を出力しながら協調してタスクを行う場合、各処理装置３１０Ａ，３１０Ｂが他者となるデジタルツインの行動を認識してそれぞれの自己モデル、他者モデルを更新しながら、更新された他者モデルに基づき自己の意図及び／またはアクションを決定するループシステムを構成する。
　このため、処理装置３１０Ａ，３１０Ｂは、学習時には、他方の処理装置３１０Ａ，３１０Ｂが有する個人特性情報、信頼指数、蓄積情報群を共有し、共有したデータを用いて、それぞれ自己モデル及び他者モデルの学習を行う。この結果、処理装置３１０Ａ，３１０Ｂは、自装置が蓄積した情報のみならず、協調対象の他方の装置が蓄積した情報も取得できるため、モデルの学習に必要なデータが集めやすく、適切なモデルを構築しやすい。
　また、人が持つ相手への価値観、経験だけでは、データが不十分である場合や、主観が入る場合があり、正確な情報になりにくい場合がある。これに対し、実施の形態３では、複数の処理装置３１０Ａ，３１０Ｂ間で価値観、各モデルの推定結果を共有することで、各ユーザが持つ不変の価値観はどこにあるのかをより適切に推定できるといえる。
［実施形態のシステム構成について］
　上記に示した処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂの各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂの機能の分散および統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散または統合して構成することができる。
　また、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂにおいておこなわれる各処理は、全部または任意の一部が、ＣＰＵおよびＣＰＵにより解析実行されるプログラムにて実現されてもよい。また、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂにおいておこなわれる各処理は、ワイヤードロジックによるハードウェアとして実現されてもよい。
　また、実施の形態において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的に行うこともできる。もしくは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上述および図示の処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて適宜変更することができる。
［プログラム］
　図１６は、プログラムが実行されることにより、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂが実現されるコンピュータの一例を示す図である。コンピュータ１０００は、例えば、メモリ１０１０、ＣＰＵ１０２０を有する。また、コンピュータ１０００は、ハードディスクドライブインタフェース１０３０、ディスクドライブインタフェース１０４０、シリアルポートインタフェース１０５０、ビデオアダプタ１０６０、ネットワークインタフェース１０７０を有する。これらの各部は、バス１０８０によって接続される。
　メモリ１０１０は、ＲＯＭ１０１１およびＲＡＭ１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic　Input　Output　System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、例えばディスプレイ１１３０に接続される。
　ハードディスクドライブ１０９０は、例えば、ＯＳ（Operating　System）１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂの各処理を規定するプログラムは、コンピュータ１０００により実行可能なコードが記述されたプログラムモジュール１０９３として実装される。プログラムモジュール１０９３は、例えばハードディスクドライブ１０９０に記憶される。例えば、処理装置１０，２１０，２１０－１，３１０Ａ，３１０Ｂにおける機能構成と同様の処理を実行するためのプログラムモジュール１０９３が、ハードディスクドライブ１０９０に記憶される。なお、ハードディスクドライブ１０９０は、ＳＳＤ（Solid　State　Drive）により代替されてもよい。
　また、上述した実施の形態の処理で用いられる設定データは、プログラムデータ１０９４として、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０が、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出して実行する。
　なお、プログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ１１００等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、プログラムモジュール１０９３およびプログラムデータ１０９４は、ネットワーク（ＬＡＮ（Local　Area　Network）、ＷＡＮ（Wide　Area　Network）等）を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール１０９３およびプログラムデータ１０９４は、他のコンピュータから、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。
　以上、本発明者によってなされた発明を適用した実施の形態について説明したが、本実施の形態による本発明の開示の一部をなす記述および図面により本発明は限定されることはない。すなわち、本実施の形態に基づいて当業者等によりなされる他の実施の形態、実施例および運用技術等はすべて本発明の範疇に含まれる。
　１０，２１０，２１０－１，３１０Ａ，３１０Ｂ　処理装置
　２０，２０Ｂ，２０Ｃ，３２０Ａ，３２０Ｂ　受付部
　３０，２３０，２３０－１，３３０Ａ，３３０Ｂ　推定処理部
　３１，３１Ｂ，３１Ｃ，３３１Ａ，３３１Ｂ　認識部
　３２，２３２，２３２－１，３３２Ａ，３３２Ｂ　推定部
　３３　汎用自己モデル
　３３Ａ，３３３Ａ，３３３Ｂ　自己モデル
　３４Ａ，３４Ｂ，３４Ｃ，３３４Ａ，３３４Ｂ　他者モデル
　３５，３５Ａ，３５Ｂ　生成部
　３６，３６Ａ，３６Ｂ　データベース（ＤＢ）
　４０，４０Ａ，４０Ｂ　出力部
　５０，２５０，２５０Ａ，３５０Ａ，３５０Ｂ　学習部
　３６１　個人特性情報
　３６２　信頼指数
　３６３　蓄積情報群

Claims (8)

  1. 　他の人物または前記他の人物のオブジェクトの画像、音声、及び／または、前記他の人物または前記他の人物のオブジェクトが作成したテキストである入力データに基づいて、前記他の人物または前記他の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識結果として認識する認識部と、
    　第１のモデルを用いて、少なくとも前記認識部による認識結果を基に、自己となる人物の意図及び／またはアクションを推定する推定部と、
    　前記推定部が推定した前記自己となる人物の意図及び／またはアクションを表現した外観、仕草、表情、声色、感情及び／または言語情報を示す、前記自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する生成部と、
    　第１の人物の個人特性と、前記第１の人物における他者に対する信頼度を示す信頼指数と、前記第１の人物の協調対象である第３の人物のオブジェクトの画像、音声、及び／または、前記第３の人物のオブジェクトが作成したテキストである第１のデータに対する前記第１の人物の画像、音声及び／または前記第１の人物が作成したテキストを基に認識された前記第１の人物の外観、仕草、表情、声色、感情及び／または言語情報に関する第１の認識結果と、前記第１の認識結果に基づく前記第１の人物の意図及び／またはアクションの推定結果と、を第１の学習データとして、前記第１のモデルに、前記第１の人物が前記第３の人物のオブジェクトと協調してタスクを行う際の前記第１の人物の意図及び／またはアクションと、前記第１の認識結果との関係である第１の関係を学習させる学習部と、
    　を有することを特徴とする学習装置。
  2. 　前記認識部は、前記第１の人物と協調してタスクを行う第２の人物または前記第２の人物のオブジェクトの画像、音声、及び／または、前記第２の人物または前記第２の人物のオブジェクトが作成したテキストである第２のデータに基づいて、前記第２の人物または前記第２の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を第２の認識結果として認識し、
    　前記推定部は、前記第２の認識結果を基に、前記第２の人物または前記第２の人物のオブジェクトの意図及びアクションを推定する第２のモデルを有し、
    　前記第１のモデルは、自己となる人物を前記第１の人物として、前記第２の認識結果と、前記第２のモデルによる推定結果とを基に、前記第２の人物と協調してタスクを行う際の前記第１の人物の意図及び／またはアクションを推定し、
    　前記学習部は、前記第１の人物の個人特性と、前記第１の人物における他者に対する信頼度を示す信頼指数と、前記第２の人物の個人特性と、前記第２の人物における他者に対する信頼度を示す信頼指数と、前記第２の認識結果と、前記第２のモデルによる推定結果と、前記第１のモデルによる推定結果と、を第２の学習データとして、前記第２のモデルに、前記第２の人物または前記第２の人物のオブジェクトが前記第１の人物と協調してタスクする際の前記第２の人物または前記第２の人物のオブジェクトの意図及び／またはアクションと、前記第２の認識結果との関係である第２の関係を学習させるとともに、前記第２の学習データを用いて前記第１のモデルに、前記第１の人物が前記第２の人物または前記第２の人物のオブジェクトと協調してタスクを行う際の前記第１の人物の意図及び／またはアクションと、前記第２の認識結果との関係である第３の関係を学習させることを特徴とする請求項１に記載の学習装置。
  3. 　前記第１の人物のオブジェクトと、前記第２の人物のオブジェクトとが協調してタスクを行う場合、前記第１の人物のオブジェクトを生成する当該学習装置と、前記第２の人物のオブジェクトを生成する学習装置とのそれぞれが、他方の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識した認識結果、及び、他方の前記第１のモデル及び前記第２のモデルの推定結果を共有して、前記第１のモデル及び前記第２のモデルを更新することを特徴とする請求項２に記載の学習装置。
  4. 　実在する第１の人物の人物と協調してタスクを行う第２の人物または前記第２の人物のオブジェクトの画像、音声、及び／または、前記第２の人物または前記第２の人物のオブジェクトが作成したテキストである第２のデータに基づいて、前記第２の人物または前記第２の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を第２の認識結果として認識する認識部と、
    　前記第１の人物が前記第２の人物または前記第２の人物のオブジェクトと協調してタスクを行う際の前記第１の人物の意図及び／またはアクションと、前記第２の認識結果との関係である第３の関係を学習した第１のモデルと、前記第２の認識結果を基に前記第２の人物または前記第２の人物のオブジェクトの意図及びアクションを推定する第２のモデルと、を用いて、前記第２の人物と協調してタスクを行う際の前記第１の人物の意図及び／またはアクションを推定する推定部と、
    　前記推定部が推定した前記第１の人物の意図及び／またはアクションを表現した外観、仕草、表情、声色、感情及び／または言語情報を示す、前記第１の人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する生成部と、
    　を有することを特徴とする推定装置。
  5. 　前記第１の人物のオブジェクトと、前記第２の人物のオブジェクトとが協調してタスクを行う場合、前記第１の人物のオブジェクトを生成する当該推定装置と、前記第２の人物のオブジェクトを生成する推定装置とのそれぞれが、それぞれ他方の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識した認識結果を基に、出力する人物のオブジェクトの意図及び／またはアクションを推定することを特徴とする請求項４に記載の推定装置。
  6. 　学習装置が実行する学習方法であって、
    　他の人物または前記他の人物のオブジェクトの画像、音声、及び／または、前記他の人物または前記他の人物のオブジェクトが作成したテキストである入力データに基づいて、前記他の人物または前記他の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を認識結果として認識する工程と、
    　第１のモデルを用いて、少なくとも前記認識する工程における認識結果を基に、自己となる人物の意図及び／またはアクションを推定する工程と、
    　前記推定する工程において推定された前記自己となる人物の意図及び／またはアクションを表現した外観、仕草、表情、声色、感情及び／または言語情報を示す、前記自己となる人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する工程と、
    　第１の人物の個人特性と、前記第１の人物における他者に対する信頼度を示す信頼指数と、前記第１の人物の協調対象である第３の人物のオブジェクトの画像、音声、及び／または、前記第３の人物のオブジェクトが作成したテキストである第１のデータに対する前記第１の人物の画像、音声及び／または前記第１の人物が作成したテキストを基に認識された前記第１の人物の外観、仕草、表情、声色、感情及び／または言語情報に関する第１の認識結果と、前記第１の認識結果に基づく前記第１の人物の意図及び／またはアクションの推定結果と、を第１の学習データとして、前記第１のモデルに、前記第１の人物が前記第３の人物のオブジェクトと協調してタスクする際の前記第１の人物の意図及び／またはアクションと、前記第１の認識結果との関係である第１の関係を学習させる工程と、
    　を含んだことを特徴とする学習方法。
  7. 　推定装置が実行する推定方法であって、
    　実在する第１の人物の人物と協調してタスクを行う第２の人物または前記第２の人物のオブジェクトの画像、音声、及び／または、前記第２の人物または前記第２の人物のオブジェクトが作成したテキストである第２のデータに基づいて、前記第２の人物または前記第２の人物のオブジェクトの外観、仕草、表情、声色、感情及び／または言語情報を第２の認識結果として認識する工程と、
    　前記第１の人物が前記第２の人物または前記第２の人物のオブジェクトと協調してタスクを行う際の前記第１の人物の意図及び／またはアクションと、前記第２の認識結果との関係である第３の関係を学習した第１のモデルと、前記第２の認識結果を基に前記第２の人物または前記第２の人物のオブジェクトの意図及びアクションを推定する第２のモデルと、を用いて、前記第２の人物と協調してタスクを行う際の前記第１の人物の意図及び／またはアクションを推定する工程と、
    　前記推定する工程において推定された前記第１の人物の意図及び／またはアクションを表現した外観、仕草、表情、声色、感情及び／または言語情報を示す、前記第１の人物のオブジェクトの画像、音声、テキスト、及び／または、所定の装置に対する操作情報を生成する工程と、
    　を含んだことを特徴とする推定方法。
  8. 　コンピュータを、請求項１～３のいずれか一つに記載の学習装置、または、請求項４または５に記載の推定装置として機能させるためのプログラム。
PCT/JP2022/036822 2022-09-30 2022-09-30 学習装置、推定装置、学習方法、推定方法及びプログラム WO2024069975A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/036822 WO2024069975A1 (ja) 2022-09-30 2022-09-30 学習装置、推定装置、学習方法、推定方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/036822 WO2024069975A1 (ja) 2022-09-30 2022-09-30 学習装置、推定装置、学習方法、推定方法及びプログラム

Publications (1)

Publication Number Publication Date
WO2024069975A1 true WO2024069975A1 (ja) 2024-04-04

Family

ID=90476709

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/036822 WO2024069975A1 (ja) 2022-09-30 2022-09-30 学習装置、推定装置、学習方法、推定方法及びプログラム

Country Status (1)

Country Link
WO (1) WO2024069975A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004227208A (ja) * 2003-01-22 2004-08-12 Matsushita Electric Ind Co Ltd ユーザ適応型行動決定装置および行動決定方法
JP2021039677A (ja) * 2019-09-05 2021-03-11 株式会社日本総合研究所 情報処理方法、プログラム及び情報処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004227208A (ja) * 2003-01-22 2004-08-12 Matsushita Electric Ind Co Ltd ユーザ適応型行動決定装置および行動決定方法
JP2021039677A (ja) * 2019-09-05 2021-03-11 株式会社日本総合研究所 情報処理方法、プログラム及び情報処理装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
AYAMI YOKOYAMA: "Model Based Analysis of Action Decision Process in Collaborative Task Based on Intention Estimation", IEICE TRANSACTION, vol. J92–A, no. 11, 1 January 2009 (2009-01-01), pages 734 - 742, XP093152257 *

Similar Documents

Publication Publication Date Title
Fidan et al. Managing schools as complex adaptive systems: A strategic perspective
McCalla et al. Active learner modelling
Blackwell et al. Live Algorithms: towards autonomous computer improvisers
Ravenet et al. Conversational behavior reflecting interpersonal attitudes in small group interactions
Wilks et al. A prototype for a conversational companion for reminiscing about images
Murray et al. Learning backchanneling behaviors for a social robot via data augmentation from human-human conversations
Mihoub et al. Learning multimodal behavioral models for face-to-face social interaction
Fujita et al. Intelligent human interface based on mental cloning-based software
WO2024069975A1 (ja) 学習装置、推定装置、学習方法、推定方法及びプログラム
Whalley Software Agents in Music and Sound Art Research/Creative Work: current state and a possible direction
Buschmeier et al. When to elicit feedback in dialogue: Towards a model based on the information needs of speakers
Taniguchi Collective predictive coding hypothesis: Symbol emergence as decentralized bayesian inference
US20220414472A1 (en) Computer-Implemented Method, System, and Non-Transitory Computer-Readable Storage Medium for Inferring Audience's Evaluation of Performance Data
Moore Spoken language processing: time to look outside?
CN111027215A (zh) 针对虚拟人的性格训练系统及其方法
Gómez Esteban et al. Competition and cooperation in a community of autonomous agents
Maroto-Gómez et al. Deep reinforcement learning for the autonomous adaptive behavior of social robots
Dubova et al. Reinforcement communication learning in different social network structures
JP7418106B2 (ja) 情報処理装置、情報処理方法およびプログラム
Nölle How language adapts to the environment: An evolutionary, experimental approach
Szucs Lip Synchronization for ECA Rendering with Self-Adjusted POMDP Policies
Zhang et al. Communication atmosphere in humans and robots interaction based on fuzzy analytical hierarchy process
Grifoni et al. When language evolution meets multimodality: Current status and challenges toward multimodal computational models
WO2023286118A1 (ja) 対話装置、対話方法およびプログラム
Andreev et al. Towards an architectural framework for intelligent virtual agents using probabilistic programming

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22961034

Country of ref document: EP

Kind code of ref document: A1