WO2020137696A1 - 発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム - Google Patents

発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム Download PDF

Info

Publication number
WO2020137696A1
WO2020137696A1 PCT/JP2019/049395 JP2019049395W WO2020137696A1 WO 2020137696 A1 WO2020137696 A1 WO 2020137696A1 JP 2019049395 W JP2019049395 W JP 2019049395W WO 2020137696 A1 WO2020137696 A1 WO 2020137696A1
Authority
WO
WIPO (PCT)
Prior art keywords
utterance sentence
discussion
utterance
support
sentence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2019/049395
Other languages
English (en)
French (fr)
Inventor
航 光田
準二 富田
東中 竜一郎
太一 片山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to US17/418,188 priority Critical patent/US20220084506A1/en
Publication of WO2020137696A1 publication Critical patent/WO2020137696A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/55Rule-based translation
    • G06F40/56Natural language generation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • G06F40/216Parsing using statistical methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • G06F40/35Discourse or dialogue representation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/42Data-driven translation
    • G06F40/44Statistical methods, e.g. probability models

Definitions

  • the present invention relates to an utterance sentence generation model learning device, an utterance sentence collection device, an utterance sentence generation model learning method, an utterance sentence collection method, and a program, and in particular, utterance sentence generation model learning for generating utterance sentences in a dialogue system.
  • the present invention relates to a device, an utterance sentence collection device, an utterance sentence generation model learning method, an utterance sentence collection method, and a program.
  • Non-Patent Document 1 The type of such a dialogue system is detailed in Non-Patent Document 1.
  • Non-Patent Document 2 a discussion is made by mapping user utterances to nodes using graph data having opinions as nodes, and returning nodes having a connection relationship with the mapped nodes to the user as system utterances. To do.
  • Graph data is created manually based on a preset theme of discussion (for example, "If you live permanently, the city is better than the countryside"). By using the manually created discussion data, it is possible to discuss a specific topic.
  • Non-Patent Document 2 enables deep discussion on a specific topic (closed domain), it is not suitable for user utterances that deviate from a preset specific discussion theme. There was a problem that I could not respond properly.
  • the present invention has been made in view of the above points, and a utterance sentence generation model learning device and a utterance sentence generation device capable of learning a utterance sentence generation model for generating an utterance sentence capable of discussion corresponding to a wide range of topics.
  • An object is to provide a generative model learning method and a program.
  • the present invention is a utterance sentence collection device, a utterance sentence collection method, which can efficiently collect discussion data for learning a utterance sentence generation model for generating a utterance sentence capable of discussing a wide range of topics. And to provide a program.
  • the utterance sentence generation model learning device includes a discussion utterance sentence indicating a theme of the discussion, a support utterance sentence indicating support for the discussion utterance sentence, and an unsupported utterance sentence indicating non-support for the discussion utterance sentence.
  • the discussion data is a pair, and the discussion data storage unit stores a plurality of discussion data in which the discussion utterance sentence, the supporting utterance sentence, and the unsupported utterance sentence have the same format, and the discussion data.
  • a support utterance sentence generation model that generates a support utterance sentence for the utterance sentence is input based on the discussion utterance sentence and the support utterance sentence included, and the discussion included in the plurality of discussion data items.
  • a learning unit that learns an unsupported utterance sentence generation model that generates an unsupported utterance sentence for the utterance sentence based on the utterance sentence and the unsupported utterance sentence.
  • a discussion utterance sentence indicating a theme of the discussion a support utterance sentence indicating support for the discussion utterance sentence, and a non-support for the discussion utterance sentence in the discussion data storage unit.
  • a plurality of discussion data that is a pair with the unsupported utterance sentence indicating that the learning unit inputs the utterance sentence based on the discussion utterance sentence and the support utterance sentence included in the plurality of discussion data.
  • a support utterance sentence generation model that generates a support utterance sentence for a sentence is learned, and a utterance sentence is input as a basis for inputting a utterance sentence based on the discussion utterance sentence and the unsupported utterance sentence included in the plurality of discussion data.
  • a discussion utterance sentence indicating a theme of the discussion and a support utterance sentence indicating support for the discussion utterance sentence
  • a plurality of pieces of discussion data which is a pair with a disapproval utterance that indicates disapproval of the discussion utterance, are stored, and the learning unit creates utterances based on the discussion utterances and the support utterances included in the plurality of discussion data.
  • a support utterance generation model that generates a support utterance sentence for an utterance sentence as an input is learned, and a support utterance sentence is not supported based on a discussion utterance sentence and an unsupported utterance sentence included in multiple discussion data.
  • a plurality of pieces of discussion data that is a pair of a discussion utterance sentence indicating a discussion theme, a support utterance sentence indicating support for the discussion utterance sentence, and a non-support utterance sentence indicating non-support for the discussion utterance sentence are stored.
  • the support utterance sentence generation model which generates the support utterance sentence for the utterance sentence is learned based on the utterance sentence and is included in the plurality of discussion data.
  • the format of the discussion utterance sentence, the supporting utterance sentence, and the non-supporting utterance sentence of the utterance sentence generation model learning device according to the present invention is a form in which noun equivalent phrases, particle equivalent phrases, and predicate equivalent phrases are connected.
  • the utterance utterance collection device includes a discussion utterance input screen presenting unit that presents a screen for allowing a worker to input a discussion utterance indicating a theme of discussion, and a discussion utterance that receives the input discussion utterance.
  • a support utterance sentence that presents a screen for causing the worker to input an input unit, a support utterance sentence indicating support for the input discussion utterance sentence, and a non-support utterance sentence indicating disapproval for the discussion utterance sentence.
  • An unsupported utterance sentence input screen presentation unit a supported utterance sentence/unsupported utterance sentence input unit that receives the input supported utterance sentence and unsupported utterance sentence, the input discussion utterance sentence, and the discussion utterance sentence A support utterance sentence, and a discussion data storage unit that stores discussion data that is a pair of a non-support utterance sentence for the discussion utterance sentence, the discussion utterance sentence, the support utterance sentence, and the unsupported utterance sentence
  • the formats can be the same.
  • the discussion utterance input screen presenting unit presents a screen for allowing the worker to enter the discussion utterance sentence indicating the theme of the discussion, and the discussion utterance sentence input unit receives the input.
  • the supporting utterance sentence/non-supporting utterance sentence input screen presenting unit receives the discussion utterance sentence, the supporting utterance sentence indicating support for the input discussion utterance sentence, and the unsupporting utterance indicating non-support for the discussion utterance sentence.
  • a screen for prompting the worker to input a sentence and a supporting utterance sentence/non-supporting utterance sentence input unit receives the input supporting utterance sentence and unsupported utterance sentence, and a discussion data storage unit is input.
  • the discussion data which is a pair of the discussion utterance sentence, the support utterance sentence for the discussion utterance sentence, and the non-support utterance sentence for the discussion utterance sentence, is stored, and the discussion utterance sentence, the support utterance sentence, and the The format of the supporting utterance is the same.
  • the discussion utterance input screen presenting unit presents a screen for allowing the worker to input the discussion utterance sentence indicating the theme of the discussion, and inputs the discussion utterance sentence.
  • the section accepts the input discussion utterance
  • the support/non-support utterance input screen presenting section presents a support utterance indicating support for the input discussion utterance and non-support for the discussion utterance.
  • a screen for prompting the worker to input the unsupported utterance sentence is presented, and the supporting utterance sentence/unsupported utterance sentence input unit receives the input supporting utterance sentence and unsupported utterance sentence.
  • the discussion data storage unit stores the discussion data that is a pair of the input discussion utterance sentence, the support utterance sentence for the discussion utterance sentence, and the non-support utterance sentence for the discussion utterance sentence, and the discussion utterance sentence.
  • the supporting utterance sentence and the non-supporting utterance sentence have the same format.
  • the screen for prompting the worker to input the discussion utterance indicating the theme of the discussion is presented, the input discussion utterance is accepted, and the support utterance indicating the support for the input discussion utterance and the discussion.
  • Presents a screen for prompting the worker to input an unsupported utterance indicating disapproval of the utterance accepts the input supported utterance and unsupported utterance, and inputs the input discussion utterance and the discussion utterance.
  • Storing discussion data which is a pair of a support utterance sentence for a sentence and a non-support utterance sentence for the discussion utterance sentence, and that the discussion utterance sentence, the support utterance sentence, and the non-support utterance sentence have the same format.
  • the program according to the present invention is a program for functioning as each unit of the above-mentioned utterance sentence generation model learning device or utterance sentence collecting device.
  • the utterance sentence generation model learning device According to the utterance sentence generation model learning device, the utterance sentence generation model learning method, and the program of the present invention, it is possible to learn the utterance sentence generation model for generating the utterance sentence capable of discussion corresponding to a wide range of topics.
  • the discussion data for learning the utterance sentence generation model for generating the utterance sentence capable of discussion corresponding to a wide range of topics can be efficiently used. Can be collected.
  • the utterance sentence generation apparatus receives, as an input, an arbitrary user utterance sentence as a text, a support utterance sentence indicating the support of the user utterance sentence, and an unsupported utterance indicating the non-support of the user utterance sentence.
  • the sentence is output as text as a system utterance sentence.
  • the output can output the top M cases (M is an arbitrary number) with confidence for each of the supported and unsupported utterances.
  • the utterance sentence generation device learns an utterance sentence generation model using the discussion data collected by crowdsourcing, and generates an utterance sentence based on the learned utterance sentence generation model.
  • FIG. 1 is a block diagram showing a configuration of an utterance sentence generation device 10 according to an exemplary embodiment of the present invention.
  • the utterance sentence generation device 10 is configured by a computer including a CPU, a RAM, and a ROM that stores a program for executing a utterance sentence generation processing routine described later, and is functionally configured as shown below. ing.
  • the utterance sentence generation device 10 includes a discussion data storage unit 100, a morpheme analysis unit 110, a division unit 120, a learning unit 130, and a utterance sentence generation model storage unit 140.
  • the input unit 150, the morphological analysis unit 160, the utterance sentence generation unit 170, the shaping unit 180, and the output unit 190 are configured.
  • the discussion data storage unit 100 includes discussion data which is a pair of a discussion utterance sentence indicating a theme of the discussion, a support utterance sentence indicating support for the discussion utterance sentence, and a non-support utterance sentence indicating non-support for the discussion utterance sentence. Therefore, a plurality of discussion data in which the formats of the discussion utterance sentence, the support utterance sentence, and the non-support utterance sentence are the same are stored.
  • the forms of the discussion utterance sentence, the support utterance sentence, and the non-support utterance sentence were limited to the form in which the "noun equivalent phrase”, the "particle equivalent phrase”, and the "predicate equivalent phrase” were collected. Things are stored in the discussion data storage unit 100. This is because the utterance sentences that need to be dealt with in the discussion are diverse.
  • Noun-equivalent phrases and predicate-equivalent phrases may have a nested structure (for example, "sweat” and "good for stress relief"), so a wide range of utterance sentences can be expressed.
  • Figure 2 shows an example of the utterances to be collected.
  • “+” is described between the noun, particle, and predicate for the purpose of explanation, but it is not necessary when collecting the data of the utterance sentence.
  • Nouns and predicates may include particles inside or may be composed of multiple words.
  • the discussion data is collected by the crowdsourcing 20 (FIG. 1), and a plurality of discussion data is stored in the discussion data storage unit 100.
  • FIG. 3 is a schematic diagram showing the configuration of the utterance sentence collection device 30 installed on the cloud.
  • the utterance sentence collection device 30 accepts input of discussion data according to the above format from a worker (worker who inputs discussion data) on the cloud, and stores the discussion data in the discussion data storage unit 100. Note that description regarding communication is omitted.
  • the utterance sentence collection device 30 is configured by a computer including a CPU, a RAM, and a ROM that stores a program for executing a utterance sentence collection processing routine described below, and is functionally configured as shown below. ing.
  • the utterance sentence collection device 30 includes a discussion data storage unit 100, a discussion utterance input screen presenting unit 300, a discussion utterance sentence input unit 310, and a support utterance sentence/non-support.
  • An utterance sentence input screen presenting unit 320 and a supporting utterance sentence/non-supporting utterance sentence input unit 330 are provided.
  • the discussion utterance sentence input screen presenting unit 300 presents a screen for allowing the worker to input the discussion utterance sentence.
  • FIG. 4 is an image diagram showing utterance sentences created by each crowdsourcing worker and the procedure thereof.
  • the discussion utterance sentence input screen presentation unit 300 presents a screen for allowing the worker to input the three discussion utterance sentences.
  • each worker first creates three discussion utterances, which are the theme of the discussion.
  • the discussion utterance sentence is created according to the format of the utterance sentence described above.
  • the worker inputs the created discussion utterance through the screen for prompting the worker to enter the discussion utterance.
  • the discussion utterance sentence input unit 310 receives inputs of a plurality of discussion utterance sentences.
  • the discussion utterance sentence input unit 310 stores the received plurality of discussion utterance sentences in the discussion data storage unit 100.
  • the supporting utterance sentence/non-supporting utterance sentence input screen presenting unit 320 causes the worker to input a supporting utterance sentence indicating support for the input discussion utterance sentence and an unsupporting utterance sentence indicating non-support for the discussion utterance sentence. Present the screen.
  • the support utterance sentence/non-support utterance sentence input screen presenting unit 320 presents a screen for allowing the worker to input the support utterance sentence and the non-support utterance sentence for each of the three discussion utterance sentences.
  • the worker for each of the created discussion utterances, shows a supporting utterance that indicates the reason for the discussion utterance in the same format as the discussion utterance and an unsupported utterance that indicates the opposite reason for the discussion utterance. Create sentences one by one.
  • the worker sends a support utterance that indicates support for the input discussion utterance and an unsupported utterance that indicates disapproval for the discussion utterance to the worker through a screen for creating the support.
  • Input utterances and unsupported utterances are examples of unsupported utterances.
  • the support utterance sentence/non-support utterance sentence input unit 330 receives inputs of a support utterance sentence and a non-support utterance sentence.
  • the supporting utterance sentence/non-supporting utterance sentence input unit 330 stores the received supporting utterance sentence and unsupported utterance sentence in the discussion data storage unit 100 as discussion data in association with the discussion utterance sentence for these.
  • utterance sentence collecting device 30 a plurality of workers perform this work, thereby providing a highly comprehensive discussion utterance that does not depend on a specific worker, and a support utterance sentence/non-support utterance sentence for it. It can be collected efficiently.
  • the number of data it is desirable to collect tens of thousands of discussion utterances, so it is desirable that more than 10,000 people work.
  • the discussion data collected by the work of 15,000 workers is stored in the discussion data storage unit 100.
  • the morphological analysis unit 110 performs morphological analysis on each utterance sentence included in the discussion data.
  • the morpheme analysis unit 110 first acquires a plurality of collected pairs of the discussion utterance sentence and the support utterance sentence from the discussion data storage unit 100, and extracts the discussion utterance sentence as shown in FIGS. 5 and 6.
  • a discussion utterance text file listed as one line and one utterance sentence, and a support utterance text file listing instruction utterance sentences as one line and one utterance sentence are generated.
  • the pairs of the discussion utterance sentence and the instruction utterance sentence are listed in the same line, and the first line is the first pair, the second line is the second pair, and so on.
  • the morphological analysis unit 110 performs morphological analysis on each utterance sentence in the file listing the discussion utterance sentence and the support utterance sentence, and converts the utterance sentence into space-separated file files as shown in FIGS. 7 and 8.
  • JTAG Joint Photographic Experts Group
  • the morphological analysis unit 110 acquires a plurality of pairs of discussion utterance sentences and unsupported utterance sentences collected from the discussion data storage unit 100, lists the discussion utterance text file, and the unsupported utterance texts as one line per utterance sentence. Generate a file, perform morphological analysis, and convert it into a space-separated segmentation file.
  • the morphological analysis unit 110 passes the plurality of segmentation files to the division unit 120.
  • the dividing unit 120 divides the plurality of segmentation files into training data and tuning data used for learning the utterance sentence generation model.
  • the dividing unit 120 divides a plurality of segmented files into training data and tuning data at a predetermined ratio.
  • the dividing unit 120 divides, for example, by adding a "train” to the file name for the segmentation file that has become the training data, and adding "dev" to the file name for the segmentation file that has become the tuning data. Explicitly.
  • the split ratio can be set to any value, but here it is set to 9:1.
  • the dividing unit 120 passes the training data and the tuning data to the learning unit 130.
  • the learning unit 130 learns a supporting utterance sentence generation model that generates a supporting utterance sentence for the utterance sentence based on the discussion utterance sentence and the supporting utterance sentence included in the plurality of discussion data, and at the same time, learns a plurality of supporting utterance sentence generation models. Based on the discussion utterance sentence and the unsupported utterance sentence included in the discussion data, the unsupported utterance sentence generation model that generates the unsupported utterance sentence for the utterance sentence is learned.
  • the learning unit 130 can use an arbitrary algorithm used in machine translation or the like for learning a model for converting text into text for learning the support utterance sentence generation model.
  • the seq2seq algorithm proposed in Reference 2 can be used.
  • seq2seq in Reference 2 is an algorithm for learning a model that outputs a desired sequence using the vector after vectorizing the sequence of input symbols and integrating them into one vector.
  • OpenNMT-py reference document 3 which is open source software.
  • Reference 3 Nicolas Klein et al., OpenNMT: Open-Source Toolkit for Neural MachineTranslation, Proc. ACL, 2017.
  • Figure 9 shows an example of the command.
  • a text file whose file name starts with "train” represents training data
  • a text file whose file name begins with “dev” represents tuning data
  • the text file including "src" in the file name represents the discussion utterance sentence data
  • the data including "tgt” represents the support utterance sentence data.
  • Tmp corresponds to the temporary file
  • model corresponds to the utterance sentence generation model to be created.
  • Fig. 10 shows an example of the model created.
  • E”, “acc”, and “ppl” are the number of epochs (the number of learning loops), the correct answer rate in the training data of the learned model, and the perplexity (which depends on the model from which the training data was learned). Corresponding to the index indicating whether the degree is easily generated.
  • the learning unit 130 adopts the 13th epoch model with the highest correct answer rate as the supporting utterance sentence generation model.
  • the learning unit 130 learns the unsupported utterance sentence generation model, similarly to the supported utterance sentence generation model.
  • the learning unit 130 stores the supported utterance sentence generation model and the unsupported utterance sentence generation model having the highest correct answer rate in the utterance sentence generation model storage unit 140.
  • the utterance sentence generation model storage unit 140 stores a learned supportive utterance sentence generation model and an unsupported utterance sentence generation model.
  • the input unit 150 receives an input of a user utterance sentence.
  • the input unit 150 receives a user utterance in a text format as an input.
  • FIG. 11 shows an example of the user utterance sentence input. Each line corresponds to the input user utterance sentence.
  • the input unit 150 passes the received user utterance sentence to the morpheme analysis unit 160.
  • the morphological analysis unit 160 performs morphological analysis on the user utterance sentence received by the input unit 150.
  • the morpheme analysis unit 160 performs morpheme analysis on the user utterance sentence and converts it into space-separated segmented sentences as shown in FIG.
  • the same morphological analyzer as the morphological analysis unit 110 (for example, JTAG (reference 1)) is used to convert the user utterance sentence into the segmented sentences.
  • FIG. 12 shows an example of a word division file in which a plurality of user utterance sentences are converted into word division sentences.
  • the segmentation sentence shown in each line of the segmentation file corresponds to each user utterance sentence.
  • the morphological analysis unit 160 passes the segmented sentence to the utterance sentence generation unit 170.
  • the utterance sentence generation unit 170 generates a support utterance sentence and an unsupported utterance sentence by using a support utterance sentence generation model and an unsupported utterance sentence generation model with a divided sentence as an input.
  • the utterance sentence generation unit 170 first acquires the learned supportive utterance sentence generation model and the learned supportive utterance sentence generation model from the utterance sentence generation model storage unit 140.
  • the utterance sentence generation unit 170 inputs the divided sentences to the support utterance sentence generation model and the non-support utterance sentence generation model, and generates the support utterance sentence and the non-support utterance sentence.
  • Fig. 13 shows an example command for utterance sentence generation.
  • “Test.src.txt” is a file (FIG. 12) in which the user utterance sentence converted into the separated writing sentence is described.
  • the first command in the upper part of FIG. 13 is a command for generating a supporting utterance sentence
  • the second command in the lower part of FIG. 13 is a command for generating an unsupported utterance sentence. Note that the meaning of the options of these commands is described in Reference Document 3.
  • the utterance sentence generation unit 170 generates a plurality of supporting utterance sentences and non-supporting utterance sentences by executing such a first command and a second command.
  • FIG. 14 shows an example of the result of generating a support utterance sentence
  • FIG. 15 shows an example of the result of generating an unsupported utterance sentence. It can be confirmed that an appropriate support utterance sentence and an unsupported utterance sentence are generated for the input user utterance sentence.
  • the utterance sentence generation unit 170 passes the generated plurality of supporting utterance sentences and unsupported utterance sentences to the shaping unit 180.
  • the shaping unit 180 shapes the supported utterance sentence and the unsupported utterance sentence generated by the utterance sentence generation unit 170 into a predetermined format.
  • the shaping unit 180 shapes the generated plurality of supporting utterance sentences and non-supporting utterance sentences into arbitrary formats.
  • JSON format can be adopted.
  • JSON format is used.
  • FIG. 16 shows a supporting utterance sentence and an unsupporting utterance sentence generated by the utterance sentence generation unit 170 and shaped by the shaping unit 180 when the input user utterance sentence is “I want to keep a pet.”
  • the input user utterance sentence is “I want to keep a pet.”
  • FIG. 16 shows a supporting utterance sentence and an unsupporting utterance sentence generated by the utterance sentence generation unit 170 and shaped by the shaping unit 180 when the input user utterance sentence is “I want to keep a pet.”
  • the input user utterance sentence is “I want to keep a pet.”
  • “support”, “score support”, “nonsupport”, and “score nonsupport” are scores of support utterances, support utterances (logarithm of generation probability), unsupported utterances, and unsupported utterances, respectively ( It is the logarithm of the generation probability).
  • the shaping unit 180 passes the shaped supportive utterance sentence and the unsupported utterance sentence to the output unit 190.
  • the output unit 190 outputs a plurality of support utterance sentences and unsupported utterance sentences shaped by the shaping unit 180.
  • the dialogue system (not shown) outputs, for example, a support utterance "The dog is cute” to the user's "I want to keep a pet” utterance. , It is possible to output an unsupported utterance sentence saying "care is difficult.”
  • FIG. 17 is a flowchart showing the utterance sentence collection processing routine according to the embodiment of the present invention.
  • a utterance sentence collection processing routine is executed.
  • step S100 the discussion utterance sentence input screen presenting unit 300 presents a screen for allowing the worker to input the discussion utterance sentence.
  • step S110 the discussion utterance sentence input unit 310 receives input of a plurality of discussion utterance sentences.
  • step S120 the utterance sentence collection apparatus 30 sets w to 1.
  • w is a counter.
  • step S130 the supporting utterance sentence/non-supporting utterance sentence input screen presenting unit 320 shows a supporting utterance sentence indicating support for the input w-th discussion utterance sentence and a non-supporting utterance sentence indicating non-support for the w-th discussion utterance sentence. Present a screen to allow the worker to enter the utterance sentence.
  • step S140 the supporting utterance sentence/non-supporting utterance sentence input unit 330 receives the input of the supporting utterance sentence and the unsupported utterance sentence.
  • step S150 the utterance sentence collecting apparatus 30 determines whether or not w ⁇ N (N is the number of input discussion utterance sentences, for example, 3).
  • step S150 If w ⁇ N is not satisfied (NO in step S150 above), the utterance sentence collecting apparatus 30 adds 1 to w in step S160, and returns to step S130.
  • step S170 the supporting utterance/non-supporting utterance sentence input unit 330 receives the N supporting utterance sentences and unsupported utterance sentences received in step S140. Is stored in the discussion data storage unit 100 as discussion data in association with the discussion utterance sentence for them.
  • FIG. 18 is a flowchart showing the utterance sentence generation model learning processing routine according to the embodiment of the present invention.
  • the utterance sentence generation device 10 executes the utterance sentence generation process routine shown in FIG.
  • step S200 the utterance sentence generation device 10 sets 1 to t.
  • t is a counter.
  • step S210 the morphological analysis unit 110 first obtains a plurality of collected pairs of the discussion utterance sentence and the support utterance sentence from the discussion data storage unit 100.
  • step S220 the morphological analysis unit 110 performs morphological analysis on each utterance sentence of the file listing the discussion utterance sentence and the support utterance sentence.
  • step S230 the morpheme analysis unit 110 converts each utterance sentence of the file listing the discussion utterance sentence/supporting utterance sentence subjected to the morpheme analysis in step S230 into a space-separated file.
  • step S240 the dividing unit 120 divides the plurality of segmentation files into training data and tuning data used for learning the utterance sentence generation model.
  • step S250 the learning unit 130 learns a support utterance sentence generation model for generating a support utterance sentence for the utterance sentence based on the discussion utterance sentence and the support utterance sentence included in the plurality of discussion data. ..
  • step S260 the utterance sentence generation device 10 determines whether or not t ⁇ predetermined number.
  • the predetermined number is the number of times learning is repeated.
  • step S260 If t ⁇ not a predetermined number (NO in step S260 above), the utterance sentence generation apparatus 10 adds 1 to t in step S270, and returns to step S210.
  • the learning unit 130 stores the supporting utterance sentence generation model having the highest correct answer rate in the utterance sentence generation model storage unit 140 in step S280.
  • the learning unit 130 receives the utterance sentence as an input based on the discussion utterance sentence and the unsupported utterance sentence included in the plurality of discussion data.
  • An unsupported utterance sentence generation model that generates an unsupported utterance sentence for the utterance sentence is learned, and the unsupported utterance sentence generation model having the highest correct answer rate is stored in the utterance sentence generation model storage unit 140.
  • FIG. 19 is a flowchart showing the utterance sentence generation processing routine according to the embodiment of the present invention.
  • the utterance sentence generation device 10 executes the utterance sentence generation processing routine shown in FIG.
  • step S300 the input unit 150 receives an input of a user utterance sentence.
  • step S310 the morpheme analysis unit 160 performs morpheme analysis on the user utterance sentence received in step S300.
  • step S320 the morpheme analysis unit 160 converts the user utterance sentence subjected to the morpheme analysis in step S310 into space-separated segmented sentences.
  • step S330 the learned utterance sentence generation model and the learned supported utterance sentence generation model are acquired from the utterance sentence generation model storage unit 140.
  • step S340 the utterance sentence generation unit 170 inputs the divided sentences to the support utterance sentence generation model and the non-support utterance sentence generation model, and generates the support utterance sentence and the non-support utterance sentence.
  • step S350 the support utterance sentence and the non-support utterance sentence generated in step S340 are shaped into a predetermined format.
  • step S360 the output unit 190 outputs the plurality of support utterance sentences and unsupported utterance sentences shaped in step S350.
  • the discussion utterance sentence generation device As described above, according to the utterance sentence generation device according to the embodiment of the present invention, the discussion utterance sentence indicating the theme of the discussion, the support utterance sentence indicating support for the discussion utterance sentence, and the non-discussion for the discussion utterance sentence A plurality of discussion data, which is a pair with a non-support utterance indicating support, is stored, and a support utterance for an utterance sentence is generated based on the utterance sentence and the support utterance sentence included in the plurality of discussion data.
  • a supporting utterance sentence generation model that learns a supporting utterance sentence generation model and generates an unsupported utterance sentence for an utterance sentence based on the discussion utterance sentence and the unsupported utterance sentence included in multiple discussion data By learning the model, it is possible to learn the utterance sentence generation model for generating the utterance sentence capable of discussing a wide range of topics.
  • a screen for prompting the worker to input the discussion utterance indicating the theme of the discussion is presented, the input discussion utterance is accepted, and the input discussion is performed.
  • the discussion data that is a pair of the accepted and input discussion utterances, the support utterances for the discussion utterances, and the non-support utterances for the discussion utterances is stored, and the discussion utterances, the support utterances, Further, since the formats of the unsupported utterance sentences are the same, it is possible to efficiently collect the discussion data for learning the utterance sentence generation model that generates the utterance sentence capable of discussion corresponding to a wide range of topics.
  • one utterance sentence generation device is configured to perform learning of a supported utterance sentence generation model and an unsupported utterance sentence generation model and generation of an utterance sentence.
  • the present invention is not limited to this, and the utterance sentence generation device that generates the utterance sentence and the utterance sentence generation model learning device that learns the supported utterance sentence generation model and the unsupported utterance sentence generation model are separate devices. May be configured to be
  • the program can be stored in a computer-readable recording medium and provided.
  • utterance sentence generation device 20 crowd sourcing 30 utterance sentence collection device 100 discussion data storage unit 110 morpheme analysis unit 120 division unit 130 learning unit 140 utterance sentence generation model storage unit 150 input unit 160 morpheme analysis unit 170 utterance sentence generation unit 180 shaping unit 190 Output unit 300 Discussion utterance sentence input screen presenting unit 310 Discussion utterance sentence input unit 320 Supporting utterance sentence/unsupported utterance sentence input screen presenting unit 330 Supporting utterance sentence/Unsupported utterance sentence input unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Probability & Statistics with Applications (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

幅広い話題に対応した議論が可能な発話文を生成するための発話文生成モデルを学習することができるようにする。 議論データ記憶部100に、議論のテーマを示す議論発話文と、当該議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とのペアである議論データが複数格納され、学習部130が、複数の議論データに含まれる議論発話文及び支持発話文に基づいて、発話文を入力として発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、複数の議論データに含まれる議論発話文及び不支持発話文に基づいて、発話文を入力として発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する。

Description

発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム
 本発明は、発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラムに係り、特に、対話システムにおける発話文を生成するための発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラムに関する。
 対話システムにおいて、人間はコンピュータと対話を行い、種々の情報を得たり、要望を満たしたりする。
 また、所定のタスクを達成するだけではなく、日常会話を行う対話システムも存在し、これらによって、人間は精神的な安定を得たり、承認欲を満たしたり、信頼関係を築いたりする。
 このような対話システムの類型については非特許文献1に詳述されている。
 一方、タスク達成や日常会話ではなく、議論をコンピュータによって実現するための研究も進められている。議論は人間の価値判断を変えたり、思考を整理したりする働きがあり、人間にとって重要な役割を果たす。
 例えば、非特許文献2では、意見をノードとするグラフデータを用いて、ユーザ発話文をノードにマッピングし、マッピングされたノードと接続関係にあるノードをシステム発話文としてユーザに返すことで議論を行う。
 グラフデータはあらかじめ設定した議論のテーマ(例えば、「永住するなら田舎よりも都会がよい」)に基づき、人手で作成する。人手で作成した議論のデータを用いることで、特定の話題についての議論が可能となる。
河原達也,"音声対話システムの進化と淘汰-歴史と最近の技術動向-",人工知能学会誌,Vol. 28,No. 1,2013,p45-51. Ryuichiro Higashinaka 他,"Argumentative dialogue system based on argu-mentation structures",Proceedings of The 21st Workshop on the Semantics and Pragmaticsof Dialogue,2017,p154-155.
 しかし、非特許文献2で提案されているような対話システムは、特定の話題(クローズドドメイン)について深い議論が可能である一方で、あらかじめ設定された特定の議論テーマを逸脱するユーザ発話文には適切に応答することができない、という問題があった。
 この問題を解決するために、任意の話題について議論のためのグラフデータをあらかじめ作成しておくアプローチが考えられるが、議論のテーマは無数に存在するため現実的ではない。
 本発明は上記の点に鑑みてなされたものであり、幅広い話題に対応した議論が可能な発話文を生成するための発話文生成モデルを学習することができる発話文生成モデル学習装置、発話文生成モデル学習方法、及びプログラムを提供することを目的とする。
 また、本発明は、幅広い話題に対応した議論が可能な発話文を生成する発話文生成モデルを学習するための議論データを効率的に収集することができる発話文収集装置、発話文収集方法、及びプログラムを提供することを目的とする。
 本発明に係る発話文生成モデル学習装置は、議論のテーマを示す議論発話文と、前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とのペアである議論データであって、前記議論発話文、前記支持発話文、及び前記不支持発話文の形式が同一である議論データが複数格納された議論データ記憶部と、前記複数の議論データに含まれる前記議論発話文及び前記支持発話文に基づいて、発話文を入力として前記発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、前記複数の議論データに含まれる前記議論発話文及び前記不支持発話文に基づいて、発話文を入力として前記発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する学習部と、を備えて構成される。
 また、本発明に係る発話文生成モデル学習方法は、議論データ記憶部に、議論のテーマを示す議論発話文と、前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とのペアである議論データが複数格納され、学習部が、前記複数の議論データに含まれる前記議論発話文及び前記支持発話文に基づいて、発話文を入力として前記発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、前記複数の議論データに含まれる前記議論発話文及び前記不支持発話文に基づいて、発話文を入力として前記発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する。
 本発明に係る発話文生成モデル学習装置及び発話文生成モデル学習方法によれば、議論データ記憶部に、議論のテーマを示す議論発話文と、当該議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とのペアである議論データが複数格納され、学習部が、複数の議論データに含まれる議論発話文及び支持発話文に基づいて、発話文を入力として発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、複数の議論データに含まれる議論発話文及び不支持発話文に基づいて、発話文を入力として発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する。
 このように、議論のテーマを示す議論発話文と、当該議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とのペアである議論データが複数格納され、複数の議論データに含まれる議論発話文及び支持発話文に基づいて、発話文を入力として発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、複数の議論データに含まれる議論発話文及び不支持発話文に基づいて、発話文を入力として発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習することにより、幅広い話題に対応した議論が可能な発話文を生成するための発話文生成モデルを学習することができる。
 また、本発明に係る発話文生成モデル学習装置の前記議論発話文、前記支持発話文、及び前記不支持発話文の形式は、名詞相当語句、助詞相当語句、及び述語相当語句を連結した形式であるとすることができる。
 本発明に係る発話文収集装置は、議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示する議論発話文入力画面提示部と、入力された前記議論発話文を受け付ける議論発話文入力部と、入力された前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とを前記ワーカーに入力させるための画面を提示する支持発話文・不支持発話文入力画面提示部と、入力された前記支持発話文及び不支持発話文を受け付ける支持発話文・不支持発話文入力部と、入力された前記議論発話文と、前記議論発話文に対する支持発話文と、前記議論発話文に対する不支持発話文とのペアである議論データを記憶する議論データ記憶部と、を含み、前記議論発話文、前記支持発話文、及び前記不支持発話文の形式が同一であるとすることができる。
 また、本発明に係る発話文収集方法は、議論発話文入力画面提示部が、議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示し、議論発話文入力部が、入力された前記議論発話文を受け付け、支持発話文・不支持発話文入力画面提示部が、入力された前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とを前記ワーカーに入力させるための画面を提示し、支持発話文・不支持発話文入力部が、入力された前記支持発話文及び不支持発話文を受け付け、議論データ記憶部が、入力された前記議論発話文と、前記議論発話文に対する支持発話文と、前記議論発話文に対する不支持発話文とのペアである議論データを記憶し、前記議論発話文、前記支持発話文、及び前記不支持発話文の形式が同一である。
 本発明に係る発話文収集装置及び発話文収集方法によれば、議論発話文入力画面提示部が、議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示し、議論発話文入力部が、入力された議論発話文を受け付け、支持発話文・不支持発話文入力画面提示部が、入力された議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とを当該ワーカーに入力させるための画面を提示し、支持発話文・不支持発話文入力部が、入力された支持発話文及び不支持発話文を受け付ける。
 そして、議論データ記憶部が、入力された議論発話文と、当該議論発話文に対する支持発話文と、当該議論発話文に対する不支持発話文とのペアである議論データを記憶し、当該議論発話文、当該支持発話文、及び当該不支持発話文の形式が同一である。
 このように、議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示し、入力された議論発話文を受け付け、入力された議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とを当該ワーカーに入力させるための画面を提示し、入力された支持発話文及び不支持発話文を受け付け、入力された議論発話文と、当該議論発話文に対する支持発話文と、当該議論発話文に対する不支持発話文とのペアである議論データを記憶し、当該議論発話文、当該支持発話文、及び当該不支持発話文の形式が同一であることにより、幅広い話題に対応した議論が可能な発話文を生成する発話文生成モデルを学習するための議論データを効率的に収集することができる。
 本発明に係るプログラムは、上記の発話文生成モデル学習装置又は発話文収集装置の各部として機能させるためのプログラムである。
 本発明の発話文生成モデル学習装置、発話文生成モデル学習方法、及びプログラムによれば、幅広い話題に対応した議論が可能な発話文を生成するための発話文生成モデルを学習することができる。
 また、本発明の発話文収集装置、発話文収集方法、及びプログラムによれば、幅広い話題に対応した議論が可能な発話文を生成する発話文生成モデルを学習するための議論データを効率的に収集することができる。
本発明の実施の形態に係る発話文生成装置の構成を示す概略図である。 本発明の実施の形態に係る発話文収集装置の構成を示す概略図である。 本発明の実施の形態に係る収集する発話の一例を示す図である。 本発明の実施の形態に係るクラウドソーシングの各作業者が作成する発話とその手順の一例を示すイメージ図である。 本発明の実施の形態に係る議論発話を列挙したファイルの一例を示す図である。 本発明の実施の形態に係る支持発話を列挙したファイルの一例を示す図である。 本発明の実施の形態に係る議論発話を列挙したファイル(分かち書き済み)の一例を示す図である。 本発明の実施の形態に係る支持発話を列挙したファイル(分かち書き済み)の一例を示す図である。 本発明の実施の形態に係る発話文生成モデルの作成コマンドの一例を示す図である。 本発明の実施の形態に係る作成される支持発話文生成モデルの一例を示す図である。 本発明の実施の形態に係る入力されるユーザ発話の一例を示す図である。 本発明の実施の形態に係る入力されたユーザ発話を分かち書きした一例を示す図である。 本発明の実施の形態に係る支持発話及び不支持発話を生成するためのコマンドの一例を示す図である。 本発明の実施の形態に係る支持発話文生成モデルの出力の一例を示す図である。 本発明の実施の形態に係る不支持発話文生成モデルの出力の一例を示す図である。 本発明の実施の形態に係る不支持発話文生成モデルの出力の一例を示す図である。 本発明の実施の形態に係る発話文収集装置の発話文収集処理ルーチンを示すフローチャートである。 本発明の実施の形態に係る発話文生成装置の発話文生成モデル学習処理ルーチンを示すフローチャートである。 本発明の実施の形態に係る発話文生成装置の発話文生成処理ルーチンを示すフローチャートである。
 以下、本発明の実施の形態について図面を用いて説明する。
<本発明の実施の形態に係る発話文生成装置の概要>
 本発明の実施の形態に係る発話文生成装置は、入力として、任意のユーザ発話文をテキストとして受け取り、ユーザ発話文の支持を表す支持発話文、及びユーザ発話文の不支持を表す不支持発話文を、システム発話文としてテキストとして出力する。
 出力は支持発話文、不支持発話文のそれぞれについて、確信度付きで上位M件(Mは任意の数)を出力することができる。
 発話文生成装置は、クラウドソーシングで収集した議論データを用いて、発話文生成モデルを学習し、学習された発話文生成モデルを元に、発話文を生成する。
<本発明の実施の形態に係る発話文生成装置の構成>
 図1を参照して、本発明の実施の形態に係る発話文生成装置10の構成について説明する。図1は、本発明の実施の形態に係る発話文生成装置10の構成を示すブロック図である。
 発話文生成装置10は、CPUと、RAMと、後述する発話文生成処理ルーチンを実行するためのプログラムを記憶したROMとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
 図1に示すように、本実施形態に係る発話文生成装置10は、議論データ記憶部100と、形態素解析部110と、分割部120と、学習部130と、発話文生成モデル記憶部140と、入力部150と、形態素解析部160と、発話文生成部170と、整形部180と、出力部190とを備えて構成される。
 議論データ記憶部100には、議論のテーマを示す議論発話文と、議論発話文に対する支持を示す支持発話文と、議論発話文に対する不支持を示す不支持発話文とのペアである議論データであって、議論発話文、支持発話文、及び不支持発話文の形式が同一である議論データが複数格納される。
 具体的には、議論発話文、支持発話文、及び不支持発話文の形式を、「名詞相当語句」と「助詞相当語句」と「述語相当語句」とを連結した形式に限定して収集したものが、議論データ記憶部100に記憶される。議論で扱う必要がある発話文は多岐にわたるためである。
 収集する発話文の形式を限定することで、議論で扱われる話題を網羅的に効率良く収集することが可能となる。
 当該形式において、「名詞相当語句」は議論の対象(テーマ)を表し、「助詞相当語句」と「述語相当語句」との連結は議論の対象に対する意見(支持や不支持)を表す。
 名詞相当語句や述語相当語句は入れ子の構造(例えば、「汗を流すこと」、「ストレス解消に良い」)になってもよいため、幅広い発話文を表現可能になっている。
 図2に収集対象の発話文の例を示す。図2では、説明のため名詞・助詞・述語の間に「+」を記載しているが、発話文のデータを収集する際には不要である。
 名詞や述語は、内部に助詞を含んでも、複数の単語から構成されてもよい。
 発話文生成時の表現を統一するため、文末の表現は「ですます調」に揃えることが望ましい。
 上記の形式に従って、クラウドソーシング20(図1)により議論データが収集され、議論データ記憶部100に議論データが複数格納される。
 ここで、クラウドソーシング20を用いて議論データを収集することについて説明する。図3は、クラウド上に設置された発話文収集装置30の構成を示す概略図である。
 発話文収集装置30は、クラウド上のワーカー(議論データの入力を行う作業者)から、上記形式に従った議論データの入力を受け付け、議論データ記憶部100に議論データを格納する。なお、通信に関しての説明は省略する。
 発話文収集装置30は、CPUと、RAMと、後述する発話文収集処理ルーチンを実行するためのプログラムを記憶したROMとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
 図3に示すように、本実施形態に係る発話文収集装置30は、議論データ記憶部100と、議論発話文入力画面提示部300と、議論発話文入力部310と、支持発話文・不支持発話文入力画面提示部320と、支持発話文・不支持発話文入力部330とを備えて構成される。
 議論発話文入力画面提示部300は、議論発話文をワーカーに入力させるための画面を提示する。
 図4は、クラウドソーシングの各ワーカーが作成する発話文とその手順を示すイメージ図である。
 具体的には、議論発話文入力画面提示部300は、3文の議論発話文をワーカーに入力させるための画面を提示する。これにより、各ワーカーは、まず議論のテーマとなる議論発話文を3文作成する。議論発話文は上記の発話文の形式に沿って作成する。
 収集する3文に含まれる議論のテーマ(名詞相当語句)は異なるように指示するメッセージを画面に表示し、収集する発話文の網羅性を高める。
 ワーカーには、議論のテーマを決める際には好きなもの・嫌いなもの・興味があるもの・問題だと思っているものなどを自由に考えてもらい、ワーカーは思い付いたものを使って議論発話文を作成する。
 そして、ワーカーは、議論発話文をワーカーに入力させるための画面を経由して、作成した議論発話文を入力する。
 議論発話文入力部310は、複数の議論発話文の入力を受け付ける。
 そして、議論発話文入力部310は、受け付けた複数の議論発話文を、議論データ記憶部100に格納する。
 支持発話文・不支持発話文入力画面提示部320は、入力された議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とをワーカーに入力させるための画面を提示する。
 具体的には、支持発話文・不支持発話文入力画面提示部320は、3文の議論発話文の各々について、支持発話文及び不支持発話文をワーカーに入力させるための画面を提示する。
 これにより、ワーカーは、作成した議論発話文の各々に対し、議論発話文と同様の形式により議論発話文に対する賛成の理由を表す支持発話文、及び議論発話文に対する反対の理由を表す不支持発話文を1文ずつ作成する。
 支持発話文と不支持発話文を作成することで、議論発話文に対する支持と不支持の発話文を収集することができる。
 そして、ワーカーは、入力された議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とをワーカーに入力させるための画面を経由して、作成した支持発話文及び不支持発話文を入力する。
 支持発話文・不支持発話文入力部330は、支持発話文及び不支持発話文の入力を受け付ける。
 そして、支持発話文・不支持発話文入力部330は、受け付けた支持発話文及び不支持発話文を、これらに対する議論発話文に紐づけて議論データとして議論データ記憶部100に格納する。
 ワーカーは、議論発話文3文に対して支持発話文及び不支持発話文の作成を行うため、議論データ記憶部100には各ワーカーにより作成された計9文(議論発話文3文+支持発話文3文+不支持発話文3文)の発話文が格納されることとなる。
 このように発話文収集装置30を用いて、この作業を複数のワーカーが行うことで、特定のワーカーに依存しない、網羅性の高い議論発話文と、それに対する支持発話文・不支持発話文を効率的に収集することができる。
 データ数として、数万規模の議論発話文が収集されることが望ましいため、1万人以上が作業を行うことが望ましい。以下、1.5万人のワーカーが作業を行うことにより収集した議論データが議論データ記憶部100に格納されているものである場合を例に説明を行う。
 形態素解析部110は、議論データに含まれる各発話文に対して形態素解析を行う。
 具体的には、形態素解析部110は、まず、議論データ記憶部100から、収集した議論発話文と支持発話文のペアを複数取得し、図5及び図6に示すように、議論発話文を1行1発話文として列挙した議論発話テキストファイル、及び指示発話文を1行1発話文として列挙した支持発話テキストファイルを生成する。
 このとき、議論発話文と指示発話文のペアが同じ行に列挙されるようにし、1行目は1ペア目、2行目は2ペア目、・・・となるようにする。
 次に、形態素解析部110は、議論発話文・支持発話文を列挙したファイルの各発話文に形態素解析を行い、図7及び図8に示すようなスペース区切りの分かち書きファイルに変換する。
 分かち書きには日本語の形態素解析が可能な任意のツールを使用することができるが、例えば形態素解析器としてJTAG(参考文献1)を用いる。
[参考文献1]T. Fuchi and S. Takagi,Japanese Morphological Analyzer using Word Cooc-currence JTAG,Proc. of COLING-ACL,1998,p409-413.
 同様に、形態素解析部110は、議論データ記憶部100から収集した議論発話文と不支持発話文のペアを複数取得し、議論発話テキストファイル、及び1行1発話文として列挙した不支持発話テキストファイルを生成し、形態素解析を行い、スペース区切りの分かち書きファイルに変換する。
 そして、形態素解析部110は、複数の分かち書きファイルを、分割部120に渡す。
 分割部120は、複数の分かち書きファイルを、発話文生成モデルの学習に用いる訓練用データとチューニング用データとに分ける。
 具体的には、分割部120は、複数の分かち書きファイルを所定の割合で訓練用データとチューニング用データとに分割する。分割部120は、例えば、訓練用データとなった分かち書きファイルには、ファイル名に“train”を付し、チューニング用データとなった分かち書きファイルには、ファイル名に“dev”を付すことで分割を明示する。
 また、分割の比率は任意の値を設定可能であるが、ここでは9対1とする。
 そして、分割部120は、訓練用データとチューニング用データとを学習部130に渡す。
 学習部130は、複数の議論データに含まれる議論発話文及び支持発話文に基づいて、発話文を入力として当該発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、複数の議論データに含まれる当該議論発話文及び不支持発話文に基づいて、発話文を入力として当該発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する。
 ここで、支持発話文生成モデル・不支持発話文生成モデルの学習方法は同様であるため、支持発話分生成モデルの学習について説明を行う.
 具体的には、学習部130は、支持発話文生成モデルの学習には、テキストをテキストに変換するモデルを学習する機械翻訳等で使用される任意のアルゴリズムを使用することができる。例えば、参考文献2で提案されたseq2seqアルゴリズムを使用することができる。
[参考文献2]Vinyals O.,Le Q.,A neural conversational model,Proceedings of the In-ternational Conference on Machine Learning,Deep Learning Workshop,2015.
 ここで、参考文献2のseq2seqは、入力されたシンボルの系列をベクトル化して1つのベクトルに統合した後、そのベクトルを用いて所望の系列を出力するモデルを学習するアルゴリズムである。
 実装として様々なツールが存在するが、ここではオープンソースソフトウェアであるOpenNMT-py(参考文献3)を用いて説明を行う。
[参考文献3]Guillaume Klein et al.,OpenNMT: Open-Source Toolkit for Neural MachineTranslation,Proc. ACL,2017.
 図9にそのコマンド例を示す。
 ファイル名が“train”で始まるテキストファイルは訓練データを表し、“dev”で始まるテキストファイルはチューニング用データを表す。また、ファイル名に“src”を含むテキストファイルは議論発話文データを表し、“tgt”を含むデータは支持発話文データを表す。
 “tmp”は一時ファイルに対応し、“model”は作成される発話文生成モデルに対応する。
 図10に作成されるモデルの例を示す。
 “e”、“acc”、“ppl”はそれぞれ、エポック数(学習ループの回数)、学習されたモデルの訓練データ中の正解率、及び、パープレキシティ(訓練データが学習されたモデルによってどの程度生成されやすいかを表す指標)に対応する。
 ここで、学習部130は、正解率が最も高い13エポック目のモデルを支持発話文生成モデルとして採用する。
 学習部130は、支持発話文生成モデルと同様に、不支持発話文生成モデルを学習する。
 そして、学習部130は、正解率が最も高い支持発話文生成モデル及び不支持発話文生成モデルを、発話文生成モデル記憶部140に格納する。
 発話文生成モデル記憶部140には、学習済みの支持発話文生成モデル及び不支持発話文生成モデルが格納されている。
 入力部150は、ユーザ発話文の入力を受け付ける。
 具体的には、入力部150は、テキスト形式のユーザ発話文を入力として受け付ける。図11に入力されるユーザ発話文の例を示す。各行が、入力されたユーザ発話文に対応している。
 そして、入力部150は、受け付けたユーザ発話文を、形態素解析部160に渡す。
 形態素解析部160は、入力部150が受け付けたユーザ発話文に対して形態素解析を行う。
 具体的には、形態素解析部160は、ユーザ発話文に形態素解析を行い、図12に示すようなスペース区切りの分かち書き文に変換する。
 ここでは、ユーザ発話文を分かち書き文に変換するには、形態素解析部110と同じ形態素解析器(例えば、JTAG(参考文献1))を用いる。
 図12に複数のユーザ発話文が分かち書き文に変換された分かち書きファイルの例を示す。分かち書きファイルの各行に示す分かち書き文が、各ユーザ発話文に対応している。
 そして、形態素解析部160は、分かち書き文を、発話文生成部170に渡す。
 発話文生成部170は、分かち書き文を入力として、支持発話文生成モデル及び不支持発話文生成モデルを用いて、支持発話文及び不支持発話文を生成する。
 具体的には、発話文生成部170は、まず、発話文生成モデル記憶部140から、学習済みの支持発話文生成モデル及び不支持発話文生成モデルを取得する。
 次に、発話文生成部170は、支持発話文生成モデル及び不支持発話文生成モデルに分かち書き文を入力して、支持発話文及び不支持発話文を生成する。
 図13に発話文生成のコマンド例を示す。“test.src.txt”は分かち書き文に変換されたユーザ発話文が記述されたファイル(図12)である。
 図13上部の1つ目のコマンドは、支持発話文を生成するためのコマンドであり、図13下部の2つ目のコマンドは不支持発話文を生成するためのコマンドである。なお、これらのコマンドのオプションの意味については、参考文献3に記述されている。
 ここでは、支持発話文及び不支持発話文は、それぞれ上位5件出力するコマンドが記述されているが、任意の件数を指定することができる。
 発話文生成部170は、このような1つ目のコマンド及び2つ目のコマンドを実行することにより、複数の支持発話文及び不支持発話文を生成する。
 図14に支持発話文の生成結果の例、図15に不支持発話文の生成結果の例を示す。入力されたユーザ発話文に対して、適切な支持発話文及び不支持発話文が生成されていることが確認できる。
 そして、発話文生成部170は、生成した複数の支持発話文及び不支持発話文を、整形部180に渡す。
 整形部180は、発話文生成部170により生成された支持発話文及び不支持発話文を、所定の形式に整形する。
 具体的には、整形部180は、生成された複数の支持発話文及び不支持発話文を任意の形式(フォーマット)に整形する。
 形式は任意のものを使用可能であるが、例えば、JSON形式を採用することができる。本実施形態では、JSON形式を用いることとする。
 図16は、入力されたユーザ発話文が「ペットを飼いたいと思っています。」の場合に発話文生成部170により生成され、整形部180により整形された支持発話文・不支持発話文の例である。
 図16に示すように、発話文生成部170が生成した上位5件(M=5の場合)の支持発話文及び不支持発話文とそのスコアが順に並べられている。また、“support”、“score support”、“nonsupport”、“score nonsupport”は、それぞれ支持発話文、支持発話文のスコア(生成確率の対数)、不支持発話文、不支持発話文のスコア(生成確率の対数)となっている。
 そして、整形部180は、整形した複数の支持発話文及び不支持発話文を、出力部190に渡す。
 出力部190は、整形部180により整形された複数の支持発話文及び不支持発話文を出力する。
 この出力を用いることで、対話システム(図示しない)は、ユーザの「ペットを飼いたいと思っています」という発話文に対し、例えば、「犬はかわいいですからね」という支持発話文を出力したり、「世話が大変です」という不支持の発話文を出力したりすることができる。
<本発明の実施の形態に係る発話文収集装置の作用>
 図17は、本発明の実施の形態に係る発話文収集処理ルーチンを示すフローチャートである。発話文収集装置30において、発話文収集処理ルーチンが実行される。
 ステップS100において、議論発話文入力画面提示部300は、議論発話文をワーカーに入力させるための画面を提示する。
 ステップS110において、議論発話文入力部310は、複数の議論発話文の入力を受け付ける。
 ステップS120において、発話文収集装置30は、wに1を設定する。ここで、wは、カウンタである。
 ステップS130において、支持発話文・不支持発話文入力画面提示部320は、入力されたw番目の議論発話文に対する支持を示す支持発話文と、w番目の議論発話文に対する不支持を示す不支持発話文とをワーカーに入力させるための画面を提示する。
 ステップS140において、支持発話文・不支持発話文入力部330は、支持発話文及び不支持発話文の入力を受け付ける。
 ステップS150において、発話文収集装置30は、w≧Nか否かを判定する(Nは入力された議論発話文の数であり、例えば、3である。)。
 w≧Nでない場合(上記ステップS150のNO)、ステップS160において、発話文収集装置30は、wに1を加算し、ステップS130に戻る。
 一方、w≧Nである場合(上記ステップS150のYES)、ステップS170において、支持発話文・不支持発話文入力部330は、上記ステップS140により受け付けたN個の支持発話文及び不支持発話文を、これらに対する議論発話文に紐づけて議論データとして議論データ記憶部100に格納する。
<本発明の実施の形態に係る発話文生成装置の作用>
 図18は、本発明の実施の形態に係る発話文生成モデル学習処理ルーチンを示すフローチャートである。
 学習処理が開始されると、発話文生成装置10において、図18に示す発話文生成処理ルーチンが実行される。
 ステップS200において、発話文生成装置10は、tに1を設定する。ここで、tは、カウンタである。
 ステップS210において、形態素解析部110は、まず、議論データ記憶部100から、収集した議論発話文と支持発話文のペアを複数取得する。
 ステップS220において、形態素解析部110は、議論発話文・支持発話文を列挙したファイルの各発話文に形態素解析を行う。
 ステップS230において、形態素解析部110は、上記ステップS230により形態素解析を行った議論発話文・支持発話文を列挙したファイルの各発話文を、スペース区切りの分かち書きファイルに変換する。
 ステップS240において、分割部120は、複数の分かち書きファイルを、発話文生成モデルの学習に用いる訓練用データとチューニング用データとに分ける。
 ステップS250において、学習部130は、複数の議論データに含まれる議論発話文及び支持発話文に基づいて、発話文を入力として当該発話文に対する支持発話文を生成する支持発話文生成モデルを学習する。
 ステップS260において、発話文生成装置10は、t≧所定数か否かを判定する。ここで、所定数は、学習を繰り返す回数である。
 t≧所定数でない場合(上記ステップS260のNO)、ステップS270において、発話文生成装置10は、tに1を加算し、ステップS210に戻る。
 一方、t≧所定数である場合(上記ステップS260のYES)、ステップS280において、学習部130は、正解率が最も高い支持発話文生成モデルを、発話文生成モデル記憶部140に格納する。
 同様に、不支持発話文について上記ステップS200~S280の処理を行うことにより、学習部130は、複数の議論データに含まれる当該議論発話文及び不支持発話文に基づいて、発話文を入力として当該発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習し、正解率が最も高い不支持発話文生成モデルを、発話文生成モデル記憶部140に格納する。
 図19は、本発明の実施の形態に係る発話文生成処理ルーチンを示すフローチャートである。
 入力部150にユーザ発話が入力されると、発話文生成装置10において、図19に示す発話文生成処理ルーチンが実行される。
 ステップS300において、入力部150は、ユーザ発話文の入力を受け付ける。
 ステップS310において、形態素解析部160は、上記ステップS300により受け付けたユーザ発話文に対して形態素解析を行う。
 ステップS320において、形態素解析部160は、上記ステップS310により形態素解析されたユーザ発話文を、スペース区切りの分かち書き文に変換する。
 ステップS330において、発話文生成モデル記憶部140から、学習済みの支持発話文生成モデル及び不支持発話文生成モデルを取得する。
 ステップS340において、発話文生成部170は、支持発話文生成モデル及び不支持発話文生成モデルに分かち書き文を入力して、支持発話文及び不支持発話文を生成する。
 ステップS350において、上記ステップS340により生成された支持発話文及び不支持発話文を所定の形式に整形する。
 ステップS360において、出力部190は、上記ステップS350により整形された複数の支持発話文及び不支持発話文を出力する。
 以上説明したように、本発明の実施形態に係る発話文生成装置によれば、議論のテーマを示す議論発話文と、当該議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とのペアである議論データが複数格納され、複数の議論データに含まれる議論発話文及び支持発話文に基づいて、発話文を入力として発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、複数の議論データに含まれる議論発話文及び不支持発話文に基づいて、発話文を入力として発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習することにより、幅広い話題に対応した議論が可能な発話文を生成するための発話文生成モデルを学習することができる。
 また、本発明の実施形態に係る発話文収集装置によれば、議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示し、入力された議論発話文を受け付け、入力された議論発話文に対する支持を示す支持発話文と、当該議論発話文に対する不支持を示す不支持発話文とを当該ワーカーに入力させるための画面を提示し、入力された支持発話文及び不支持発話文を受け付け、入力された議論発話文と、当該議論発話文に対する支持発話文と、当該議論発話文に対する不支持発話文とのペアである議論データを記憶し、当該議論発話文、当該支持発話文、及び当該不支持発話文の形式が同一であることにより、幅広い話題に対応した議論が可能な発話文を生成する発話文生成モデルを学習するための議論データを効率的に収集することができる。
 すなわち、収集する議論のデータの形式を制限し、クラウドソーシングを利用することで、幅広い話題に対応可能な議論のデータを効率的に収集することができる。
 さらに、対話システムの構築において、議論のデータの形式が制限されていることで、Deep Learningを用いた生成ベースの発話文生成が適用でき、単語や言い回しに影響されにくい頑健な議論対話システムを構築することができる。
 なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
 例えば、上記の実施の形態では、1台の発話文生成装置が、支持発話文生成モデル及び不支持発話文生成モデルの学習と発話文の生成とを行うように構成される場合を例に説明したが、これに限定されるものではなく、発話文の生成を行う発話文生成装置と支持発話文生成モデル及び不支持発話文生成モデルの学習を行う発話文生成モデル学習装置とが別々の装置となるように構成されてもよい。
 また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
10   発話文生成装置
20   クラウドソーシング
30   発話文収集装置
100 議論データ記憶部
110 形態素解析部
120 分割部
130 学習部
140 発話文生成モデル記憶部
150 入力部
160 形態素解析部
170 発話文生成部
180 整形部
190 出力部
300 議論発話文入力画面提示部
310 議論発話文入力部
320 支持発話文・不支持発話文入力画面提示部
330 支持発話文・不支持発話文入力部

Claims (6)

  1.  議論のテーマを示す議論発話文と、前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とのペアである議論データであって、前記議論発話文、前記支持発話文、及び前記不支持発話文の形式が同一である議論データが複数格納された議論データ記憶部と、
     前記複数の議論データに含まれる前記議論発話文及び前記支持発話文に基づいて、発話文を入力として前記発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、前記複数の議論データに含まれる前記議論発話文及び前記不支持発話文に基づいて、発話文を入力として前記発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する学習部と、
     を含む発話文生成モデル学習装置。
  2.  前記議論発話文、前記支持発話文、及び前記不支持発話文の形式は、名詞相当語句、助詞相当語句、及び述語相当語句を連結した形式である
     請求項1記載の発話文生成モデル学習装置。
  3.  議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示する議論発話文入力画面提示部と、
     入力された前記議論発話文を受け付ける議論発話文入力部と、
     入力された前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とを前記ワーカーに入力させるための画面を提示する支持発話文・不支持発話文入力画面提示部と、
     入力された前記支持発話文及び不支持発話文を受け付ける支持発話文・不支持発話文入力部と、
     入力された前記議論発話文と、前記議論発話文に対する支持発話文と、前記議論発話文に対する不支持発話文とのペアである議論データを記憶する議論データ記憶部と、
     を含み、
     前記議論発話文、前記支持発話文、及び前記不支持発話文の形式が同一である
     発話文収集装置。
  4.  議論データ記憶部に、議論のテーマを示す議論発話文と、前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とのペアである議論データが複数格納され、
     学習部が、前記複数の議論データに含まれる前記議論発話文及び前記支持発話文に基づいて、発話文を入力として前記発話文に対する支持発話文を生成する支持発話文生成モデルを学習すると共に、前記複数の議論データに含まれる前記議論発話文及び前記不支持発話文に基づいて、発話文を入力として前記発話文に対する不支持発話文を生成する不支持発話文生成モデルを学習する
     発話文生成モデル学習方法。
  5.  議論発話文入力画面提示部が、議論のテーマを示す議論発話文をワーカーに入力させるための画面を提示し、
     議論発話文入力部が、入力された前記議論発話文を受け付け、
     支持発話文・不支持発話文入力画面提示部が、入力された前記議論発話文に対する支持を示す支持発話文と、前記議論発話文に対する不支持を示す不支持発話文とを前記ワーカーに入力させるための画面を提示し、
     支持発話文・不支持発話文入力部が、入力された前記支持発話文及び不支持発話文を受け付け、
     議論データ記憶部が、入力された前記議論発話文と、前記議論発話文に対する支持発話文と、前記議論発話文に対する不支持発話文とのペアである議論データを記憶し、
     前記議論発話文、前記支持発話文、及び前記不支持発話文の形式が同一である
     発話文収集方法。
  6.  コンピュータを、請求項1若しくは2記載の発話文生成モデル学習装置、又は請求項3記載の発話文収集装置の各部として機能させるためのプログラム。
PCT/JP2019/049395 2018-12-26 2019-12-17 発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム Ceased WO2020137696A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/418,188 US20220084506A1 (en) 2018-12-26 2019-12-17 Spoken sentence generation model learning device, spoken sentence collecting device, spoken sentence generation model learning method, spoken sentence collection method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018242422A JP7156010B2 (ja) 2018-12-26 2018-12-26 発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム
JP2018-242422 2018-12-26

Publications (1)

Publication Number Publication Date
WO2020137696A1 true WO2020137696A1 (ja) 2020-07-02

Family

ID=71129704

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/049395 Ceased WO2020137696A1 (ja) 2018-12-26 2019-12-17 発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム

Country Status (3)

Country Link
US (1) US20220084506A1 (ja)
JP (1) JP7156010B2 (ja)
WO (1) WO2020137696A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024065037A (ja) * 2022-10-27 2024-05-14 エヌイーシー ラボラトリーズ ヨーロッパ ゲーエムベーハー 方法、装置、システム、プログラム及びコンピュータ可読記憶媒体

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022113314A1 (ja) * 2020-11-27 2022-06-02 日本電信電話株式会社 学習方法、学習プログラム及び学習装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005118369A (ja) * 2003-10-17 2005-05-12 Aruze Corp ゲーム機、ゲームの実行方法、並びにプログラム
JP2008276543A (ja) * 2007-04-27 2008-11-13 Toyota Central R&D Labs Inc 対話処理装置、応答文生成方法、及び応答文生成処理プログラム
WO2016051551A1 (ja) * 2014-10-01 2016-04-07 株式会社日立製作所 文章生成システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180137419A1 (en) * 2016-11-11 2018-05-17 International Business Machines Corporation Bootstrapping Knowledge Acquisition from a Limited Knowledge Domain
US10366168B2 (en) * 2017-01-12 2019-07-30 Microsoft Technology Licensing, Llc Systems and methods for a multiple topic chat bot
JP2018194980A (ja) * 2017-05-15 2018-12-06 富士通株式会社 判定プログラム、判定方法および判定装置
US11017359B2 (en) * 2017-09-27 2021-05-25 International Business Machines Corporation Determining validity of service recommendations
US20190164170A1 (en) * 2017-11-29 2019-05-30 International Business Machines Corporation Sentiment analysis based on user history
CN110019719B (zh) * 2017-12-15 2023-04-25 微软技术许可有限责任公司 基于断言的问答
US11238508B2 (en) * 2018-08-22 2022-02-01 Ebay Inc. Conversational assistant using extracted guidance knowledge
US10977443B2 (en) * 2018-11-05 2021-04-13 International Business Machines Corporation Class balancing for intent authoring using search

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005118369A (ja) * 2003-10-17 2005-05-12 Aruze Corp ゲーム機、ゲームの実行方法、並びにプログラム
JP2008276543A (ja) * 2007-04-27 2008-11-13 Toyota Central R&D Labs Inc 対話処理装置、応答文生成方法、及び応答文生成処理プログラム
WO2016051551A1 (ja) * 2014-10-01 2016-04-07 株式会社日立製作所 文章生成システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
FURUMAI, KAZUAKI ET AL.: "Study on utterance vectorizing method for generating supporting/opposing opinion in debate system", LECTURE PROCEEDINGS OF 2018 AUTUMN RESEARCH CONFERENCE OF THE ACOUSTICAL SOCIETY OF JAPAN [ CD- ROM, September 2018 (2018-09-01), pages 1033 - 1036 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024065037A (ja) * 2022-10-27 2024-05-14 エヌイーシー ラボラトリーズ ヨーロッパ ゲーエムベーハー 方法、装置、システム、プログラム及びコンピュータ可読記憶媒体
JP7773010B2 (ja) 2022-10-27 2025-11-19 日本電気株式会社 方法、装置、システム、プログラム及びコンピュータ可読記憶媒体

Also Published As

Publication number Publication date
US20220084506A1 (en) 2022-03-17
JP7156010B2 (ja) 2022-10-19
JP2020106905A (ja) 2020-07-09

Similar Documents

Publication Publication Date Title
Nguyen et al. NEU-chatbot: Chatbot for admission of National Economics University
JP7421604B2 (ja) モデル事前訓練方法および装置、テキスト生成方法および装置、電子機器、記憶媒体並びにコンピュータプログラム
US10417566B2 (en) Self-learning technique for training a PDA component and a simulated user component
Milhorat et al. Building the next generation of personal digital assistants
US20180032524A1 (en) Document Recommendation Method Based on Skill
CN113785297B (zh) 对基于结构化数据生成的自然语言文本的自动评估
WO2018034118A1 (ja) 対話システム及びそのためのコンピュータプログラム
CN112368694A (zh) 链接信息增益的场境估计
Pokhrel et al. AI content generation technology based on Open AI language model
JP6980411B2 (ja) 情報処理装置、対話処理方法、及び対話処理プログラム
Subha et al. An optimal approach to enhance context aware description administration service for cloud robots in a deep learning environment
JP4383328B2 (ja) 意味的速記のためのシステム及び方法
WO2020137696A1 (ja) 発話文生成モデル学習装置、発話文収集装置、発話文生成モデル学習方法、発話文収集方法、及びプログラム
Haji et al. Exploring the Impact of AI-Tools on Swedish Startups-A qualitative Analysis of Operations Optimization and Alignment with the Lean Startup Development
Taulli Natural Language Processing (NLP) How Computers Talk
Patel et al. Google duplex-a big leap in the evolution of artificial intelligence
CN118211625A (zh) 基于机器学习模型的内容生成器
Díaz-Oreiro et al. Conversational design patterns for a UX evaluation instrument implemented by voice
WO2024069978A1 (ja) 生成装置、学習装置、生成方法、学習方法、及びプログラム
US20180033325A1 (en) Document Recommendation Method Based on Skill
JP5633318B2 (ja) 文生成装置及びプログラム
Šoić et al. Spoken notifications in smart environments using Croatian language
Abrantes et al. Systematic review of training methods for conversational systems: the potential of datasets validated with user experience.
Genkina Don't Start a Career as an AI Prompt Engineer AI will Take Your Job
Jain et al. SPEAR: Design and implementation of an advanced virtual assistant

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19902136

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19902136

Country of ref document: EP

Kind code of ref document: A1