CN111666396A - 用户意图理解满意度评估方法、装置、设备和存储介质 - Google Patents

用户意图理解满意度评估方法、装置、设备和存储介质 Download PDF

Info

Publication number
CN111666396A
CN111666396A CN202010508156.6A CN202010508156A CN111666396A CN 111666396 A CN111666396 A CN 111666396A CN 202010508156 A CN202010508156 A CN 202010508156A CN 111666396 A CN111666396 A CN 111666396A
Authority
CN
China
Prior art keywords
behavior
round
intention understanding
sequence
satisfaction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010508156.6A
Other languages
English (en)
Other versions
CN111666396B (zh
Inventor
李岩岩
段建国
熊辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010508156.6A priority Critical patent/CN111666396B/zh
Publication of CN111666396A publication Critical patent/CN111666396A/zh
Priority to US17/155,783 priority patent/US11580980B2/en
Application granted granted Critical
Publication of CN111666396B publication Critical patent/CN111666396B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3343—Query execution using phonetics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367—Ontology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/01—Customer relationship services
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/065—Adaptation
    • G10L15/07—Adaptation to the speaker
    • G10L15/075—Adaptation to the speaker supervised, i.e. under machine guidance
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
    • G10L15/142—Hidden Markov Models [HMMs]
    • G10L15/144—Training of HMMs
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/16—Speech classification or search using artificial neural networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G10L15/1822—Parsing for meaning understanding
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Business, Economics & Management (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Finance (AREA)
  • Strategic Management (AREA)
  • Probability & Statistics with Applications (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Business, Economics & Management (AREA)
  • Mathematical Analysis (AREA)
  • Computational Mathematics (AREA)
  • Algebra (AREA)
  • Animal Behavior & Ethology (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)

Abstract

本申请公开了一种用户意图理解满意度评估模型的生成方法、用户意图理解满意度评估方法、装置、设备及存储介质，涉及智能语音识别和知识图谱技术领域。具体实现方案为，获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。利用本申请实施例可评估智能设备对用户意图理解满意度。

Description

用户意图理解满意度评估方法、装置、设备和存储介质
技术领域
本申请涉及人工智能技术领域，尤其涉及一种用户意图理解满意度评估模型的生成方法、用户意图理解满意度评估方法、装置、设备和存储介质。本申请可应用于智能语音识别和知识图谱领域。
背景技术
随着人工智能算法与算力的提升，智能语音产品正在快速普及，不同种类的智能语音可广泛应用于多种应用场景，智能语音产品中最具代表性之一的如智能音箱，用户无需手动搜索，通过语音指令便可以通过智能音箱实现多种操作，例如点播歌曲或视频、查询天气、控制智能家居设备等等。对于智能语音产品而言，能够对用户指令进行高效准确地语音识别和意图理解至关重要，因此语音识别与意图理解的能力是评估智能语音产品智能化程度的重要指标。如何合理地评估智能语音产品的意图理解准确度，使评估结果真实地反映智能产品的性能，是研发人员研究的重点和热点。
发明内容
本申请提供了一种用户意图理解满意度评估模型的生成方法、用户意图理解满意度评估方法、装置、设备以及存储介质。
根据本申请的第一方面，提供了一种用户意图理解满意度评估模型的生成方法，包括：
获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；
通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的意图理解满意度进行评估。
根据本申请的第二方面，提供了一种用户意图理解满意度评估方法，包括：
获取待评估的多轮人机交互中智能设备的多轮行为的信息；
对所述多轮行为的信息进行序列化处理，得到多个序列；
将所述多个序列输入用户意图理解满意度评估模型中，得到模型输出的用户意图理解满意度评估结果；其中，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
根据本申请的第三方面，提供了一种用户意图理解满意度评估模型的生成装置，包括：
获取模块，用于获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；
学习模块，用于通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
根据本申请的第四方面，提供了一种用户意图理解满意度评估装置，包括：
获取模块，用于获取待评估的多轮人机交互中智能设备的多轮行为的信息；
序列化处理模块，用于对所述多轮行为的信息进行序列化处理，得到多个序列；
评估模块，用于将所述多个序列输入用户意图理解满意度评估模型中，得到模型输出的意图理解满意度评估结果；其中，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
根据本申请的第五方面，提供了一种用户意图理解满意度评估模型，所述用户意图理解满意度评估模型是基于如上所述的用于生成用户意图理解满意度评估模型的方法而生成的。
根据本申请的第六方面，提供了一种电子设备，包括：
至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，
存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如上的方法。
根据本申请的第七方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如上的方法。
本申请的实施例通过对智能设备的行为进行序列化，使得智能设备的意图理解转换为可分析的数据，从而能够构建适合的机器学习模型，用于实现对用户意图理解满意度的评估。
应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是本申请实施例用户意图理解满意度评估模型的生成方法的流程框图；
图2是本申请实施例用户意图理解满意度评估方法的流程框图；
图3是本申请实施例用户意图理解满意度评估模型的生成装置的结构框图；
图4是本申请实施例用户意图理解满意度评估装置的结构框图；
图5是用来实现本申请实施例的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本申请实施例根据人机交互过程中智能语音设备对语音指令的内部意图理解与外部操作行为之间的关系，提出一种将人机交互过程中智能语音设备的多轮操作行为进行序列化，基于一系列序列化数据评估用户对智能语音设备的意图理解的满意度，能够反映智能语音设备的对语音指令的意图理解性能。
基于此，图1示出了本申请实施例提供的用于生成用户意图理解满意度评估模型的方法的流程框图，包括：
S101，获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；
S102，通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
根据本申请的实施例，首先获取多组意图理解数据，这些意图理解数据可以是对一个智能设备采集的数据，也可以是对多个智能设备采集的数据，每组数据中包括多个序列，且多个序列对应多轮人机互动过程，其中一个序列对应于一轮人机互动中智能设备的行为，这里，由于智能设备的行为是其对语音指令进行意图理解之后的操作行为，因此对智能设备的行为进行序列化使得智能设备的意图理解被抽象为可分析的数据，可为下一步训练机器学习模型做好准备。
根据本申请的实施例，可使用机器学习模型对多组意图理解数据进行学习，确定模型参数，从而构建可对智能设备进行用户意图理解满意度评估的模型，评估结果可反映出智能设备的意图理解能力的高低，可应用于智能语音识别和知识图谱领域中。
在本申请的实施例中，可选地，同一组意图理解数据中的多个序列对应的多轮人机交互应该是连续的多轮人机交互。采用多轮连续的人机交互过程的数据能够真实地反映用户与智能设备交互过程中发生的操作行为之间的关系。
举例来说，对于用户连续地多次发出相同指令的情况，可认为智能设备对该指令的意图理解出现错误，因而反馈信息不符合用户需求，导致用户需要再次地、重复地发出同一指令。这时，该智能设备的用户意图理解满意度为不满意或不准确，或其他类似的说法。
在本申请的实施例中，可选地，多个序列中包括第一序列，所述第一序列与所述智能设备的第一行为所属的行为类别相对应。类似地，多个序列中的第二序列与所述智能设备的第二行为所属的行为类别相对应，其余序列以此类推。
在本申请的实施例中，可基于对智能设备的各种操作行为进行合理分类，来实现对智能设备的行为的序列化处理。例如，根据智能设备可识别的指令的属性，或者根据智能设备的操作行为的属性，可将操作行为分为控制类(001)、视听类(002)、游戏类(003)、资讯类(004)、教育类(005)、休闲类(006)、家居操控类(007)，等等。其中括号中的编号是为该类别设置的序列号。
在本申请实施例中，行为类别与序列号应为一一对应的关系，序列号的具体格式以及数值可根据需要设置，本申请实施例中不做特殊限定。
在本申请的实施例中，如果所述多轮行为中的第一轮行为属于第一行为类别，将所述第一轮行为记为第一序列；如果所述多轮行为中的第二轮行为属于第二行为类别，将所述第二轮行为记为第二序列。
如此，对于智能设备的每一次操作行为，均可按照设定的分类方式进行归类，并确定序列号，例如：
“播放歌曲”属于视听类操作行为，序列号为002；
“增大音量”属于控制类操作行为，序列号为001；
“播报目的地天气”属于资讯类操作行为，序列号为004；
“播放课程培训视频”属于视听类或者教育类操作行为，序列号可为002或者005。
在本申请实施例中，进一步地，可对智能设备的操作行为进行多级分类，可使分类更加细化、准确，缩小评估的颗粒度，评估结果更准确。
在一种实施方式中，所述多个序列包括第二序列，所述第二序列包括第一子序列和第二子序列，其中，所述第一子序列与所述智能设备的第二行为所属的第一级行为类别相对应，所述第二子序列与所述智能设备的第二行为所属的第二级行为类别相对应，其中，一个第一级行为类别包括一个或多个第二级行为类别。
在本申请实施例中，可将前文描述的分类方式作为第一级分类，在此基础上，可对第一级分类中的每个操作大类再进行细分，作为第二级分类。
示例性地，以下通过具体的例子进行说明。
·第一级分类可包括以下类别：
控制类(001)、视听类(002)、游戏类(003)、资讯类(004)、教育类(005)、休闲类(006)、家居操控类(007)，等等。
·第二级分类对第一级分类中的类别再细分，分别如下：
①对于第一级分类中的控制类(001)，可再分为：调高音量(0001)、调低音量(0002)、退出应用(0003)、关机(0004)、基础设置(0005)、唤醒(0006)，等等；
②对于第一级分类中的视听类(002)，可再分为：歌曲播放(0001)、视频播放(0002)、播放列表(0003)、进度调节(0004)、换一首(0005)、歌曲信息(0006)、歌手信息(0007)、播放视频(0008)、视频信息(0009)、播放完成(0010)，等等；
③对于第一级分类中的资讯类(004)，可再分为：天气查询(0001)、播放完成(0002)，等等。
以上示例的括号中为对各个类别对应设置的序列号，可将第一分类的序列号和第二级分类的序列号叠加，作为一种特定操作行为的序列号。
在实际应用中，可根据评估需求以及智能设备本身特点等因袭，设置适合的第一级分类和第二级分类，以上示例并未进行穷举。
基于上述多级分类原则，本申请实施例中对多轮行为的信息进行序列化处理可包括如下步骤：
如果所述多轮行为中的第一轮行为属于第一级行为类别集合中的第一行为类别，并且属于第二级行为类别集合中的第二行为类别，则将所述第一轮行为记为第一序列与第二序列的叠加序列；其中第一序列和第二序列分别与第一行为类别和第二行为类别对应；
如果所述多轮行为中的第二轮行为属于第一级行为类别集合中的第三行为类别，并且属于第二级行为类别集合中的第四行为类别，则将所述第二轮行为记为第三序列与第四序列的叠加序列；其中第三序列和第四序列分别与第三行为类别和第四行为类别对应。
为了更清楚地说明本申请实施例中智能设备的操控行为序列的编码与用户意图理解满意度之间的关系，以下通过一个具体的例子，描述用户与智能音箱之间的一次多轮人机互动的过程。
在该多轮人机互动过程中，用户向智能音箱发出语音指令，智能音箱识别语音指令后对指令进行意图理解，并根据意图理解做出应答反馈和相应的操作行为。
具体来看，用户指令与智能音箱的应答过程包括：
指令1：小度小度；
应答1：我在；(0010006)
指令2：播放周杰伦的歌曲；
应答2：好的，为您播放《七里香》；(0020001、0020010)、《告白气球》；(0020001)
指令3：下一首；
应答3：好的，为您播放《听妈妈的话》；(0020005)
指令4：声音高一点；
应答4：调高音量；(0010001)
指令5：北海天气；
应答5：上海天气情况是；(0040001)[发生意图理解错误]
指令6：广西壮族自治区北海天气；
应答6：北海天气情况；(0040001、0040002)
指令7：退出；
应答7：退出。(0010003)
为方便描述，以上已将智能音箱操作行为的序列列于对应的括号中，例如，应答1为“我在”，该操作行为是设备被唤醒，其对应第一级分类中的“控制类(001)”以及第二级分类中的“唤醒(006)”，因此，应答1的“我在”行为对应的序列为：0010006，该序列的编码是第一级分类序列号和第二级分类序列号的叠加。并且，智能音箱被成功唤醒，本次对指令的意图理解结果为“满意”。
注意到，对于应答5，指令5的意图是查询北海天气，而应答5为播放了上海的天气情况(实际上出现了对指令5的意图理解错误)；这时，用户打断上海天气的播报，发出指令6，意图为查询广西壮族自治区北海天气，可见指令6实际上是对指令5的重复，智能音箱的应答7为播报北海天气情况，并且本次播报完成，没有被打断，意图理解正确。
从前后两次交互的内容上看，应答6和应答5均为播报天气，因此两次操作行为的序列都有0040001；进一步，应答6播报完成，对应序列增加0040002，而应答5没有播报完成，也不存在对应序列。从前后两次应答行为可分析得出，智能设备对指令5的意图理解错误，用户不满意，对指令6的意图理解正确，用户满意。
因此，从上述多轮人机交互中可以得到多个操作行为序列(记为oi)以及对应的用户意图理解满意度(记为it)，如下：
0010006(满意)、0020001(满意)、0020010(满意)、0020001(满意)、0020005(满意)、0010001(满意)、0040001(不满意)、0040001(满意)、0040002(满意)、0010003(满意)。
在本申请实施例中，可选地，将大量操作行为序列和对应的用户意图理解满意度作为训练样本数据，可对神经网络进行训练，例如卷积神经网络或循环神经网络等，可得到用户意图理解满意度评估模型，可应用于智能语音识别和知识图谱领域。
在本申请实施例中，可选地，还可采用隐马尔可夫模型(Hidden Markov Model，HMM)作为待训练或待学习的机器学习模型。可选地，基于前述的操作行为序列和对应的用户意图理解满意度，使用监督学习的方式学习模型参数，可生成用户意图理解满意度评估模型。可选地，还可仅基于前述的操作行为序列，使用非监督学习的方式学习模型参数，亦可生成用户意图理解满意度评估模型。
在此基础上，本申请实施例还提供一种用户意图理解满意度评估方法，包括：
S201，获取待评估的多轮人机交互中智能设备的多轮行为的信息；
S202，对所述多轮行为的信息进行序列化处理，得到多个序列；
S203，将所述多个序列输入用户意图理解满意度评估模型中，得到模型输出的用户意图理解满意度评估结果；其中，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
利用本申请的实施例，可基于智能设备在多轮人机交互过程中的行为序列，实现对智能设备的用户意图理解满意度评估。
例如，当需要对某智能设备的性能例如意图理解能力进行评估时，操作人员可获取与该智能设备的多轮人机交互的一系列操作行为信息，并进行序列化，例如根据本申请实施例提供的分类原则分类并序列化，然后输入用户意图理解满意度评估模型中，可得到对多轮人机交互的用户意图理解满意度评估结果，评估结果可为一系列满意度的状态，其中满意的数量越多，说明该智能设备的意图理解能力越好。
在本申请的实施例中，如前所述，可基于意图理解的操作序列构建隐马尔可夫模型，原因在于，首先，假设用户的操作序列满足马尔可夫性质和观测独立性假设，也就是状态变量序列按时间先后顺序排列，第N+1时刻的分布特性与第N时刻的分布相关，与第N时刻以前的变量的取值无关，将本申请实施例的多个操作行序列记为oi，将用户意图理解满意度记为it，可表示为P(it|it-1,ot-1,…,i1,o1)＝P(it|it-1),t＝1,2,…,T，P表示概率。关于观测独立性假设，指任意时刻的观测只依赖于该时刻马尔可夫链的状态，与其他观测及状态无关，即P(ot|iT,oT,…,it+1,ot+1,it,it-1,ot-1…,i1,o1)＝P(ot|it)。
在本申请的实施例中，如果假定用户的操作序列是马尔可夫的，其意思就是当前的操作行为与前一步的操作行为存在概率上的关联，而与再之前的操作行为没有关系。比如前述的多轮人机交互的例子中，用户想获得北海天气，而智能设备播报上海天气，用户当时的行为是打断上海天气的播报，并重新发起提问，重新发起提问的行为与之前的听歌曲等操作无关。可基于给定的用户集合U＝{u1,u2,u3,u4,…un}和每个用户的操作序列Oi，估计隐马尔可夫模型λ＝(A,B,π)的参数值，其中，A表示状态转移概率矩阵，B为观测概率矩阵，π为初始状态概率向量。可使用极大似然估计的方法，使得在该模型下观测序列概率P(O|λ)最大，即得到学习的各参数值。
在本申请的实施例中，可以使用监督学习或非监督学习的方法学习模型参数值。一方面，使用监督学习方法，需首先对用户的操作序列后对应的状态序列(即满意度序列)进行标注，然后利用极大似然估计法，估计隐马尔可夫模型的参数值。另一方面，可使用非监督学习算法Baum-Welch算法(EM算法)进行非监督学习，得到构建的隐马尔可夫模型。
评估时，基于构建的隐马尔可夫模型进行用户意图满意度评估。已知隐马尔可夫模型λ＝(A,B,π)和智能设备的操作序列Oi＝(o1,o2,…oT)，使用维特比算法，通过动态规划求解概率最大路径，求得给定操作序列的条件概率P(I|O)最大的状态的序列Ii＝(i1,i2,…iT)，路径上的节点对应满意或不满意的状态，也就是得到了操作序列对应的满意度序列，即智能设备的用户意图理解满意度评估结果。
以上通过多个实施例从不同角度描述了本申请实施例的具体设置和实现方式。与上述至少一个实施例的处理方法相对应地，本申请实施例还提供一种用户意图理解满意度评估模型的生成装置100，参考图3，其包括：
获取模块110，用于获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；
学习模块120，用于通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
与上述至少一个实施例的处理方法相对应地，本申请实施例还提供一种用户意图理解满意度评估200，参考图4，其包括：
获取模块210，用于获取待评估的多轮人机交互中智能设备的多轮行为的信息；
序列化处理模块220，用于对所述多轮行为的信息进行序列化处理，得到多个序列；
评估模块230，用于将所述多个序列输入用户意图理解满意度评估模型中，得到模型输出的用户意图理解满意度评估结果；其中，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
本申请实施例各装置中的各模块的功能可以参见上述方法实施例中的对应描述的处理，在此不再赘述。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。如图5所示，是根据本申请实施例的代码生成方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示，该电子设备包括：一个或多个处理器1001、存储器1002，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface，GUI)的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器1001为例。
存储器1002即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的代码生成方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的代码生成方法。
存储器1002作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的代码生成方法对应的程序指令/模块(例如，附图3所示的代码处理模块110、第一转换模块120和第二转换模块130)。处理器1001通过运行存储在存储器1002中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的代码生成方法。
存储器1002可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据搜索结果的分析处理电子设备的使用所创建的数据等。此外，存储器1002可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器1002可选包括相对于处理器1001远程设置的存储器，这些远程存储器可以通过网络连接至搜索结果的分析处理电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例的代码生成方法对应的电子设备还可以包括：输入装置1003和输出装置1004。处理器1001、存储器1002、输入装置1003和输出装置1004可以通过总线或者其他方式连接，本申请图5实施例中以通过总线连接为例。
输入装置1003可接收输入的数字或字符信息，以及产生与搜索结果的分析处理电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置1004可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(Liquid Crystal Display，LCD)、发光二极管(Light EmittingDiode，LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits，ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(programmable logic device，PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(Cathode Ray Tube，阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(Local Area Network，LAN)、广域网(Wide Area Network，WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (29)

1.一种用户意图理解满意度评估模型的生成方法，包括：
获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；
通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
2.根据权利要求1所述的方法，其中，所述多个序列对应的多轮人机交互是连续的多轮人机交互。
3.根据权利要求1所述的方法，其中，
所述多个序列包括第一序列，所述第一序列与所述智能设备的第一行为所属的行为类别相对应。
4.根据权利要求1所述的方法，其中，
所述多个序列包括第二序列，所述第二序列包括第一子序列和第二子序列，其中，
所述第一子序列与所述智能设备的第二行为所属的第一级行为类别相对应，
所述第二子序列与所述智能设备的第二行为所属的第二级行为类别相对应，
其中，一个第一级行为类别包括一个或多个第二级行为类别。
5.根据权利要求1所述的方法，其中，
所述多轮人机交互包括智能语音设备接收多轮语音指令并分别进行反馈，
其中，如果所述多轮语音指令中的第一轮语音指令是第一指令，且第二轮语音指令仍是所述第一指令，则与所述第一轮语音指令对应的序列的用户意图理解满意度为不满意。
6.根据权利要求1所述的方法，其中，
所述多轮人机交互包括智能语音设备接收多轮语音指令并进行反馈，
其中，如果所述多轮语音指令中的第一轮语音指令是第二指令，且在所述智能语音设备播放反馈结果的过程中接收到第二轮语音指令且所述第二轮语音指令仍是所述第二指令，则所述第一轮语音指令对应的序列的用户意图理解满意度为不满意。
7.根据权利要求1至6中任一项所述的方法，其中，
所述第一机器学习模型包括隐马尔可夫模型，
所述多组意图理解数据是未经标注的数据，或者，所述多组意图理解数据是经过标注的数据。
8.根据权利要求1至6中任一项所述的方法，其中，
所述第一机器学习模型包括神经网络模型，所述多组意图理解数据是经过标注的数据。
9.根据权利要求4所述的方法，其中，
所述第一级行为类别包括以下至少一种行为类别：控制类、视听类、资讯类、教育类、休闲类、家居类、游戏类；
所述第二级行为类别包括以下至少一种行为类别：唤醒、调高音量、调低音量、退出应用、基础设置、关机、歌曲播放、视频播放、播放列表、播放进度调节、换一首、歌曲信息、歌手信息、播放视频、视频信息、天气查询、播放完成。
10.一种用户意图理解满意度评估方法，包括：
获取待评估的多轮人机交互中智能设备的多轮行为的信息；
对所述多轮行为的信息进行序列化处理，得到多个序列；
将所述多个序列输入用户意图理解满意度评估模型中，得到模型输出的用户意图理解满意度评估结果；其中，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
11.根据权利要求10所述的方法，其中，
所述对所述多轮行为的信息进行序列化处理，包括：
如果所述多轮行为中的第一轮行为属于第一行为类别，将所述第一轮行为记为第一序列；
如果所述多轮行为中的第二轮行为属于第二行为类别，将所述第二轮行为记为第二序列。
12.根据权利要求10所述的方法，其中，
所述对所述多轮行为的信息进行序列化处理，包括：
如果所述多轮行为中的第一轮行为属于第一级行为类别集合中的第一行为类别，并且属于第二级行为类别集合中的第二行为类别，则将所述第一轮行为记为第一序列与第二序列的叠加序列；其中第一序列和第二序列分别与第一行为类别和第二行为类别对应；
如果所述多轮行为中的第二轮行为属于第一级行为类别集合中的第三行为类别，并且属于第二级行为类别集合中的第四行为类别，则将所述第二轮行为记为第三序列与第四序列的叠加序列；其中第三序列和第四序列分别与第三行为类别和第四行为类别对应；
其中，一个第一级行为类别包括一个或多个第二级行为类别。
13.根据权利要求10至12中任一项所述的方法，其中，
所述用户意图理解满意度评估模型是基于权利要求1至9中任一项所述的用于生成用户意图理解满意度评估模型的方法而生成的。
14.一种用户意图理解满意度评估模型的生成装置，包括：
获取模块，用于获取多组意图理解数据，所述多组意图理解数据中的至少一组意图理解数据包括多个序列，所述多个序列与多轮人机交互中智能设备的多轮行为相对应；
学习模块，用于通过第一机器学习模型对所述多组意图理解数据进行学习，学习完成后得到用户意图理解满意度评估模型，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
15.根据权利要求14所述的装置，其中，所述多个序列对应的多轮人机交互是连续的多轮人机交互。
16.根据权利要求14所述的装置，其中，
所述多个序列包括第一序列，所述第一序列与所述智能设备的第一行为所属的行为类别相对应。
17.根据权利要求14所述的装置，其中，
所述多个序列包括第二序列，所述第二序列包括第一子序列和第二子序列，其中，
所述第一子序列与所述智能设备的第二行为所属的第一级行为类别相对应，
所述第二子序列与所述智能设备的第二行为所属的第二级行为类别相对应，
其中，一个第一级行为类别包括一个或多个第二级行为类别。
18.根据权利要求14所述的装置，其中，
所述多轮人机交互包括智能语音设备接收多轮语音指令并分别进行反馈，
其中，如果所述多轮语音指令中的第一轮语音指令是第一指令，且第二轮语音指令仍是所述第一指令，则与所述第一轮语音指令对应的序列的用户意图理解满意度为不满意。
19.根据权利要求14所述的装置，其中，
所述多轮人机交互包括智能语音设备接收多轮语音指令并进行反馈，
其中，如果所述多轮语音指令中的第一轮语音指令是第二指令，且在所述智能语音设备播放反馈结果的过程中接收到第二轮语音指令且所述第二轮语音指令仍是所述第二指令，则所述第一轮语音指令对应的序列的用户意图理解满意度为不满意。
20.根据权利要求14至19中任一项所述的装置，其中，
所述第一机器学习模型包括隐马尔可夫模型，
所述多组意图理解数据是未经标注的数据，或者，所述多组意图理解数据是经过标注的数据。
21.根据权利要求14至19中任一项所述的装置，其中，
所述第一机器学习模型包括神经网络模型，所述多组意图理解数据是经过标注的数据。
22.根据权利要求17所述的装置，其中，
所述第一级行为类别包括以下至少一种行为类别：控制类、视听类、资讯类、教育类、休闲类、家居类、游戏类；
所述第二级行为类别包括以下至少一种行为类别：唤醒、调高音量、调低音量、退出应用、基础设置、关机、歌曲播放、视频播放、播放列表、播放进度调节、换一首、歌曲信息、歌手信息、播放视频、视频信息、天气查询、播放完成。
23.一种用户意图理解满意度评估装置，包括：
获取模块，用于获取待评估的多轮人机交互中智能设备的多轮行为的信息；
序列化处理模块，用于对所述多轮行为的信息进行序列化处理，得到多个序列；
评估模块，用于将所述多个序列输入用户意图理解满意度评估模型中，得到模型输出的用户意图理解满意度评估结果；其中，所述用户意图理解满意度评估模型用于根据多轮人机交互对应的多个序列对多轮人机交互中智能设备的用户意图理解满意度进行评估。
24.根据权利要求23所述的装置，其中，
所述序列化处理模块包括：
第一序列化单元，用于在所述多轮行为中的第一轮行为属于第一行为类别时，将所述第一轮行为记为第一序列；
第二序列化单元，用于在所述多轮行为中的第二轮行为属于第二行为类别时，将所述第二轮行为记为第二序列。
25.根据权利要求23所述的装置，其中，
所述序列化处理模块包括：
第一序列化子模块，用于在所述多轮行为中的第一轮行为属于第一级行为类别集合中的第一行为类别，并且属于第二级行为类别集合中的第二行为类别时，将所述第一轮行为记为第一序列与第二序列的叠加序列；其中第一序列和第二序列分别与第一行为类别和第二行为类别对应；
第二序列化子模块，用于在所述多轮行为中的第二轮行为属于第一级行为类别集合中的第三行为类别，并且属于第二级行为类别集合中的第四行为类别时，将所述第二轮行为记为第三序列与第四序列的叠加序列；其中第三序列和第四序列分别与第三行为类别和第四行为类别对应；
其中，一个第一级行为类别包括一个或多个第二级行为类别。
26.根据权利要求23至25中任一项所述的装置，其中，
所述用户意图理解满意度评估模型是基于权利要求1至9中任一项所述的用于生成用户意图理解满意度评估模型的装置而生成的。
27.一种用户意图理解满意度评估模型，其中，
所述用户意图理解满意度评估模型是基于权利要求1至9中任一项所述的用于生成用户意图理解满意度评估模型的方法而生成的。
28.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至13中任一项所述的方法。
29.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1至13中任一项所述的方法。
CN202010508156.6A 2020-06-05 2020-06-05 用户意图理解满意度评估方法、装置、设备和存储介质 Active CN111666396B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010508156.6A CN111666396B (zh) 2020-06-05 2020-06-05 用户意图理解满意度评估方法、装置、设备和存储介质
US17/155,783 US11580980B2 (en) 2020-06-05 2021-01-22 Method and apparatus for evaluating user intention understanding satisfaction, electronic device and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010508156.6A CN111666396B (zh) 2020-06-05 2020-06-05 用户意图理解满意度评估方法、装置、设备和存储介质

Publications (2)

Publication Number Publication Date
CN111666396A true CN111666396A (zh) 2020-09-15
CN111666396B CN111666396B (zh) 2023-10-31

Family

ID=72387002

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010508156.6A Active CN111666396B (zh) 2020-06-05 2020-06-05 用户意图理解满意度评估方法、装置、设备和存储介质

Country Status (2)

Country Link
US (1) US11580980B2 (zh)
CN (1) CN111666396B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112466434A (zh) * 2021-02-02 2021-03-09 南京硅基智能科技有限公司 心理辅导训练方案的确定方法及装置
CN112541710A (zh) * 2020-12-25 2021-03-23 北京百度网讯科技有限公司 搜索产品质量评估方法、装置、电子设备及存储介质
CN112562641A (zh) * 2020-12-02 2021-03-26 北京百度网讯科技有限公司 语音交互满意度的评估方法、装置、设备和存储介质
CN113486328A (zh) * 2021-05-27 2021-10-08 四川大学华西医院 一种评估任务的解锁方法及装置
WO2022253251A1 (zh) * 2021-06-02 2022-12-08 青岛海尔科技有限公司 用于评价交互系统交互性能的方法和装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114996859B (zh) * 2022-07-19 2022-10-25 山东贞元汽车车轮有限公司 用于车轮钢圈智能制造的智能设备控制系统
CN115309983B (zh) * 2022-07-21 2023-05-12 国家康复辅具研究中心 一种辅具适配方法、系统及存储介质
CN115064167B (zh) * 2022-08-17 2022-12-13 广州小鹏汽车科技有限公司 语音交互方法、服务器和存储介质
CN115345685A (zh) * 2022-10-18 2022-11-15 苏州大学 基于熵权法和模糊评价的共享出行服务的评价方法和系统
CN115662430B (zh) * 2022-10-28 2024-03-29 阿波罗智联(北京)科技有限公司 输入数据解析方法、装置、电子设备和存储介质
CN116881678A (zh) * 2023-09-08 2023-10-13 中国标准化研究院 一种基于人机交互的功效分析系统

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040193420A1 (en) * 2002-07-15 2004-09-30 Kennewick Robert A. Mobile systems and methods for responding to natural language speech utterance
WO2010128198A1 (en) * 2009-05-08 2010-11-11 Zokem Oy System and method for behavioural and contextual data analytics
JP2016192020A (ja) * 2015-03-31 2016-11-10 株式会社デンソーアイティーラボラトリ 音声対話装置、音声対話方法及びプログラム
CN108694942A (zh) * 2018-04-02 2018-10-23 浙江大学 一种基于家居智能服务机器人的智能家居交互问答系统
CN109545185A (zh) * 2018-11-12 2019-03-29 百度在线网络技术（北京）有限公司 交互系统评价方法、评价系统、服务器及计算机可读介质
CN109784678A (zh) * 2018-12-26 2019-05-21 秒针信息技术有限公司 一种基于音频的客户满意度评估方法和评估系统
CN109961804A (zh) * 2019-02-12 2019-07-02 百度在线网络技术（北京）有限公司 智能设备满意度评估方法、装置及存储介质
CN110046221A (zh) * 2019-03-01 2019-07-23 平安科技（深圳）有限公司 一种机器对话方法、装置、计算机设备及存储介质
CN110069776A (zh) * 2019-03-19 2019-07-30 上海拍拍贷金融信息服务有限公司 客户满意度评估方法及装置、计算机可读存储介质
US20190287524A1 (en) * 2018-03-15 2019-09-19 Baidu Online Network Technology (Beijing) Co., Ltd. Method and apparatus for determining speech interaction satisfaction
KR20190112680A (ko) * 2019-09-16 2019-10-07 엘지전자 주식회사 인공 지능을 이용한 음성 합성 장치, 음성 합성 장치의 동작 방법
CN110619867A (zh) * 2019-09-27 2019-12-27 百度在线网络技术（北京）有限公司 语音合成模型的训练方法、装置、电子设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10547729B2 (en) * 2017-03-27 2020-01-28 Samsung Electronics Co., Ltd. Electronic device and method of executing function of electronic device
US10977319B2 (en) * 2017-07-10 2021-04-13 Ebay Inc. Expandable service architecture with configurable dialogue manager
CN108197115B (zh) * 2018-01-26 2022-04-22 上海智臻智能网络科技股份有限公司 智能交互方法、装置、计算机设备和计算机可读存储介质
US11068942B2 (en) * 2018-10-19 2021-07-20 Cerebri AI Inc. Customer journey management engine
KR102281515B1 (ko) * 2019-07-23 2021-07-26 엘지전자 주식회사 개인화 언어 모델을 이용하여 사용자의 음성을 인식하는 인공 지능 장치 및 그 방법

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040193420A1 (en) * 2002-07-15 2004-09-30 Kennewick Robert A. Mobile systems and methods for responding to natural language speech utterance
WO2010128198A1 (en) * 2009-05-08 2010-11-11 Zokem Oy System and method for behavioural and contextual data analytics
JP2016192020A (ja) * 2015-03-31 2016-11-10 株式会社デンソーアイティーラボラトリ 音声対話装置、音声対話方法及びプログラム
US20190287524A1 (en) * 2018-03-15 2019-09-19 Baidu Online Network Technology (Beijing) Co., Ltd. Method and apparatus for determining speech interaction satisfaction
CN108694942A (zh) * 2018-04-02 2018-10-23 浙江大学 一种基于家居智能服务机器人的智能家居交互问答系统
CN109545185A (zh) * 2018-11-12 2019-03-29 百度在线网络技术（北京）有限公司 交互系统评价方法、评价系统、服务器及计算机可读介质
CN109784678A (zh) * 2018-12-26 2019-05-21 秒针信息技术有限公司 一种基于音频的客户满意度评估方法和评估系统
CN109961804A (zh) * 2019-02-12 2019-07-02 百度在线网络技术（北京）有限公司 智能设备满意度评估方法、装置及存储介质
CN110046221A (zh) * 2019-03-01 2019-07-23 平安科技（深圳）有限公司 一种机器对话方法、装置、计算机设备及存储介质
CN110069776A (zh) * 2019-03-19 2019-07-30 上海拍拍贷金融信息服务有限公司 客户满意度评估方法及装置、计算机可读存储介质
KR20190112680A (ko) * 2019-09-16 2019-10-07 엘지전자 주식회사 인공 지능을 이용한 음성 합성 장치, 음성 합성 장치의 동작 방법
CN110619867A (zh) * 2019-09-27 2019-12-27 百度在线网络技术（北京）有限公司 语音合成模型的训练方法、装置、电子设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
冯恩达: "基于用户意图的交互设计评估方法研究", 电子技术与软件工程 *
李美玉: "使用情感对移动图书馆用户满意度的影响研究", 中国优秀硕士毕业论文 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112562641A (zh) * 2020-12-02 2021-03-26 北京百度网讯科技有限公司 语音交互满意度的评估方法、装置、设备和存储介质
CN112562641B (zh) * 2020-12-02 2023-09-29 北京百度网讯科技有限公司 语音交互满意度的评估方法、装置、设备和存储介质
CN112541710A (zh) * 2020-12-25 2021-03-23 北京百度网讯科技有限公司 搜索产品质量评估方法、装置、电子设备及存储介质
CN112466434A (zh) * 2021-02-02 2021-03-09 南京硅基智能科技有限公司 心理辅导训练方案的确定方法及装置
US11682482B2 (en) 2021-02-02 2023-06-20 Nanjing Silicon Intelligence Technology Co., Ltd. Method and apparatus for determining psychological counseling training scheme
CN113486328A (zh) * 2021-05-27 2021-10-08 四川大学华西医院 一种评估任务的解锁方法及装置
CN113486328B (zh) * 2021-05-27 2023-03-21 四川大学华西医院 一种评估任务的解锁方法及装置
WO2022253251A1 (zh) * 2021-06-02 2022-12-08 青岛海尔科技有限公司 用于评价交互系统交互性能的方法和装置

Also Published As

Publication number Publication date
US20210383802A1 (en) 2021-12-09
CN111666396B (zh) 2023-10-31
US11580980B2 (en) 2023-02-14

Similar Documents

Publication Publication Date Title
CN111666396B (zh) 用户意图理解满意度评估方法、装置、设备和存储介质
CN110222164B (zh) 一种问答模型训练方法、问题语句处理方法、装置及存储介质
EP3648099B1 (en) Voice recognition method, device, apparatus, and storage medium
CN110473531B (zh) 语音识别方法、装置、电子设备、系统及存储介质
CN111639710A (zh) 图像识别模型训练方法、装置、设备以及存储介质
CN111241245B (zh) 人机交互处理方法、装置及电子设备
JP7395445B2 (ja) 検索データに基づくヒューマンコンピュータ対話型インタラクションの方法、装置及び電子機器
JP7091430B2 (ja) インタラクション情報推薦方法及び装置
CN108875090B (zh) 一种歌曲推荐方法、装置和存储介质
CN111651578B (zh) 人机对话方法、装置及设备
CN113450771B (zh) 唤醒方法、模型训练方法和装置
Choudhury et al. Boosting and structure learning in dynamic Bayesian networks for audio-visual speaker detection
CN112269867A (zh) 用于推送信息的方法、装置、设备以及存储介质
CN112489676A (zh) 模型训练方法、装置、设备及存储介质
CN111930912A (zh) 对话管理方法及系统、设备和存储介质
CN111986659A (zh) 建立音频生成模型的方法以及装置
CN112000330A (zh) 建模参数的配置方法、装置、设备和计算机存储介质
CN111611808A (zh) 用于生成自然语言模型的方法和装置
CN111797216A (zh) 检索项改写方法、装置、设备以及存储介质
CN112580723B (zh) 多模型融合方法、装置、电子设备和存储介质
CN111966782B (zh) 多轮对话的检索方法、装置、存储介质及电子设备
CN117193582A (zh) 交互控制方法及系统、电子设备
US20220059074A1 (en) Method for evaluating satisfaction with voice interaction, device, and storage medium
CN111914884A (zh) 梯度下降树的生成方法、装置、电子设备及存储介质
CN111914880A (zh) 决策树的生成方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant