CN109408175B - 通用高性能深度学习计算引擎中的实时交互方法及系统 - Google Patents

Abstract

本发明提供了一种通用高性能深度学习计算引擎中的实时交互方法及系统，其中，所述方法包括：确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中。本申请提供的技术方案，能够简化与计算引擎的交互过程。

Description

通用高性能深度学习计算引擎中的实时交互方法及系统

技术领域

本发明涉及数据处理技术领域，特别涉及一种通用高性能深度学习计算引擎中的实时交互方法及系统。

背景技术

随着计算引擎的不断发展，计算引擎能够实现的功能也在不断完善，能够处理的计算量也在不断攀升。

当前，计算引擎通常需要经过专业训练的用户才能使用，在于计算引擎进行交互时，往往需要利用命令行的方式，在计算引擎提供的页面中输入正确的命令行，才能够将模型或者数据导入至计算引擎中。然而，这种需要专业知识才能完成的交互方式，显然具备较高的门槛，导致用户无法便捷地使用计算引擎。

发明内容

本申请的目的在于提供一种通用高性能深度学习计算引擎中的实时交互方法及系统，能够简化与计算引擎的交互过程。

为实现上述目的，本申请提供一种通用高性能深度学习计算引擎中的实时交互方法，所述方法包括：确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中。

进一步地，所述通用高性能深度学习计算引擎提供有指定交互接口；相应地，所述方法还包括：通过所述指定交互接口，接收用户客户端下达的计算执行指令和/或建模分析指令，并响应于上述指令执行对应的动作；在执行完动作之后，将执行结果展示于当前界面中。

进一步地，将所述待导入的模型导入选择的所述目标节点中包括：从所述远程路径处读取所述待导入的模型，并将读取的所述模型导入选择的所述目标节点中。

进一步地，在所述通用高性能深度学习计算引擎中选择目标节点包括：接收用户客户端下达的勾选指令，并将所述勾选指令对应的主机组或主机作为所述目标节点；或者获取所述待导入的模型的模型标识，并按照预设转换规则，将所述模型标识转换为字符串，并将所述字符串表征的主机组或者主机作为所述目标节点。

进一步地，在所述通用高性能深度学习计算引擎中选择目标节点包括：在所述通用高性能深度学习计算引擎中检测各个节点的剩余计算资源；将剩余计算资源大于或者等于指定资源阈值的节点作为所述目标节点。

进一步地，将所述待导入的模型导入选择的所述目标节点中包括：将所述待导入的模型按照性能划分为多个模型组件，所述模型组件与性能参数相关联；识别各个所述目标节点所支持的性能参数，并将所述模型组件发送至性能参数一致的目标节点处。

未实现上述目的，本申请还提供一种通用高性能深度学习计算引擎中的实时交互系统，所述系统包括：节点选择单元，用于确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；路径导入单元，用于输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中。

进一步地，所述通用高性能深度学习计算引擎提供有指定交互接口；相应地，所述系统还包括：指定接收单元，用于通过所述指定交互接口，接收用户客户端下达的计算执行指令和/或建模分析指令，并响应于上述指令执行对应的动作；结果展示单元，用于在执行完动作之后，将执行结果展示于当前界面中。

进一步地，所述节点选择单元包括：勾选响应模块，用于接收用户客户端下达的勾选指令，并将所述勾选指令对应的主机组或主机作为所述目标节点；或者标识转换模块，用于获取所述待导入的模型的模型标识，并按照预设转换规则，将所述模型标识转换为字符串，并将所述字符串表征的主机组或者主机作为所述目标节点。

进一步地，所述路径导入单元包括：组件划分模块，用于将所述待导入的模型按照性能划分为多个模型组件，所述模型组件与性能参数相关联；参数对应模块，用于识别各个所述目标节点所支持的性能参数，并将所述模型组件发送至性能参数一致的目标节点处。

由上可见，本申请提供的技术方案，当需要向计算引擎中导入模型时，计算引擎可以提供节点选择界面。用户可以在节点选择界面中选择需要导入模型的目标节点。当然，在实际应用中，计算引擎也可以提供一键选择目标节点的功能，当用户触发该功能时，计算引擎可以自动选择符合要求的目标节点，无需用户进行勾选操作。在选择了待导入的目标节点之后，计算引擎还可以提供模型的路径输入框。用户在该路径输入框中可以输入模型的远程路径，这样，计算引擎可以自动从该远程路径处读取对应的模型，并将读取的模型导入以上选择的目标节点中。由此可见，本申请提供的技术方案，用户无需输入复杂的命令行，而是可以通过可视化界面的方式来导入模型，从而简化了导入模型的过程。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：

图1为本发明实施例中通用高性能深度学习计算引擎中的实时交互方法流程图；

图2为本发明实施例中通用高性能深度学习计算引擎中的实时交互系统的功能模块图。

具体实施方式

以下结合附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。

请参阅图1，本申请提供的通用高性能深度学习计算引擎中的实时交互方法可以包括以下步骤。

S1：确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；

S2：输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中。

在本实施方式中，所述通用高性能深度学习计算引擎提供有指定交互接口，所述指定交互接口例如可以是shell接口；相应地，所述方法还包括：

通过所述指定交互接口，接收用户客户端下达的计算执行指令和/或建模分析指令，并响应于上述指令执行对应的动作；

在执行完动作之后，将执行结果展示于当前界面中。

在本实施方式中，还包括分析用户客户端下达的计算执行指令和/或建模分析指令，当所述用户客户端下达的计算执行指令和/或建模分析指令出现错误时，通过指定交互接口对用户进行提示，或，识别用户使用指定交互接口时的情感信息，并对所述情感信息进行分类，分为直接响应于上述指令执行对应的动作的情感信息和通过指定交互接口对用户进行提示的情感信息，所述分类的优选方法为根据用户的疑惑程度进行分类，所述识别用户使用指定交互接口时的情感信息，包括：利用摄像头装置和麦克风同步获取人脸表情的视频数据以及语音数据，并对所述视频数据进行情感分类；通过语音识别工具对所获得的语音数据进行语音识别，获得与所述语音数据对应的文本内容；利用N-gram算法对所述文本内容进行文本特征提取，获得第一信息特征，即文本信息特征；利用分词工具对所述文本内容进行分词，获得分词结果；利用情感词典找到分词结果中包含的情感词并标记为情感特征词；具体为，利用分词工具对所述文本内容进行分词，获得分词结果，所述分词结果为依次排序的词语，将所述分词结果存入本地语音词典库；利用情感词典找到分词结果中包含的情感词并标记为情感特征词对所述情感特征问进行情感标注，获得相应的情感种类并将所述情感特征词和相应的情感种类存入本地语音词典库；利用梅尔频率倒谱系数对所述语音数据进行语音特征提取，获得整体语音特征；根据所述分词结果对所述语音数据进行端点检测，获得语音段；提取所述语音段的韵律学特征，所述韵律学特征包括语速、振幅特征、基音周期和共振峰；将所述韵律学特征和整体语音特征进行耦合，获得第二信息特征，即语音信息寺征；根据所述语音段对所述视频数据进行划分，获得图像集并对所述图像集进行到像特征提取，获得第三信息特征，即表情信息特征；对所述文本信息特征、语音信息特征和表情信息特征进行耦合，获得综合信息特征；利用深度学习方法对所述综合信息特征进行数据优化，获得优化的综合信息特征；利用分类器对所述优化的综合信息特征进行训练，获得情感识别模型，以所述情感识别模型实现对多类信息耦合的情感识别。

在本实施方式中，将所述待导入的模型导入选择的所述目标节点中包括：

从所述远程路径处读取所述待导入的模型，并将读取的所述模型导入选择的所述目标节点中。

在本实施方式中，在所述通用高性能深度学习计算引擎中选择目标节点包括：

接收用户客户端下达的勾选指令，并将所述勾选指令对应的主机组或主机作为所述目标节点。

在这种场景下，计算引擎呈现给用户的可视化界面中，可以列出主机组和主机的名称，在名称之前可以具备选择框。当用户在选择框内勾选了主机组或者主机之后，这些被勾选的主机组或主机便可以作为所述目标节点。

此外，计算引擎还可以采用自动选择目标节点的模式。在这种模式下，用户无需勾选主机组或主机，而是可以直接下达一键选择的指令。计算引擎接收到该指令之后，可以按照预设转换规则来确定目标节点。该预设转换规则可以是一致性哈希算法，通过将模型的名称与主机组/主机的名称进行哈希映射，从而可以在导入模型时，可以获取所述待导入的模型的模型标识，并按照所述预设转换规则，将所述模型标识转换为字符串，该字符串便可以作为主机组或者主机的名称，然后，可以将所述字符串表征的主机组或者主机作为所述目标节点。

在本实施方式中，在所述通用高性能深度学习计算引擎中选择目标节点包括：

在所述通用高性能深度学习计算引擎中检测各个节点的剩余计算资源；

将剩余计算资源大于或者等于指定资源阈值的节点作为所述目标节点。

所述计算资源可以是CPU资源、内存资源、存储空间资源等。这样，从大量的主机组或主机中筛选出剩余富足计算资源的主机组或主机，从而能够保证后续能够正常地对导入的模型进行处理。

在本实施方式中，将所述待导入的模型导入选择的所述目标节点中包括：

将所述待导入的模型按照性能划分为多个模型组件，所述模型组件与性能参数相关联；

识别各个所述目标节点所支持的性能参数，并将所述模型组件发送至性能参数一致的目标节点处。

在本实施方式中，一个模型中的各个模型组件可能具备不同的性能参数，该性能参数例如可以是运行环境版本、所需的最低存储空间、所需的最低CPU频率等。这样，不同的目标节点会具备不同的性能参数，此时，可以将模型组件发送至性能参数一致的目标节点处，从而能够保证模型组件能够被正常执行。

请参阅图2，本申请还提供一种通用高性能深度学习计算引擎中的实时交互系统，所述系统包括：

节点选择单元，用于确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；

路径导入单元，用于输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中。

在本实施方式中，所述通用高性能深度学习计算引擎提供有指定交互接口；相应地，所述系统还包括：

指定接收单元，用于通过所述指定交互接口，接收用户客户端下达的计算执行指令和/或建模分析指令，并响应于上述指令执行对应的动作；

结果展示单元，用于在执行完动作之后，将执行结果展示于当前界面中。

在本实施方式中，所述节点选择单元包括：

勾选响应模块，用于接收用户客户端下达的勾选指令，并将所述勾选指令对应的主机组或主机作为所述目标节点；

或者

标识转换模块，用于获取所述待导入的模型的模型标识，并按照预设转换规则，将所述模型标识转换为字符串，并将所述字符串表征的主机组或者主机作为所述目标节点。

在本实施方式中，所述路径导入单元包括：

组件划分模块，用于将所述待导入的模型按照性能划分为多个模型组件，所述模型组件与性能参数相关联；

参数对应模块，用于识别各个所述目标节点所支持的性能参数，并将所述模型组件发送至性能参数一致的目标节点处。

由上可见，本申请提供的技术方案，当需要向计算引擎中导入模型时，计算引擎可以提供节点选择界面。用户可以在节点选择界面中选择需要导入模型的目标节点。当然，在实际应用中，计算引擎也可以提供一键选择目标节点的功能，当用户触发该功能时，计算引擎可以自动选择符合要求的目标节点，无需用户进行勾选操作。在选择了待导入的目标节点之后，计算引擎还可以提供模型的路径输入框。用户在该路径输入框中可以输入模型的远程路径，这样，计算引擎可以自动从该远程路径处读取对应的模型，并将读取的模型导入以上选择的目标节点中。由此可见，本申请提供的技术方案，用户无需输入复杂的命令行，而是可以通过可视化界面的方式来导入模型，从而简化了导入模型的过程。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (4)

1.一种通用高性能深度学习计算引擎中的实时交互方法，其特征在于，所述方法包括：

确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；

输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中；

所述通用高性能深度学习计算引擎提供有指定交互接口；相应地，所述方法还包括：

通过所述指定交互接口，接收用户客户端下达的计算执行指令和/或建模分析指令，并响应于上述指令执行对应的动作；

在执行完动作之后，将执行结果展示于当前界面中；

分析用户客户端下达的计算执行指令和/或建模分析指令，当所述用户客户端下达的计算执行指令和/或建模分析指令出现错误时，通过指定交互接口对用户进行提示，

或，

识别用户使用指定交互接口时的情感信息，并对所述情感信息进行分类，分为直接响应于上述指令执行对应的动作的情感信息和通过指定交互接口对用户进行提示的情感信息，所述分类的优选方法为根据用户的疑惑程度进行分类，所述识别用户使用指定交互接口时的情感信息，包括：利用摄像头装置和麦克风同步获取人脸表情的视频数据以及语音数据，并对所述视频数据进行情感分类；

通过语音识别工具对所获得的语音数据进行语音识别，获得与所述语音数据对应的文本内容；

利用N-gram算法对所述文本内容进行文本特征提取，获得第一信息特征，即文本信息特征；

利用分词工具对所述文本内容进行分词，获得分词结果；

利用情感词典找到分词结果中包含的情感词并标记为情感特征词；具体为，利用分词工具对所述文本内容进行分词，获得分词结果，所述分词结果为依次排序的词语，将所述分词结果存入本地语音词典库；

利用情感词典找到分词结果中包含的情感词并标记为情感特征词对所述情感特征问进行情感标注，获得相应的情感种类并将所述情感特征词和相应的情感种类存入本地语音词典库；

利用梅尔频率倒谱系数对所述语音数据进行语音特征提取，获得整体语音特征；

根据所述分词结果对所述语音数据进行端点检测，获得语音段；

提取所述语音段的韵律学特征，所述韵律学特征包括语速、振幅特征、基音周期和共振峰；

将所述韵律学特征和整体语音特征进行耦合，获得第二信息特征，即语音信息寺征；

根据所述语音段对所述视频数据进行划分，获得图像集并对所述图像集进行到像特征提取，获得第三信息特征，即表情信息特征；

对所述文本信息特征、语音信息特征和表情信息特征进行耦合，获得综合信息特征；

利用深度学习方法对所述综合信息特征进行数据优化，获得优化的综合信息特征；

利用分类器对所述优化的综合信息特征进行训练，获得情感识别模型，以所述情感识别模型实现对多类信息耦合的情感识别；

在所述通用高性能深度学习计算引擎中选择目标节点，包括：

接收用户客户端下达的一键选择指令，获取所述待导入的模型的模型标识，并按照预设转换规则，将所述模型标识转换为字符串，并将所述字符串表征的主机组或者主机作为所述目标节点；

所述预设转换规则包括：采用一致性哈希算法，通过将模型的名称与主机组或者主机的名称进行哈希映射，从而将所述模型标识转换为字符串；

将所述待导入的模型导入选择的所述目标节点中包括：

将所述待导入的模型按照性能划分为多个模型组件，所述模型组件与性能参数相关联；

识别各个所述目标节点所支持的性能参数，并将所述模型组件发送至性能参数一致的目标节点处。

2.根据权利要求1所述的方法，其特征在于，将所述待导入的模型导入选择的所述目标节点中包括：

从所述远程路径处读取所述待导入的模型，并将读取的所述模型导入选择的所述目标节点中。

3.根据权利要求1所述的方法，其特征在于，在所述通用高性能深度学习计算引擎中选择目标节点包括：

在所述通用高性能深度学习计算引擎中检测各个节点的剩余计算资源；

将剩余计算资源大于或者等于指定资源阈值的节点作为所述目标节点。

4.一种通用高性能深度学习计算引擎中的实时交互系统，其特征在于，所述系统包括：

节点选择单元，用于确定待导入的模型，并在所述通用高性能深度学习计算引擎中选择目标节点，所述目标节点包括主机组或者主机组内的主机；

路径导入单元，用于输入所述待导入的模型对应的远程路径，并按照所述远程路径，将所述待导入的模型导入选择的所述目标节点中；

所述通用高性能深度学习计算引擎提供有指定交互接口；相应地，所述系统还包括：

指定接收单元，用于通过所述指定交互接口，接收用户客户端下达的计算执行指令和/或建模分析指令，并响应于上述指令执行对应的动作；

结果展示单元，用于在执行完动作之后，将执行结果展示于当前界面中；

分析与识别模块，用于分析用户客户端下达的计算执行指令和/或建模分析指令，当所述用户客户端下达的计算执行指令和/或建模分析指令出现错误时，通过指定交互接口对用户进行提示，

或，

识别用户使用指定交互接口时的情感信息，并对所述情感信息进行分类，分为直接响应于上述指令执行对应的动作的情感信息和通过指定交互接口对用户进行提示的情感信息，所述分类的优选方法为根据用户的疑惑程度进行分类，所述识别用户使用指定交互接口时的情感信息，包括：利用摄像头装置和麦克风同步获取人脸表情的视频数据以及语音数据，并对所述视频数据进行情感分类；

通过语音识别工具对所获得的语音数据进行语音识别，获得与所述语音数据对应的文本内容；

利用N-gram算法对所述文本内容进行文本特征提取，获得第一信息特征，即文本信息特征；

利用分词工具对所述文本内容进行分词，获得分词结果；

利用情感词典找到分词结果中包含的情感词并标记为情感特征词；具体为，利用分词工具对所述文本内容进行分词，获得分词结果，所述分词结果为依次排序的词语，将所述分词结果存入本地语音词典库；

利用情感词典找到分词结果中包含的情感词并标记为情感特征词对所述情感特征问进行情感标注，获得相应的情感种类并将所述情感特征词和相应的情感种类存入本地语音词典库；

利用梅尔频率倒谱系数对所述语音数据进行语音特征提取，获得整体语音特征；

根据所述分词结果对所述语音数据进行端点检测，获得语音段；

提取所述语音段的韵律学特征，所述韵律学特征包括语速、振幅特征、基音周期和共振峰；

将所述韵律学特征和整体语音特征进行耦合，获得第二信息特征，即语音信息寺征；

根据所述语音段对所述视频数据进行划分，获得图像集并对所述图像集进行到像特征提取，获得第三信息特征，即表情信息特征；

对所述文本信息特征、语音信息特征和表情信息特征进行耦合，获得综合信息特征；

利用深度学习方法对所述综合信息特征进行数据优化，获得优化的综合信息特征；

利用分类器对所述优化的综合信息特征进行训练，获得情感识别模型，以所述情感识别模型实现对多类信息耦合的情感识别；

所述节点选择单元包括：

标识转换模块，用于接收用户客户端下达的一键选择指令，获取所述待导入的模型的模型标识，并按照预设转换规则，将所述模型标识转换为字符串，并将所述字符串表征的主机组或者主机作为所述目标节点；

所述预设转换规则包括：采用一致性哈希算法，通过将模型的名称与主机组或者主机的名称进行哈希映射，从而将所述模型标识转换为字符串；

所述路径导入单元包括：

组件划分模块，用于将所述待导入的模型按照性能划分为多个模型组件，所述模型组件与性能参数相关联；

参数对应模块，用于识别各个所述目标节点所支持的性能参数，并将所述模型组件发送至性能参数一致的目标节点处。

Images