CN112015374B

CN112015374B - 一种基于自然语言的跨编程语言微服务集成系统

Info

Publication number: CN112015374B
Application number: CN202010830187.3A
Authority: CN
Inventors: 王羽; 陆辰; 葛唯益; 姜晓夏; 荀智德; 王振宇; 刘亚军
Original assignee: CETC 28 Research Institute
Current assignee: CETC 28 Research Institute
Priority date: 2020-08-18
Filing date: 2020-08-18
Publication date: 2022-09-06
Anticipated expiration: 2040-08-18
Also published as: CN112015374A

Abstract

本发明提供了一种基于自然语言的跨编程语言微服务集成系统，在确保系统稳定性的条件下，降低服务间的耦合性，实现对业务服务的快速集成与高效管理能力，通过一套包括服务注册、注销、调用软件以及问题语义描述框架软件的服务集成框架，对系统内的各类服务统一管理。本发明具备问题语义理解与业务服务集成的能力，为了对系统内各类服务的集成管理，支撑各项功能引擎的封装和集成，包括业务服务的注册、封装、调用框架、问题语义描述的能力。本发明的优点在于能够高效接入到应用系统中时，只需要应用系统额外实现注册、注销以及问题语义描述接口，即可快速集成并实现基于语义理解的业务集成功能。

Description

一种基于自然语言的跨编程语言微服务集成系统

技术领域

本发明涉及一种基于自然语言的跨编程语言微服务集成系统。

背景技术

随着互联网的不断发展，面对用户量急速增长和日益频繁的需求改动，传统的单体应用架构已经难以支撑现有的业务体系，于是分布式应用架构的出现为开发者提供了一种新思路。微服务作为一种颗粒度更小的分布式架构，其思想是通过将一个系统按某种规则划分为多个功能单一的小型服务，这些服务运行在彼此的进程中，服务之间采用轻量级通信协议通信，从而实现系统功能。

针对组件化、模块化的单体应用，如何将大量松耦合的应用进行统一化的管理及监控，如何保证服务间的相互调用以及分布式事务处理的一致性，如何实现服务发现注册和配置管理，都是微服务架构或者说是分布式架构统一面临的问题。

Spring Boot是由Pivotal团队提供的全新框架，其设计目的是用来简化新Spring应用的初始搭建以及开发过程。其是Spring社区发布的一个开源项目，旨在帮助开发者快速并且更简单的构建项目。大多数SpringBoot项目只需要很少的配置文件。该框架使用了特定的方式来进行配置，从而使开发人员不再需要定义样板化的配置。Spring Cloud基于Spring Boot，为我们提供了配置管理、服务发现、服务注册、代理服务等我们在做分布式开发常用问题的解决方案，然而该架构是基于JAVA语言开发，目前大量的系统中是通过C++开发的已有代码以及大量人工智能相关算法则大多通过Python语言开发，与Spring Cloud框架难以集成，并且无法解决通过自然语言调用服务的具体业务功能。

发明内容

发明目的：本发明所要解决的技术问题是为克服不同的编程语言之间的交互困难以及无法通过自然语言调用应用服务的难题。

技术方案：为了解决上述技术问题，本发明公开了一种基于自然语言的跨编程语言微服务集成系统，通过多语言服务注册发现、负载均衡、自然语言语义描述映射等模块进行事先，其中多语言服务注册发现模块能够对C++、JAVA、Python等语言编写的服务进行集成。本集成框架通过JAVA语言开发，各服务通过REST请求向业务集成框架发送服务的注册信息，其中包含服务的服务名称、服务地址、服务参数、服务语义描述等关键信息；发送服务的注销信息，在服务不在线时进行注销；发送服务的心跳信息，其中包含服务的运行状态以及调度情况等。本发明系统具体包括服务提供方模块、服务请求方模块以及业务集成框架模块；本发明系统能够将不同的编写语言如C++、Python以及JAVA编写的服务集成起来，能够统一进行管理控制以及语义驱动调用

本发明具体提供了一种基于自然语言的跨编程语言微服务集成系统，包括服务提供方模块、服务请求方模块以及业务集成框架模块；

其中，所述服务提供方模块用于提供业务服务功能，业务服务功能包括：按照业务需求完成服务，并将服务的名称、服务地址、参数名称及取值范围、服务的语义描述信息发送给业务集成框架模块；

举例：海量的文本分析业务中，针对文本进行阅读理解是文本分析中重要的功能模块，文本阅读理解由于需要消耗资源较大，往往需要运行多个服务实例来满足业务需求。文本阅读理解的每个实例向业务集成框架发送信息如下：

服务名称：文本阅读理解

服务地址：http://192.168.1.105:8888/machineReading

参数名称：[{参数名称：需要理解的问题},{参数类型：字符串},{参数取值范围：不大于100个字}]

服务语义描述：{自然语言命令模板:”*机器阅读理解回答问题(？<query.*>)”,condition:”[0-100]”}

所述服务请求方模块用于向业务集成框架模块发送服务请求，并接收业务集成框架模块的反馈结果；

所述业务集成框架模块用于对服务请求进行解析，根据负载状况选择最优的服务实例进行调用，并将其反馈给服务请求方模块。

所述业务集成框架模块包括语义描述映射模块和负载均衡服务池，语义描述映射模块用于存储服务提供方模块发送的服务的语义描述信息；

负载均衡服务池用于存储服务名称、服务地址信息。

系统执行如下步骤：

A、服务提供方模块对于同一个业务功能，根据可能的调用需求，启动两个以上的应用实例，通过不同的服务实例实现相同的业务服务功能；

B、服务提供方模块按照服务编写语言的不同，实现服务注册、服务注销以及服务心跳接口；

C、服务提供方模块根据规范编写自然语言描述到常用功能调用表达式，并提供业务服务调用的常用自然语言命令描述或者自然语言命令模板，从而能够自动实现从自然语言到业务调用接口的映射，实现各业务服务与自然语言人机交互客户端的集成；

举例：以服务请求方向业务集成框架发送自然语言请求“请用机器阅读理解回答问题：卡尔文森号服役年月”，服务提供方解析自然语言请求，匹配到服务描述模板：{自然语言命令模板:”请用机器阅读理解回答问题：(？<query.*>)”,condition:”[0-100]”}，映射到服务名为文本阅读理解的服务。

D、服务提供方模块将服务注册、注销、心跳以及服务的语义描述信息一起发送到业务集成框架模块的注册中心，同时将消息总线以及Socket数据发送至业务集成框架模块；

E、业务集成框架模块将服务提供方模块发送的服务的语义描述信息存储到语义描述映射模块；将服务名称、服务地址信息存储到负载均衡服务池；

F、服务请求方模块发送请求服务给业务集成框架模块；

G、业务集成框架模块根据请求的类型，进行分开处理，如果是自然语言请求，则进行语义描述解析，匹配到服务名；如果不是自然语言请求，直接获取服务名，最后通过服务名请求服务提供方；

H、业务集成框架模块将请求的反馈结果返回给服务请求方模块。

步骤A包括：

A-1、编写业务功能程序，并将功能封装成可以调用的Web服务；

A-2、通过定义Web服务容器的不同端口，对于同一个功能启动两个以上不同的实例，占用不同的端口。

步骤B包括：

B-1、如果服务提供方使用C++或者Python语言编写的服务，需要实现注册、服务注销以及服务心跳这三类接口；如果服务提供方使用Java语言，则直接使用spring boot框架，无需实现相关接口；

B-2、如果服务顺利启动时，调用服务注册接口，发送服务名称、服务地址、服务端口、服务参数说明信息；

B-3、如果服务顺利故障或者停止服务时，调用服务注销接口，发送服务名称、服务地址、服务端口、服务注销原因；

B-4、如果服务运行并持续提供服务时，调用服务心跳接口发送心跳信息，心跳信息包括服务名称、服务地址、服务端口和服务被调用情况。

步骤C包括：

C-1、服务提供方模块根据服务描述规范编写常用自然语言命令描述或者自然语言命令模板，定义清楚能够驱动该服务的自然语言语句的模板样式；

举例：如机器阅读理解服务，其模板如下：

{自然语言命令模板:”*机器阅读理解回答问题(？<query.*>)”,condition:”[0-100]”}

C-2、服务提供方模块提供常用的调用自然语言语句；

举例：如机器阅读理解服务，常用的调用自然语言语句如下：

用机器阅读理解回答问题，请用机器阅读理解回答问题。

C-3、服务提供方模块提供服务调用的参数名称以及参数取值范围。

举例：如机器阅读理解服务，参数名称以及参数取值范围如下：

参数名称：问句；参数类型：字符串；参数取值范围：一百个字符以内；

步骤D包括：

D-1、如果服务顺利启动时，调用服务注册接口向业务集成框架模块发送注册信息；

D-2、如果服务顺利故障或者停止服务时，调用服务注销接口向业务集成框架模块发送注销信息；

D-3、如果服务运行并持续提供服务时，调用服务心跳接口向业务集成框架模块发送心跳信息。

步骤E包括：

E-1、业务集成框架模块将服务发送的自然语言命令描述、自然语言命令模板、常用的调用自然语言语句存储到语义描述映射模块；

E-2、业务集成框架模块将服务发送的服务名称、服务地址、服务参数名称及取值范围存储到负载均衡服务池。

步骤F包括：

F-1、服务请求方模块发送Web服务请求给业务集成框架模块；

F-2、服务请求方模块发送自然语言命令给业务集成框架模块。

步骤G包括：

G-1、如果服务请求方模块发送的是自然语言命令，调用语义描述映射模块对自然语言进行意图识别以及槽位提取，映射到一个服务功能，并将服务中的参数从自然语言命令中提取出来；如果服务请求方模块是直接的Web服务请求则跳过该步骤；

G-2、根据请求或者解析出的服务名称，请求负载均衡服务池，负载均衡服务池作用是根据当前负载情况，找出最合适的服务实例，负载均衡服务池根据各服务实例的运行状态以及被调用的次数信息计算出各个实例的优先级，优先使用被调用次数较少且运行状态良好的实例进行请求，优先调用B_score分值较高的实例进行请求，从而完成业务的统一接入，B_score具体计算公式如下，

B_score＝(E^now/E_all)*E_m/(C^m/C_all)

其中E_now为机器当前所占机器资源的大小，E_all代表机器所有的资源大小，E_m为机器在所有运行相同实例的机器中的打分，C_m为机器运行实例的次数，C_all为所有实例运行的次数；

步骤H包括：

H-1、根据服务提供方模块的反馈结果，如果一段时间内未反馈，根据服务消耗资源的大小，这段时间一般设置在1秒、10秒、20秒等，业务集成框架模块返回服务请求方服务未响应；

H-2、根据服务提供方模块的反馈结果，如果服务无法完成，则业务集成框架模块返回服务请求方服务未完成；

H-3、根据服务提供方模块的反馈结果，如果服务正常反馈结果，则业务集成框架模块将结果转发给服务请求方。

本发明与现有技术相比，显著优点是：1)能够将跨语言的服务进行集成，无需大量的代码改写工作，只需要实现少量接口即可以实现集成。2)能够实现通过自然语言调用最适合的应用实例完成任务，实现响应的速度最快，完成的任务效果更好。

附图说明

下面结合附图和具体实施方式对本发明做更进一步的具体说明，本发明的上述和/或其他方面的优点将会变得更加清楚。

图1为本发明系统框架图。

图2为槽位示意图。

图3是表达式示意图。

具体实施方式

如图1所示，本发明提供了一种基于自然语言的跨编程语言微服务集成系统，系统实现的步骤如下：

步骤A:相同的业务功能可以通过不同的服务实例进行实现，通过相同的业务逻辑名称申明，但是通过不同的端口实现业务功能，相关服务可以通过web容器或者docker容器进行发布；

步骤B:C++以及Python语言编写的服务功能，通过实现服务注册、注销以及心跳等服务接口实现相关功能，其中注册接口提供服务的名称、服务的接口地址、服务的参数可能取值范围以及服务描述，如图2所示，以一个文本摘要为例，其服务名为“文本摘要服务”，服务的地址为http://6.103.13.33:8803/word，服务参数的名称为input，参数的类型是字符串，取值没有限制，语义描述的模板id为8803；

步骤C:根据规范编写自然语言描述到常用功能调用表达式，并提供业务服务调用的常用自然语言命令描述或者自然语言命令模板，从而能够自动实现从自然语言到业务调用接口的映射，实现各业务服务与自然语言人机交互客户端的集成，其中自然语言描述包含以下几个部分：

1.业务常用例句，指驱动具体服务时，可能用到的常用的自然语言表达，以地图操作为例，如一个服务提供地图放大缩小功能，则常用例句为“地图放大十倍”、“地图缩小十倍”等。

2.自然语言描述模板表达式，指在可以枚举的情况下，列出可能的操作指令语句模板，一般是由正则表达式以及实体类型标签等元素组成。

服务提供方模块将服务注册、注销、心跳以及服务语义描述信息一起发送到注册中心，同时将消息总线以及Socket数据发送至业务集成框架模块，通过业务集成框架模块统一将数据服务进行集成应用。

步骤D：服务提供方模块将服务注册、注销、心跳以及服务语义描述信息一起发送到业务集成框架的注册中心，同时将消息总线以及Socket数据发送至业务集成框架模块；

步骤E:服务请求方模块中的各个客户端向业务集成框架发送服务请求，如果是带自然语言的则将其发送至业务集成框架模块的语义描述应用模块；如果是不含自然语言的则将其发送至业务集成框架模块的负载均衡服务池中

步骤F：业务集成框架模块接收到自然语义调用请求时，通过语音描述映射模块进行解析，语义描述映射模块由于接入了各个服务的自然语言描述，并且通过基于机器学习的正则表达式进行解析，能够解析问题对应的服务以及服务的槽位、参数等信息；具体是经过以下两个步骤：

1.意图识别

将文本请求分到各个业务等不同类别，从而支撑面向不同业务的参数提取需要。通过基于机器学习的分类方法可以有效解决问题，以TextCNN+最大熵的双层分类体系，用TextCNN方法对领域进行划分，最大熵方法对意图进行划分，可以发挥词向量和卷积神经网络的作用对问题特征进行挖掘，对于领域内的意图分类采用最大熵的方法进行分类可以针对业务需求灵活处理特征的选择工作，利用模型得出在特征限制条件下具有最优的概率分布结果。

2.槽位提取

由于问句的关键参数种类繁多，固定模式的参数可以通过正则表达式等基于规则的方法获取较高的准确率，而不固定模式的参数则需要采用机器学习算法来进行识别。为了在所有参数类型上都取得较高的准确率，本方案为规则加机器学习抽取的方法对用户的关键参数进行提取。首先采用机器学习模板的方式对用户的问题进行匹配，对每一个领域下的意图配置若干个正则表达式，在正则表达式中设置分组用于提取子串作为槽位信息，每个分组可设置文字内容的过滤条件。用户的请求首先对所有的正则表达式进行匹配，一旦匹配成功则将此请求分入该意图并提取关键信息。

如收到一条调用文本摘要服务的自然语言请求：“为序号为10327的新闻生成摘要”，语义描述映射模块匹配到如图3表达式用来解析出改服务的槽位为(？<qindex>.*)，参数为10327，进而调用文本摘要算法计算出结果。

步骤G：业务集成框架模块接入的服务以及数据统一接入到服务均衡服务池中进行管理，业务集成框架模块的负载均衡服务池在接收到请求时，根据各服务实例的运行状态以及被调用的次数，优先使用被调用次数较少且运行状态良好的实例进行请求，从而完成业务的统一接入，具体计算公式如下，B_score具体计算公式如下，其中E_now为机器当前所占机器资源的大小，E_all代表机器所有的资源大小，E_m为机器在所有运行相同实例的机器中的打分，C_m为机器运行实例的次数，C_all为所有实例运行的次数。

B_score＝(E^now/E_all)*E_m/(C^m/C_all)

步骤F：根据负载均衡得到最优的请求结果后，业务集成框架模块将所有的请求的解析结果信息发送至服务提供方，并将服务结果反馈给服务请求方。

本发明提供了一种基于自然语言的跨编程语言微服务集成系统，具体实现该技术方案的方法和途径很多，以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。本实施例中未明确的各组成部分均可用现有技术加以实现。

Claims

1.一种基于自然语言的跨编程语言微服务集成系统，其特征在于，包括服务提供方模块、服务请求方模块以及业务集成框架模块；

所述业务集成框架模块用于对服务请求进行解析，根据负载状况选择最优的服务实例进行调用，并将其反馈给服务请求方模块；

负载均衡服务池用于存储服务名称、服务地址信息；

系统执行如下步骤：

A、服务提供方模块对于同一个业务功能，根据调用需求，启动两个以上的应用实例，通过不同的服务实例实现相同的业务服务功能；

F、服务请求方模块发送请求服务给业务集成框架模块；

2.根据权利要求1所述的系统，其特征在于，步骤A包括：

3.根据权利要求2所述的系统，其特征在于，步骤B包括：

4.根据权利要求3所述的系统，其特征在于，步骤C包括：

C-2、服务提供方模块提供常用的调用自然语言语句；

5.根据权利要求4所述的系统，其特征在于，步骤D包括：

6.根据权利要求5所述的系统，其特征在于，步骤E包括：

7.根据权利要求6所述的系统，其特征在于，步骤F包括：

F-1、服务请求方模块发送Web服务请求给业务集成框架模块；

8.根据权利要求7所述的系统，其特征在于，步骤G包括：

G-2、根据请求或者解析出的服务名称，请求负载均衡服务池，负载均衡服务池作用是根据当前负载情况，根据B_score分值找出最合适的服务实例，负载均衡服务池根据各服务实例的运行状态以及被调用的次数信息计算出各个实例的优先级，优先调用B_score分值较高的实例进行请求，从而完成业务的统一接入，B_score具体计算公式如下，

B_score＝(E_now/E_all)*E_m/(C_m/C_all)

步骤H包括：

H-1、根据服务提供方模块的反馈结果，如果一段时间内未反馈，业务集成框架模块返回服务请求方服务未响应；