CN109447276A - 一种机器学习方法、系统、设备及应用方法 - Google Patents

Abstract

一种机器学习方法、系统、设备及应用方法，涉及人工智能领域，系统包括接口模块、引擎模块和数据库模块，接口模块提供与外部通信的接口，接收外部输入的规则、训练数据和输入信息；引擎模块实现有监督学习，根据接口模块收到的规则和训练数据得到知识；数据库模块存储机器学习中涉及的各种数据。接口模块接收需要决策的一组输入信息时，引擎模块选取最优知识，得到对应的决策信息，并通过接口模块输出。本发明将机器学习功能集成为独立于需要机器学习功能的系统的实体，当应用在现有系统中时，不影响当前产品或系统的基本架构。

Description

一种机器学习方法、系统、设备及应用方法

技术领域

本发明涉及人工智能领域，具体来讲涉及一种机器学习方法、系统、设备及应用方法。

背景技术

机器学习的目标是如何通过计算方法或手段，利用系统自我获得的“知识”来改善系统自身的性能。在机器学习范畴，“知识”通常以“数据”形式存在，因此，机器学习的价值可以理解为从泛在的数据计算得到特定的数据(知识)，从而利用这特定的数据提高系统的功能和性能。

机器学习的一般应用模型是将机器学习算法与当前系统有机结合，得到具有机器学习功能的新系统。换句话说，机器学习作为新系统的基本属性和有机组成。在这种情况下，新系统和原来的系统在功能架构上有了本质的区别，也就是说，从原来的系统改造成新的系统通常需要进行实质的甚至是架构性的修改。

上述机器学习的一般应用模型存在以下明显的缺陷：

(1)从原来的系统改造成新系统投入较大。

(2)原来的系统可能已很稳定和可靠，但改造后的新系统可能引入新的问题，伤及系统原有的稳定性和可靠性。

(3)新系统的复杂度提高。

(4)机器学习功能可扩展性差，机器学习功能的增强有可能影响整个系统。

(5)新系统可能受所需的资源影响性能达不到预期。

(6)机器学习功能不能与其它系统共享。

机器学习的一般应用模型存在诸多不足之处，这种紧耦合的应用方式实际上阻碍了机器学习的应用，使得很多原本适合机器学习的应用场景由于对引入机器学习的代价和带来的问题难以把握而放弃。

举例来说，在网络中应用的产品或系统大多数是基于嵌入式系统设计的，嵌入式系统由于硬件资源昂贵，因此对硬件资源的使用效率的追求是极致的。当前的网络产品或系统，并不具有自我调节以使得硬件资源利用率达到最优状态的功能。如果引入机器学习功能，使得上述产品或资源能够根据自己获得的“知识”完成高效的资源调度管理，使得硬件资源利用率显著提高，则应用意义非凡。但是，嵌入式系统使用的CPU与通用服务器使用的CPU存在本质的区别，嵌入式系统使用的CPU多了一些专用功能，但在通用的计算或存储功能弱于服务器使用的CPU；同时嵌入式系统的软件系统也更加封闭，如果将机器学习功能嵌入到软件系统中，不仅存在CPU能否胜任的问题，上述提到的六个问题也由于该软件系统的封闭性而更加显著。

因此，如何将机器学习功能高效、低成本的与现有系统结合，使系统的功能、性能得到预期的改善，需要新的方法和机制。

发明内容

针对现有技术中存在的缺陷，本发明的目的在于提供一种机器学习方法、系统、设备及应用方法，将机器学习功能进行独立，当应用在现有系统中时，不影响当前产品或系统的基本架构，提高机器学习功能的应用范围，将机器学习功能高效、低成本的与现有系统结合。

为达到以上目的，一方面，采取一种机器学习方法，包括：接收外部输入的规则和训练数据，并根据二者生成新的训练数据，每条训练数据包括一组输入信息，选取每组输入信息对应的最优训练数据作为知识并存储；接收外部需要决策的一组输入信息，选择最优知识，将其中的决策信息输出。

优选的，所述规则包括输入信息、决策信息和状态信息；输入信息包括多种数据类型；决策信息包括多种操作类型，且每种操作类型对应多种操作选项；状态信息包括多种状态类型和每种状态类型在决策中所占的权重。

优选的，所述训练数据中，每组输入信息包括一组数据类型，训练数据中还包括决策信息和状态信息，决策信息包括与该组数据类型对应的一组操作类型，每种操作类型对应一种操作选项；状态信息包括与该组数据类型对应的一组状态类型，每种状态类型具有对应的状态分数。

优选的，选取每组输入信息对应的最优训练数据作为知识具体包括：根据每种状态类型的状态分数×状态权重，得到该状态类型的评估分数，一组训练数据的总评估分数为该组所有状态类型评估分数的总和，选取总评估分数最高的一组训练数据作为知识。

优选的，所述接收外部需要决策的一组输入信息的处理方法为：

如果对应所述输入信息的知识为1条，则选取该知识的决策信息输出；

如果对应所述输入信息的知识多于1条，则计算每条知识的总评估分数，选择总评估分数最高的知识作为最优知识，输出对应的决策信息。

优选的，当接收到外部输入的携带决策信息的已有知识时，直接存储所述已有知识。

优选的，当所述已有知识或外部输入的训练数据与已存储知识的状态信息不一致时，根据已有知识或外部输入的训练数据，对已存储知识的状态信息进行调整。

另一方面，提供一种基于上述方法的机器学习系统，包括：

接口模块，其用于提供与外部通信的接口；

引擎模块，其用于实现有监督学习；根据接口模块收到的规则和训练数据生成新的训练数据，并得到知识；还用于在接口模块收到需要决策的一组输入信息时，选取最优知识，得到要输出的决策信息；

数据库模块，其用于存储机器学习中涉及的各种数据。

优选的，接口模块包括：

输入接口，其用于接收需要决策的输入信息；

输出接口，其用于输出针对所述输入信息的决策信息；

规则知识接口，其用于接收外部输入的规则和训练数据，还用于接收外部的已有知识。

优选的，所述输入接口、输出接口和规则知识接口分别为独立的物理接口；或者，所述输入接口、输出接口和规则知识接口为设置于同一物理接口且逻辑上相互独立的逻辑接口。

优选的，所述数据库模块包括：

规则库，其用于存储规则；

训练数据库，其用于存储外部输入的训练数据和新生成的训练数据；

知识库，其用于存储知识，所述知识包括外部输入的已有知识，以及最优的训练数据；

外部数据库，其用于存储外部输入的需要进行决策的每组输入信息。

优选的，所述数据库模块为存储器或数据库系统；所述引擎模块包括有监督学习组件。

另一方面，提供一种机器学习设备，安装有上述机器学习系统。

另一方面，提供一种基于上述机器学习系统的应用方法，包括：

连接需要机器学习的系统的主处理器；

主处理器通过接口模块输入规则和训练数据，引擎模块通过有监督学习，根据规则和训练数据生成新的训练数据，并选取每组输入信息对应的最优训练数据作为知识；同时，数据库模块存储各种数据；

主处理器向所述接口模块输入需要决策的一组输入信息，引擎模块选取最优知识，将对应决策信息通过接口模块输出给主处理器。

优选的，主处理器通过接口模块输入携带决策信息的已有知识；数据库模块存储已有知识，或者，引擎模块根据已有知识修改数据库模块中已存储的知识。

上述技术方案中的一个技术方案具有如下优点或有益效果：

通过将机器学习功能进行独立，可以很方便的被当前产品或系统使用，而不影响当前产品或系统的基本架构，只需在当前产品或系统的接口或外围进行少量修改即可达到目的，提高与现有产品和系统结合的效率，简化结合的复杂性，降低机器学习的成本，提高当前产品或系统的功能和性能。

上述技术方案中，机器学习功能可以通过不同的形态实现，可以作为机器学习的云平台实现，可以计算机集群中，可以运行在单计算机/服务器上，也可以形成芯片作为独立设备或插卡，安装于不同产品中；实现形态多样，适用范围广泛，可以基于时间、需求、应用场景等因素在多产品或系统间共享，最大程度的节省了资源投入。

附图说明

图1为本发明第一实施例规则的数据格式示意图；

图2为本发明第一实施例训练数据的格式示意图；

图3为本发明第一实施例输入数据的格式示意图；

图4为本发明第一实施例输出数据的格式示意图；

图5为本发明第四实施例系统的逻辑结构示意图；

图6为本发明第六实施例应用示意图；

图7为本发明第六实施例中机器学习系统产生知识的流程图；

图8为本发明第六实施例主处理器与机器学习系统的交互图。

具体实施方式

以下结合附图及实施例对本发明作进一步详细说明。

本发明机器学习方法，

接收外部输入的规则和训练数据，根据规则和训练数据进行自我学习，生成新的训练数据，每条训练数据包括一组输入信息，选取每组输入信息对应的最优训练数据作为知识(knowledge)并存储；接收外部需要决策的一组输入信息，根据该组输入信息选择最优知识，将其中的决策信息输出。

基于上述内容，本发明的第一种实施例中，如图1所示，接收的规则可以预先设定格式，规则的内容包括输入信息、决策信息和状态信息，并且三种信息分别在设定的格式中占有指定长度，以便于根据长度读取每种信息。

其中，输入信息是指通过机器学习需要进行决策的信息，包括多种数据类型(DataType)，每种数据类型对应一个数据长度，如图1中Data1Type对应Data1Length，Data2Type对应Data2Length，输入信息占有的指定长度(DataLength)是所有输入类型对应长度的总和。

决策信息指输入信息经过机器学习，需要输出的内容。决策信息包括多种操作类型(ActionType)，每种操作类型对应一个操作数据长度(ActionLength)，如图1中Action1Type对应Action1Length，Action2Type对应Action2Length，上述决策信息占有的指定长度(DecisionLength)是所有操作数据长度的总和。每种操作类型对应至少一个提供决策的操作选项(ActionOption)，如图1中Action1Type对应Action1Option-1、Action1Option-2……Action1Option-n。

状态信息的作用是对决策信息的评估，包括多种状态类型(StatusType)，每种状态类型对应一个权重(StatusWeight)，表示该种状态类型在决策的评估中的重要性，例如Status1Type对应Status1Weight，Status2Type对应Status2Weight，所有状态类型对应的状态权重之和为1。

如图2所示，本实施例中，外部输入的训练数据和生成的新的训练数据格式相同，同样包括输入信息、决策信息和状态信息。每条外部输入的训练数据中包括一组输入信息，每组输入信息包括一组数据类型，该组数据类型均是规则中的一部分。决策信息包括与该组数据类型对应的一组操作类型，每种操作类型对应一种操作选项。状态信息包括与该组数据类型对应的一组状态类型(StatusType)，每种状态类型具有对应的状态分数(StatusScore)。

并且，所述训练数据中，输入信息除了包括输入数据类型和对应的数据长度，还包括每种数据类型对应的数据值(DataValue)，例如Data1Type对应Data1Value。每种状态类型对应一种状态分数，例如Status1Type对应Status1Score，Status2Type对应Status2Score，状态分数是0-100的分数值。

本实施例中，通过上述规则和训练数据进行自我学习，可以得到新的训练数据，选择每组输入信息对应的最优训练数据作为知识，还可以根据外部输入的训练数据，对知识进行不断的修正，对不合适的操作选项做出调整。

基于上述实施例，本发明的第二种实施例中，选取最优的训练数据作为知识具体包括：

首先根据外部输入的规则自动生成一组模拟数据，模拟数据与训练数据的格式相同，但是不具有状态分数(StatusScore)的值。然后基于外部输入的训练数据的状态分数，可以通过自我学习得到模拟数据中的状态分数，从而变为新的训练数据。然后，根据训练数据中，每种状态类型的状态分数(StatusScore)×状态权重(StatusWeight)，得到该状态类型的评估分数，一组输入信息对应的训练数据的总评估分数为该组所有状态类型评估分数的总和，选取总评估分数最高的一组训练数据作为知识。

如图3所示，为需要决策的输入信息的格式示意图，输入信息具有一定长度，每条输入信息包括数据类型(DataType)、每种数据类型对应的数据长度(DataLength)和数据值(DataValue)。接收外部需要决策的一组输入信息，该组输入信息中包括一组数据类型(DataType)，需要判断与该组输入信息对应的知识有多少条。

如果对应上述一组输入信息的知识只有1条，则选取该知识中的决策信息输出。

如果对应上述一组输入信息的知识多于1条，则根据每条知识中的状态类型，将每种状态类型的状态分数(StatusScore)×状态权重(StatusWeight)，得到该状态类型的评估分数，然后计算每条知识的总评估分数，选择总评估分数最高的知识作为最优知识，输出对应的决策信息。

输出的决策信息，就是对该组输入信息的决策，决策信息的格式如图4所示，包括一组操作类型和每个操作类型对应的一个操作选项，该操作选项是对于该种操作类型的指定选项。

在第一种实施例的基础上，本发明的第三种实施例，在机器学习过程中，可以接收外部输入的已有知识，已有知识和训练数据的格式相同，但是已有知识中的决策信息已经是最优的决策信息，并且其包括操作类型具有对应的评估分数。

本实施例中，当接收到外部输入的携带决策信息的已有知识时，直接对已有知识进行存储，以便于后续需要时直接使用。并且，当上述已有知识或外部输入的训练数据与已存储知识的状态信息不符时，根据已有知识或外部输入的训练数据，对已存储知识的状态信息进行调整。

基于上述内容，如图5所示，本发明的第四种实施例提供一种机器学习系统，包括接口模块、引擎模块和数据库模块。其中，接口模块用于提供与外部通信的接口，进行机器学习系统与外部通信。数据库模块用于存储机器学习中涉及的各种数据，包括规则数据。引擎模块用于实现有监督学习，根据接口模块收到的规则和训练数据生成新的训练数据，并得到知识；还用于在接口模块收到需要决策的一组输入信息时，选取最优知识，得到要输出的决策信息，通过接口模块输出其对应的决策信息，以便于外部按照决策信息进行后续操作。

优选的，接口模块包括输入接口、输出接口和规则知识接口；输入接口用于接收需要决策的每组输入信息；输出接口用于输出与前述每组输入信息对应的决策信息；规则知识接口用于接收外部输入的规则和训练数据，还用于接收外部的已有知识。

其中，输入接口、输出接口和规则知识接口可以是相互独立的物理接口，并且可以是任意类型的物理接口，如以太网接口、HDLC(High-Level Data Link Control，高级数据链路控制)接口、USB接口等，可以是其中的一种或几种。另外，输入接口、输出接口和规则知识接口是逻辑上相互独立的逻辑接口，可以共享同一个物理接口，逻辑接口为实现C/S(Client/Server Structs，客户机和服务器)通信的接口，如Socket接口、RestAPI等。

优选的，数据库模块包括规则库、训练数据库、知识库和外部数据库。规则库用于存储计机器学习中的规则。训练数据库用于存储训练数据，包括外部输入的训练数据和新生成的训练数据。知识库用于存储知识，知识包括外部直接输入的已有知识，以及最优的训练数据。其中，数据库模块既可以为设置于计算机上的存储器，也可以为云操作系统上的数据库系统和应用程序。

优选的，引擎模块包括有监督学习组件，用于为机器学习提供学习方式的实现，引擎模块可以是云操作系统中计算机的CPU，也可以是算术逻辑单元(ALU)。

本实施例中的机器学习系统，可以体现为提供机器学习服务的云平台，也可以运行在计算机集群上，还可以运行在单计算机/服务器上。

本发明第五种实施例提供一种机器学习设备，其安装有第四实施例所述的机器学习系统。本实施例中，机器学习设备是独立设置的设备，可以是微处理器，也可以是芯片，既可以设计成业务插卡的方式，也可以与现有的产品或系统配合使用。

基于上述实施例，本发明第六种实施例提供一种机器学习系统的应用方法，该方法是将独立的机器学习系统应用在现有系统或产品中，为现有系统或产品提供机器学习服务。具体的，以SaaS(Software-as-a-Service，软件即服务)方式，作为云平台，为当前产品或系统提供机器学习服务；还可以运行在在计算机集群上、单计算机或服务器上，作为机器学习协处理器，通过C/S方式与当前产品或系统交互，为当前产品或系统提供机器学习服务。

如图6和图7所示，本实施例中，以机器学习系统作为协处理器，为需要机器学习的系统提供机器学习服务为例，机器学习产生知识的过程包括：

S101.机器学习系统连接需要机器学习的系统的主处理器，且主处理器分别连接至少一个需要机器学习功能的对象。

S102.主处理器定义“知识”的形式，也就是规则；并通过规则知识接口输入规则。其中，主处理器输入给接口模块的规则预先设定格式，规则的内容包括输入信息、决策信息和状态信息，各种信息的具体内容与前述实施例中相同，此处不再赘述。

S103.机器学习系统根据输入的规则更新规则库。

S104.主处理器通过规则知识接口输入训练数据。

S105.机器学习系统在训练数据库中存储训练数据，然后引擎模块根据规则自动产生一组模拟数据，然后基于训练数据得到该组模拟数据的状态分数后，得到新的训练数据，然后更新训练数据库。

S106.主处理器根据每组输入信息对应的训练数据，计算总评估分数，选取每组输入信息总评估分数最高的训练数据作为知识，存储到知识库中。其中，引擎模块还可以通过外部输入的训练数据完善知识，也就是，基于外部输入的训练数据，对知识库存储的知识进行修正，调整不合适的操作选项，然后更新知识库。

优选的，主处理器还可以通过规则知识接口向机器学习系统传递已有知识，已有知识携带决策信息，机器学习系统的知识库存储上述已有知识，以便后续直接使用。或者，引擎模块根据已有知识修改数据库模块中已存储的知识。

如图8所示，基于上述内容，主处理器与机器学习系统之间的交互过程如下：

S201.主处理器向机器学习系统的接口模块输入需要决策的一组输入信息。

S202.机器学习系统通过接口模块(具体是输入接口)收到该组输入信息，更新数据库模块中的外部数据库。

S203.引擎模块在数据库模块的知识库中，查找与该组输入信息对应的知识。

如果对应输入信息的知识只有1条，选择该知识中的决策信息。

如果对应输入信息的知识多于1条，选择总评估分数最高的知识中的决策信息。

S204.机器学习系统将选择的决策信息通过接口模块(具体是输出接口)输出给主处理器。

S205.主处理器收到决策信息后，将决策信息用于需要机器学习的系统。

上述各实施例中，至少一个实施例可以应用于数据驱动的路由，提高网络性能；或者应用于智能CPU调度，改善嵌入式系统的任务调度；或者应用于动态虚拟流表，实现动态流表表项管理的功能；适用范围广泛，可以基于时间、需求、应用场景等因素在多产品或系统间共享；但是，在同一时间只能与一个主处理器联合应用。

本发明不局限于上述实施方式，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围之内。本说明书中未作详细描述的内容属于本领域专业技术人员公知的现有技术。

Claims (15)

1.一种机器学习方法，其特征在于，包括：

接收外部输入的规则和训练数据，并根据二者生成新的训练数据，每条训练数据包括一组输入信息，选取每组输入信息对应的最优训练数据作为知识并存储；

接收外部需要决策的一组输入信息，选择最优知识，将其中的决策信息输出。

2.如权利要求1所述的机器学习方法，其特征在于：所述规则包括输入信息、决策信息和状态信息；输入信息包括多种数据类型；决策信息包括多种操作类型，且每种操作类型对应多种操作选项；状态信息包括多种状态类型和每种状态类型在决策中所占的权重。

3.如权利要求2所述的机器学习方法，其特征在于：所述训练数据中，每组输入信息包括一组数据类型，训练数据中还包括决策信息和状态信息，决策信息包括与该组数据类型对应的一组操作类型，每种操作类型对应一种操作选项；状态信息包括与该组数据类型对应的一组状态类型，每种状态类型具有对应的状态分数。

4.如权利要求3所述的机器学习方法，其特征在于，选取每组输入信息对应的最优训练数据作为知识具体包括：

根据每种状态类型的状态分数×状态权重，得到该状态类型的评估分数，一组训练数据的总评估分数为该组所有状态类型评估分数的总和，选取总评估分数最高的一组训练数据作为知识。

5.如权利要求4所述的机器学习方法，其特征在于，所述接收外部需要决策的一组输入信息的处理方法为：

如果对应所述输入信息的知识为1条，则选取该知识的决策信息输出；

如果对应所述输入信息的知识多于1条，则计算每条知识的总评估分数，选择总评估分数最高的知识作为最优知识，输出对应的决策信息。

6.如权利要求3所述的机器学习方法，其特征在于：当接收到外部输入的携带决策信息的已有知识时，直接存储所述已有知识。

7.如权利要求6所述的机器学习方法，其特征在于：当所述已有知识或外部输入的训练数据与已存储知识的状态信息不一致时，根据已有知识或外部输入的训练数据，对已存储知识的状态信息进行调整。

8.一种基于权利要求1-7任一项所述方法的机器学习系统，其特征在于，包括：

接口模块，其用于提供与外部通信的接口；

引擎模块，其用于实现有监督学习；根据接口模块收到的规则和训练数据生成新的训练数据，并得到知识；还用于在接口模块收到需要决策的一组输入信息时，选取最优知识，得到要输出的决策信息；

数据库模块，其用于存储机器学习中涉及的各种数据。

9.如权利要求8所述的机器学习系统，其特征在于，接口模块包括：

输入接口，其用于接收需要决策的输入信息；

输出接口，其用于输出针对所述输入信息的决策信息；

规则知识接口，其用于接收外部输入的规则和训练数据，还用于接收外部的已有知识。

10.如权利要求9所述的机器学习系统，其特征在于：所述输入接口、输出接口和规则知识接口分别为独立的物理接口；

或者，所述输入接口、输出接口和规则知识接口为设置于同一物理接口且逻辑上相互独立的逻辑接口。

11.如权利要求8所述的机器学习系统，其特征在于，所述数据库模块包括：

规则库，其用于存储规则；

训练数据库，其用于存储外部输入的训练数据和新生成的训练数据；

知识库，其用于存储知识，所述知识包括外部输入的已有知识，以及最优的训练数据；

外部数据库，其用于存储外部输入的需要进行决策的每组输入信息。

12.如权利要求8所述的机器学习系统，其特征在于：所述数据库模块为存储器或数据库系统；所述引擎模块包括有监督学习组件。

13.一种机器学习设备，其特征在于，安装有权利要求8所述的机器学习系统。

14.一种基于权利要求8所述机器学习系统的应用方法，其特征在于，包括：

连接需要机器学习的系统的主处理器；

主处理器通过接口模块输入规则和训练数据，引擎模块通过有监督学习，根据规则和训练数据生成新的训练数据，并选取每组输入信息对应的最优训练数据作为知识；同时，数据库模块存储各种数据；

主处理器向所述接口模块输入需要决策的一组输入信息，引擎模块选取最优知识，将对应决策信息通过接口模块输出给主处理器。

15.如权利要求14所述机器学习系统的应用方法，其特征在于：

主处理器通过接口模块输入携带决策信息的已有知识；

数据库模块存储已有知识，或者，引擎模块根据已有知识修改数据库模块中已存储的知识。