CN113392215A - 生产问题分类模型的训练方法、生产问题分类方法及装置 - Google Patents
生产问题分类模型的训练方法、生产问题分类方法及装置 Download PDFInfo
- Publication number
- CN113392215A CN113392215A CN202110669191.0A CN202110669191A CN113392215A CN 113392215 A CN113392215 A CN 113392215A CN 202110669191 A CN202110669191 A CN 202110669191A CN 113392215 A CN113392215 A CN 113392215A
- Authority
- CN
- China
- Prior art keywords
- classification model
- keyword
- production problem
- production
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种生产问题分类模型的训练方法,可以应用于金融领域及人工智能技术领域。该生产问题分类模型包括关键词提取层和分类层,该生产问题分类模型的训练方法包括:获取训练样本数据集,训练样本数据集包括已知问题描述文本;将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合;以及利用关键词集合训练待训练的生产问题分类模型的分类层,得到训练完成的生产问题分类模型。本公开还提供了一种生产问题分类方法、生产问题分类模型的训练装置、生产问题分类装置、设备、存储介质和程序产品。
Description
技术领域
本公开涉及金融领域及人工智能技术领域,更具体地涉及一种生产问题分类模型的训练方法、生产问题分类方法、装置、设备、介质和程序产品。
背景技术
在相关技术中,各大银行以及企业在对生产上出现的问题进行分类时时,通常基于问题描述文本,利用人工经验对问题描述文本中的生产问题进行分类。
在实现本公开的构思中,发明人发现,相关技术中利用人工经验对问题描述文本中的生产问题进行分类存在准确率不足的技术问题。
发明内容
鉴于上述问题,本公开提供了生产问题分类模型的训练方法、生产问题分类方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种生产问题分类模型的训练方法,其中,上述生产问题分类模型包括关键词提取层和分类层,上述方法包括:
获取训练样本数据集,上述训练样本数据集包括已知问题描述文本;
将上述已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合;以及
利用上述关键词集合训练上述待训练的生产问题分类模型的分类层,得到训练完成的生产问题分类模型。
根据本公开的实施例,上述将上述已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合包括:
将上述已知问题描述文本输入上述关键词提取层,以便上述关键词提取层执行以下操作:
对上述已知问题描述文本进行预处理,生成候选关键词集合;
根据上述候选关键词集合,生成候选关键词图,其中,上述候选关键词图中的节点由上述候选关键词集合中的关键词组成,符合预设条件的节点之间通过边连接;
利用TextRANK公式对上述候选关键词图中的节点进行评分值迭代计算,直至任意上述节点的评分值小于第一预设阈值;
将与评分值大于第二预设阈值的节点对应的候选关键词作为关键词;
根据上述关键词生成上述关键词集合。
根据本公开的实施例,上述预设条件包括:上述边两端的节点分别对应的上述候选关键词在预设长度的词窗口中共现。
根据本公开的实施例,上述边包括有向边,每条上述有向边具有各自对应的权重值。
根据本公开的实施例,上述对上述已知问题描述文本进行预处理,生成候选关键词集合包括:
对上述已知问题描述文本进行分词处理,得到预处理关键词集合;
对上述预处理关键词集合进行筛选处理,以删除上述预处理关键词集合中的干扰词,生成上述候选关键词集合。
根据本公开的实施例,上述利用上述关键词集合训练上述待训练的生产问题分类模型的分类层包括:
将上述关键词集合与预先配置的标准关键词集合进行匹配,并根据匹配结果生成关键词矩阵,以便利用上述关键词矩阵训练上述待训练的生产问题分类模型的分类层。
本公开的第二方面提供了一种生产问题分类方法,包括:
获取待分类问题描述文本;以及
将上述待分类问题描述文本输入生产问题分类模型,输出分类结果,其中,上述生产问题分类模型是由本公开实施例提供的生产问题分类模型的训练方法训练得到的。
本公开的第三方面提供了一种生产问题分类模型的训练装置,包括:
第一获取模块,用于获取训练样本数据集,上述训练样本数据集包括已知问题描述文本;
第一训练模块,用于将上述已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,以便对上述待训练的生产问题分类模型的关键词提取层进行训练,输出关键词集合;以及
第二训练模块,用于利用上述关键词集合训练上述待训练的生产问题分类模型的分类层,得到训练好的生产问题分类模型,其中,上述训练好的生产问题分类模型包括关键词提取层和分类层。
本公开的第四方面提供了一种生产问题分类装置,包括:
第二获取模块,用于获取待分类问题描述文本;以及
分类模块,用于将上述待分类问题描述文本输入生产问题分类模型,输出分类结果,其中,上述生产问题分类模型是由本公开实施例提供的生产问题分类模型的训练方法训练得到的。
本公开的第五方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述生产问题分类模型的训练方法以及生产问题分类方法。
本公开的第六方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述生产问题分类模型的训练方法以及生产问题分类方法。
本公开的第七方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述生产问题分类模型的训练方法以及生产问题分类方法。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的生产问题分类模型的训练方法、生产问题分类方法、生产问题分类模型的训练装置、生产问题分类装置的应用场景图;
图2示意性示出了根据本公开实施例的生产问题分类模型的训练方法的流程图;
图3示意性示出了根据本公开实施例的将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合的流程图;
图4示意性示出了本公开实施例生成的候选关键词图示意图;
图5示意性示出了本公开实施例词窗口示意图;
图6示意性示出了根据本公开实施例的对已知问题描述文本进行预处理,生成候选关键词集合的流程图;
图7示意性示出了根据本公开实施例的分类层的示意图;
图8示意性示出了根据本公开实施例的生产问题分类方法的流程图;
图9示意性示出了根据本公开实施例的生产问题分类模型的训练装置的结构框图;
图10示意性示出了根据本公开实施例的生产问题分类装置的结构框图;以及
图11示意性示出了根据本公开实施例的适于实现生产问题分类模型的训练方法、生产问题分类方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
目前各大银行在解决生产上出现的问题时,基本上依然应用着传统的生产问题解决方法。即:首先是由分行将生产上出现的问题通过邮件等渠道发送到软件开发中心,紧接着由相应的行内人员手动将各个分行的生产问题汇总,再通过分行提供的问题描述文本将各个生产问题进行分析并定位生产问题属于哪一类型,最后再将对应类的生产问题发放给相应的负责人进行分析解决。对于这种传统的生产问题分类流程存在着以下缺陷:
1)对生产问题的分析和定位需要较高的经验积累,尤其对于新人的要求更是相当严格。一旦出现人员的变动和调整,就会影响生产问题的分析及定位,从而导致延长解决生产问题的时间。
2)对于不同的生产问题定位分析消耗的时间也不等。以目前的经验来看,有些生产问题只需十几分钟左右的时间,但是有些比较特殊和复杂的生产问题会需要几个小时甚至整天的时间,对于这种生产问题耗时较长且目前也没有较好的解决方案。
3)在面对同一时刻出现众多生产问题的偶发现象时,员工的工作量就会成倍增长,这不仅给员工带来了巨大的压力,而且也会降低生产问题处理的效率,严重耽误生产问题的闭环时间。
因此,要求能在有效的时间内,研究出高效完成生产问题分析定位的方法,同时又能减少员工的工作内容和工作压力。目前对此还没有一种较为有效、可靠的解决方法。
为了解决相关技术中存在的技术问题,本公开提供了一种生产问题分类模型的训练方法,该生产问题分类模型包括关键词提取层和分类层,该生产问题分类模型的训练方法包括:获取训练样本数据集,训练样本数据集包括已知问题描述文本;将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合;以及利用关键词集合训练待训练的生产问题分类模型的分类层,得到训练完成的生产问题分类模型。本公开还提供了一种生产问题分类方法、生产问题分类模型的训练装置、生产问题分类装置、设备、存储介质和程序产品。
需要说明的是,本公开实施例提供的方法和装置可用于金融领域,也可用于除金融领域之外的任意领域,本公开实施例提供的方法和装置的应用领域不做限定。
图1示意性示出了根据本公开实施例的生产问题分类模型的训练方法、生产问题分类方法、生产问题分类模型的训练装置、生产问题分类装置的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的生产问题分类模型的训练方法和生产问题分类方法一般可以由服务器105执行。相应地,本公开实施例所提供的生产问题分类模型的训练装置和生产问题分类装置一般可以设置于服务器105中。本公开实施例所提供的生产问题分类模型的训练方法和生产问题分类方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的生产问题分类模型的训练装置和生产问题分类装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图6对公开实施例的生产问题分类模型的训练方法进行详细描述。
图2示意性示出了根据本公开实施例的生产问题分类模型的训练方法的流程图。
根据本公开的实施例,生产问题分类模型可以包括关键词提取层和分类层。
如图2所示,该实施例的生产问题分类模型的训练方法包括操作S201~操作S203。
在操作S201,获取训练样本数据集,训练样本数据集包括已知问题描述文本。
根据本公开的实施例,问题描述文本可以是用于描述生产问题的文本描述信息。
根据本公开的实施例,在生产问题的描述信息不是文本格式的情况下,可以先采用合适的格式转换方式来将生产问题的描述信息转换为文本格式。
根据本公开的实施例,已知问题描述文本可以包括所描述的生产问题的类型是已知的问题描述文本,例如,已知问题描述文本可以包括带有标签信息的问题描述文本,标签信息可以表征该问题描述文本所描述的生产问题的类型。
在操作S202,将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合。
根据本公开的实施例,关键词集合中可以包括一个或多个关键词,关键词集合中的关键词可以是关键词提取层从已知问题描述文本中提取出来的关键词。
根据本公开的实施例,关键词提取层例如可以包括基于TextRank算法构建得到的关键词提取层。
在操作S203,利用关键词集合训练待训练的生产问题分类模型的分类层,得到训练完成的生产问题分类模型。
根据本公开的实施例,分类层例如可以包括基于RNN(Recurrent NeuralNetwork,循环神经网络)构建得到的分类层。
根据本公开的实施例,分类层的输出神经元的个数可以与生产问题类型的个数相匹配,例如,针对ATM生产问题,其生产问题类型包括:native、前端、中间件、上游应用、厂商共五类,从而分类层的输出神经元的个数可以为五个。本领域技术人员可以理解的是,以上示例仅用于帮助本领域技术人员理解本公开的实施例,而非对本公开实施例做出的任何不当限定。
本公开实施例通过先利用已知问题描述文本训练待训练的生产问题分类模型的关键词提取层,然后再利用待训练的生产问题分类模型的关键词提取层输出的关键词集合训练待训练的生产问题分类模型的分类层,从而得到训练完成的生产问题分类模型,在利用训练完成的生产问题分类模型对问题描述文本所描述的生产问题进行分类时,可以至少部分地解决相关技术中利用人工经验对问题描述文本中的生产问题进行分类存在准确率不足的技术问题,实现了提高生产问题分类的准确率的技术效果。
图3示意性示出了根据本公开实施例的将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合的流程图。
如图3所示,该实施例的将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合包括将已知问题描述文本输入关键词提取层,以便关键词提取层执行以下操作S301~操作S305。
在操作S301,对已知问题描述文本进行预处理,生成候选关键词集合。
在操作S302,根据候选关键词集合,生成候选关键词图,其中,候选关键词图中的节点由候选关键词集合中的关键词组成,符合预设条件的节点之间通过边连接。
图4示意性示出了本公开实施例生成的候选关键词图示意图。在图4中,Ks={·}可以表示候选关键词集合,401可以表示根据候选关键词集合生成的候选关键词图,401中1至5可以是关键词图中的节点,分别表示候选关键词集合中的大量、提取、定位、运用、时间;在401中,节点1与节点3之间通过边连接,表示节点1与节点3分别代表的候选关键词符合预设条件。
在操作S303,利用TextRANK公式对候选关键词图中的节点进行评分值迭代计算,直至任意节点的评分值小于第一预设阈值。
根据本公开的实施例,在候选关键词图中的边包括有向边,每条有向边具有各自对应的权重值。
根据本公开的实施例,TextRANK公式可以包括以下等式(1)。
其中,Vi表示候选关键词图中的目标节点,WS(Vi)表示Vi的评分值,d表示阻尼系数,In(Vi)表示指向Vi的节点集合,Out(Vi)表示从Vi指出的边指向的节点集合,WS(Vj)表示指向Vi的节点Vj的评分值,Wji表示Vi到Vj的权值,Wjk表示Vi到Vk的权值。
根据本公开的实施例,在公式(1)中,d可以取值为0.85。
根据本公开的实施例,第一预设阈值例如可以取值为0.0001。
根据本公开的实施例,第一预设阈值和阻尼系数的取值可以由本领域技术人员根据实际应用情况进行灵活调整,本公开实施例不对第一预设阈值和阻尼系数的取值做具体限定。
根据本公开的实施例,可以在候选关键词图中每次随机选取一个节点作为目标节点,利用以上公式(1)计算目标节点的评分值,当目标节点的评分值小于第一预设阈值后,在除已经完成迭代计算的节点之外的节点中随机选取一个节点作为目标节点,直至遍历候选关键词图中的所有节点。
根据本公开的实施例,在候选关键词图中的任意节点的评分值均小于第一预设阈值的情况下,可以得到训练完成的关键词提取层。
在操作S304,将与评分值大于第二预设阈值的节点对应的候选关键词作为关键词。
根据本公开的实施例,例如在图4示出的候选关键词图中,经过迭代计算后,节点1、4和5的评分值大于第二预设阈值,则可以将与节点1、4和5分别对应的候选关键词大量、运用和时间作为关键词。其中,第二预设阈值的取值可以由本领域技术人员根据实际应用灵活设置,本公开实施例对第二预设阈值的取值不做具体限定。
在操作S305,根据关键词生成关键词集合。
根据本公开的实施例,通过对候选关键词图的迭代计算,可以使关键词提取层从问题描述文本中提取出能够更为精确的描述生产问题的关键词,从而可以提高利用分类层基于关键词对问题描述文本所描述的生产问题进行分类的准确率。
根据本公开的实施例,在操作S302中,预设条件可以包括边两端的节点分别对应的候选关键词在预设长度的词窗口中共现。
图5示意性示出了本公开实施例词窗口示意图。
根据本公开的实施例,例如有两个候选关键词:减轻、科技。词窗口的预设长度可以为6。在图5中,501可以表示预设长度的词窗口,假设在问题描述文本中,有一句子“有效的减轻了科技人员的工作压力,提高了整个流程的智能化和高效性”,在以上句子中,候选关键词减轻和科技在词窗口501中共同出现,即候选关键词减轻和科技满足预设条件,在候选关键词图中可以通过边将这两个候选关键词连接。
根据本公开的实施例,通过将在预设长度的词窗口中共现的关键词用边连接,可以提高候选词图中节点之间的相关性,进而可以实现提供对关键词提取层的训练效率的技术效果。
图6示意性示出了根据本公开实施例的对已知问题描述文本进行预处理,生成候选关键词集合的流程图。
如图6所示,该实施例的对已知问题描述文本进行预处理,生成候选关键词集合包括操作S601~操作S602。
在操作S601,对已知问题描述文本进行分词处理,得到预处理关键词集合。
根据本公开的实施例,可以先将已知问题描述文本以句子的形式进行拆分,得到N个句子,例如,将两个句号之间的文本分割成一个句子。然后可以将每个句子再以逗号作为分隔进行拆分,即若一个句子中间有一个逗号,则将此句子以逗号作为分隔拆分为两个短句,并将两个短句分别作为预处理关键词。
在操作S602,对预处理关键词集合进行筛选处理,以删除预处理关键词集合中的干扰词,生成候选关键词集合。
根据本公开的实施例,可以对预处理关键词集合中的预处理关键词进行分词和词性标注处理,并过滤掉停用词,只保留指定词性的单词,如名词、动词、形容词,生成候选关键词集合。
根据本公开的实施例,停用词可以包括预先配置的停用词表中的停用词,例如可以包括the、is、at、which、on、啊、好、嗯等在句子中没有实际含义的词。
根据本公开的实施例,通过对已知问题描述文本进行预处理,筛选出候选关键词,从而可以提高关键词提取层在提取关键词时的准确率,避免已知问题描述文本中的干扰词对关键词提取层的数据污染。
根据本公开的实施例,利用关键词集合训练待训练的生产问题分类模型的分类层包括以下操作:
将关键词集合与预先配置的标准关键词集合进行匹配,并根据匹配结果生成关键词矩阵,以便利用关键词矩阵训练待训练的生产问题分类模型的分类层。
根据本公开的实施例,可以以已经完成分类的生产问题为基础,针对每一个生产问题提取若干个关键词,然后对所有提取出来的关键词进行整理和筛选,根据关键词出现的次数对关键词进行排序,选取出现次数大于预设阈值的多个关键词作为标准关键词,形成标准关键词集合。
根据本公开的实施例,将关键词集合与预先配置的标准关键词集合进行匹配可以包括分别将关键词集合中的每个关键词与标准关键词集合进行匹配,若关键词集合中的关键词在标准关键词集合中出现,则将关键词集合中此关键词的的位置记为1,否则记为0,从而生成关键词矩阵。
根据本公开的实施例,例如标准关键词集合Kg={a,b,c,d,e},关键词集合K={r,t,a,e,b,c},将关键词集合中的每个关键词分别与标准关键词集合中的标准关键词进行遍历匹配,例如,关键词r,将关键词r与标准关键词进行遍历比较后,标准关键词集合中不包含关键词r,从而可以将关键词集合中与r对应的位置记为0;例如,关键词a,将关键词a与标准关键词进行遍历比较后,标准关键词集合包含关键词a,从而可以将关键词集合中与a对应的位置记为1。遍历关键词集合中的每个关键词后,可以生成关键词矩阵Kj={0,0,1,1,1,1},然后利用关键词矩阵Kj训练待训练的生产问题分类模型的分类层。
图7示意性示出了根据本公开实施例的分类层的示意图。
根据本公开的实施例,如图7所示,分类层可以包括输入层、隐藏层和输出层。输入层的输入参数可以包括关键词矩阵Kj,输入层的激活函数可以包括σ(z),隐藏层和输出层的输出值分别为a1和a2,假设第l-L层共有m个神经元,而第L层共有n个神经元,则第L层的线性系数w组成了一个n×m的矩阵WL。第L层的偏置b组成了一个n×1的向量bL,第L-1层的输出a1组成了一个m×1的向量aL-1,第L层的激活前线性输出z组成了一个n×1的向量zL,第L层的输出a2组成了一个n×1的向量aL。用矩阵法表示,第L层的输出为:al=σ(zl)=σ(Wlal-1+bl)。
根据本公开的实施例,输出层的输出神经元产生输出值后,可以根据贪心算法从多个输出神经元中选择输出值最大的输出神经元,将此神经元对应的生产问题类型作为输出结果。
根据本公开的实施例,图7示出的分类层仅为示意性的分类层,分类层中输入层、隐藏层和输出层的神经元个数可以由本领域技术人员根据实际需求灵活调整。
根据本公开的实施例,在分类层的输出结果和已知问题描述文本的标签值不匹配的情况下,可以利用梯度下降算法反向调整分类层以及关键词提取层的网络参数,直至分类层的输出结果和已知问题描述文本的标签值相匹配。
图8示意性示出了根据本公开实施例的生产问题分类方法的流程图。
如图8所示,该实施例的生产问题分类方法包括操作S801~操作S802。
在操作S801,获取待分类问题描述文本。
在操作S802,将待分类问题描述文本输入生产问题分类模型,输出分类结果,其中,生产问题分类模型是由本公开实施例提供的生产问题分类模型的训练方法训练得到的。
根据本公开的实施例,通过利用训练完成的生产问题分类模型对待分类问题描述文本进行分类,可实现从问题描述文本中快速的提取关键字,再到输出生产问题所属的类型和定位,以较短的时间和较高的准确率节省了人工操作的成本,避免了人为的失误,实现了解决生产问题步骤的智能化提升。
根据本公开的实施例,可以根据生产问题分类模型输出的分类结果,将问题描述文本发送给相应的开发人员。
基于上述生产问题分类模型的训练方法,本公开还提供了一种生产问题分类模型的训练装置。以下将结合图9对该装置进行详细描述。
图9示意性示出了根据本公开实施例的生产问题分类模型的训练装置的结构框图。
如图9所示,该实施例的生产问题分类模型的训练装置900包括第一获取模块901、第一训练模块902和第二训练模块903。
第一获取模块910用于获取训练样本数据集,训练样本数据集包括已知问题描述文本。在一实施例中,第一获取模块901可以用于执行前文描述的操作S201,在此不再赘述。
第一训练模块902用于将已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,以便对待训练的生产问题分类模型的关键词提取层进行训练,输出关键词集合。在一实施例中,第一训练模块902可以用于执行前文描述的操作S202,在此不再赘述。
第二训练模块903用于利用关键词集合训练待训练的生产问题分类模型的分类层,得到训练好的生产问题分类模型,其中,训练好的生产问题分类模型包括关键词提取层和分类层。在一实施例中,第二训练模块903可以用于执行前文描述的操作S203,在此不再赘述。
根据本公开的实施例,第一训练模块820包括第一生成单元、第二生成单元、计算单元、确定单元以及生成单元。
第一生成单元,用于对已知问题描述文本进行预处理,生成候选关键词集合。
第二生成单元,用于根据候选关键词集合,生成候选关键词图,其中,候选关键词图中的节点由候选关键词集合中的关键词组成,符合预设条件的节点之间通过边连接。
计算单元,用于利用TextRANK公式对候选关键词图中的节点进行评分值迭代计算,直至任意节点的评分值小于第一预设阈值。
确定单元,用于将与评分值大于第二预设阈值的节点对应的候选关键词作为关键词。
生成单元,用于根据关键词生成关键词集合。
根据本公开的实施例,第二生成单元生成的候选关键词图中边的的预设条件可以包括边两端的节点分别对应的候选关键词在预设长度的词窗口中共现。
根据本公开的实施例,第二生成单元生成的候选关键词图中的边包括有向边,每条有向边具有各自对应的权重值。
根据本公开的实施例,第一生成单元包括第一处理子单元和第二处理子单元。
第一处理子单元,用于对已知问题描述文本进行分词处理,得到预处理关键词集合。
第二处理子单元,用于对预处理关键词集合进行筛选处理,以删除预处理关键词集合中的干扰词,生成候选关键词集合。
根据本公开的实施例,第二训练模块903包括匹配单元。
匹配单元,用于将关键词集合与预先配置的标准关键词集合进行匹配,并根据匹配结果生成关键词矩阵,以便利用关键词矩阵训练待训练的生产问题分类模型的分类层。
图10示意性示出了根据本公开实施例的生产问题分类装置的结构框图。
如图10所示,该实施例的生产问题分类装置1000包括第二获取模块1001和分类模块1002。
第二获取模块1001用于获取待分类问题描述文本。
分类模块1002用于将待分类问题描述文本输入生产问题分类模型,输出分类结果,其中,生产问题分类模型是由本公开实施例提供的生产问题分类模型的训练方法训练得到的。
根据本公开的实施例,第一获取模块901、第一训练模块902、第二训练模块903、第二获取模块1001和分类模块1002中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,第一获取模块901、第一训练模块902、第二训练模块903、第二获取模块1001和分类模块1002中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一获取模块901、第一训练模块902、第二训练模块903、第二获取模块1001和分类模块1002中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图11示意性示出了根据本公开实施例的适于实现生产问题分类模型的训练方法以及生产问题分类方法的电子设备的方框图。
如图11所示,根据本公开实施例的电子设备1100包括处理器1101,其可以根据存储在只渎存储器(ROM)1102中的程序或者从存储部分1108加载到随机访问存储器(RAM)1103中的程序而执行各种适当的动作和处理。处理器1101例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器1101还可以包括用于缓存用途的板载存储器。处理器1101可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1103中,存储有电子设备1100操作所需的各种程序和数据。处理器1101、ROM 1102以及RAM 1103通过总线1104彼此相连。处理器1101通过执行ROM 1102和/或RAM1103中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1102和RAM 1103以外的一个或多个存储器中。处理器1101也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备1100还可以包括输入/输出(I/O)接口1105,输入/输出(I/O)接口1105也连接至总线1104。电子设备1100还可以包括连接至I/O接口1105的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1106;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1107;包括硬盘等的存储部分1108;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1110上,以便于从其上读出的计算机程序根据需要被安装入存储部分1108。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可渎存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1102和/或RAM 1103和/或ROM 1102和RAM 1103以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的物品推荐方法。
在该计算机程序被处理器1101执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分1109被下载和安装,和/或从可拆卸介质1111被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分1109从网络上被下载和安装,和/或从可拆卸介质1111被安装。在该计算机程序被处理器1101执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (12)
1.一种生产问题分类模型的训练方法,其中,所述生产问题分类模型包括关键词提取层和分类层,所述方法包括:
获取训练样本数据集,所述训练样本数据集包括已知问题描述文本;
将所述已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合;以及
利用所述关键词集合训练所述待训练的生产问题分类模型的分类层,得到训练完成的生产问题分类模型。
2.根据权利要求1所述的方法,其中,所述将所述已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,输出关键词集合包括:
将所述已知问题描述文本输入所述关键词提取层,以便所述关键词提取层执行以下操作:
对所述已知问题描述文本进行预处理,生成候选关键词集合;
根据所述候选关键词集合,生成候选关键词图,其中,所述候选关键词图中的节点由所述候选关键词集合中的关键词组成,符合预设条件的节点之间通过边连接;
利用TextRANK公式对所述候选关键词图中的节点进行评分值迭代计算,直至任意所述节点的评分值小于第一预设阈值;
将与评分值大于第二预设阈值的节点对应的候选关键词作为关键词;
根据所述关键词生成所述关键词集合。
3.根据权利要求2所述的方法,其中,所述预设条件包括:
所述边两端的节点分别对应的所述候选关键词在预设长度的词窗口中共现。
4.根据权利要求2或3所述的方法,其中,所述边包括有向边,每条所述有向边具有各自对应的权重值。
5.根据权利要求2所述的方法,其中,所述对所述已知问题描述文本进行预处理,生成候选关键词集合包括:
对所述已知问题描述文本进行分词处理,得到预处理关键词集合;
对所述预处理关键词集合进行筛选处理,以删除所述预处理关键词集合中的干扰词,生成所述候选关键词集合。
6.根据权利要求1所述的方法,其中,所述利用所述关键词集合训练所述待训练的生产问题分类模型的分类层包括:
将所述关键词集合与预先配置的标准关键词集合进行匹配,并根据匹配结果生成关键词矩阵,以便利用所述关键词矩阵训练所述待训练的生产问题分类模型的分类层。
7.一种生产问题分类方法,包括:
获取待分类问题描述文本;以及
将所述待分类问题描述文本输入生产问题分类模型,输出分类结果,其中,所述生产问题分类模型是由权利要求1至6任一项所述的生产问题分类模型的训练方法训练得到的。
8.一种生产问题分类模型的训练装置,包括:
第一获取模块,用于获取训练样本数据集,所述训练样本数据集包括已知问题描述文本;
第一训练模块,用于将所述已知问题描述文本输入待训练的生产问题分类模型的关键词提取层,以便对所述待训练的生产问题分类模型的关键词提取层进行训练,输出关键词集合;以及
第二训练模块,用于利用所述关键词集合训练所述待训练的生产问题分类模型的分类层,得到训练好的生产问题分类模型,其中,所述训练好的生产问题分类模型包括关键词提取层和分类层。
9.一种生产问题分类装置,包括:
第二获取模块,用于获取待分类问题描述文本;以及
分类模块,用于将所述待分类问题描述文本输入生产问题分类模型,输出分类结果,其中,所述生产问题分类模型是由权利要求1至6任一项所述的生产问题分类模型的训练方法训练得到的。
10.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~7中任一项所述的方法。
11.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~7中任一项所述的方法。
12.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110669191.0A CN113392215A (zh) | 2021-06-16 | 2021-06-16 | 生产问题分类模型的训练方法、生产问题分类方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110669191.0A CN113392215A (zh) | 2021-06-16 | 2021-06-16 | 生产问题分类模型的训练方法、生产问题分类方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113392215A true CN113392215A (zh) | 2021-09-14 |
Family
ID=77621512
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110669191.0A Pending CN113392215A (zh) | 2021-06-16 | 2021-06-16 | 生产问题分类模型的训练方法、生产问题分类方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113392215A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114138660A (zh) * | 2021-12-07 | 2022-03-04 | 中国建设银行股份有限公司 | 缺陷处理方法、装置、设备、计算机可读存储介质及产品 |
-
2021
- 2021-06-16 CN CN202110669191.0A patent/CN113392215A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114138660A (zh) * | 2021-12-07 | 2022-03-04 | 中国建设银行股份有限公司 | 缺陷处理方法、装置、设备、计算机可读存储介质及产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210073473A1 (en) | Vector Representation Based on Context | |
US11915123B2 (en) | Fusing multimodal data using recurrent neural networks | |
US20170185835A1 (en) | Assisting people with understanding charts | |
US9766868B2 (en) | Dynamic source code generation | |
US9619209B1 (en) | Dynamic source code generation | |
CN109740167B (zh) | 用于生成信息的方法和装置 | |
US11822568B2 (en) | Data processing method, electronic equipment and storage medium | |
CN111061881A (zh) | 文本分类方法、设备及存储介质 | |
US11328715B2 (en) | Automatic assignment of cooperative platform tasks | |
CN109739989B (zh) | 文本分类方法和计算机设备 | |
CN113569740A (zh) | 视频识别模型训练方法与装置、视频识别方法与装置 | |
CN111723180A (zh) | 一种面试方法和装置 | |
CN114969332A (zh) | 训练文本审核模型的方法和装置 | |
CN113360660A (zh) | 文本类别识别方法、装置、电子设备和存储介质 | |
CN113392215A (zh) | 生产问题分类模型的训练方法、生产问题分类方法及装置 | |
CN113128773A (zh) | 地址预测模型的训练方法、地址预测方法及装置 | |
CN116720489A (zh) | 页面填充方法及装置、电子设备和计算机可读存储介质 | |
US20210133602A1 (en) | Classifier training using noisy samples | |
CN113360672B (zh) | 用于生成知识图谱的方法、装置、设备、介质和产品 | |
US20220188674A1 (en) | Machine learning classifiers prediction confidence and explanation | |
KR20230059364A (ko) | 언어 모델을 이용한 여론조사 시스템 및 운영 방법 | |
CN114676694A (zh) | 业务模型的生成方法、装置、设备、介质和程序产品 | |
CN109800438B (zh) | 用于生成信息的方法和装置 | |
CN113191137A (zh) | 一种操作风险获取方法、系统、电子设备及存储介质 | |
CN110879868A (zh) | 顾问方案生成方法、装置、系统、电子设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |