CN112035660A - 基于网络模型的对象类别确定方法及装置 - Google Patents
基于网络模型的对象类别确定方法及装置 Download PDFInfo
- Publication number
- CN112035660A CN112035660A CN202010820489.2A CN202010820489A CN112035660A CN 112035660 A CN112035660 A CN 112035660A CN 202010820489 A CN202010820489 A CN 202010820489A CN 112035660 A CN112035660 A CN 112035660A
- Authority
- CN
- China
- Prior art keywords
- training
- words
- algorithm
- model
- index value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012549 training Methods 0.000 claims abstract description 150
- 238000012545 processing Methods 0.000 claims abstract description 34
- 230000011218 segmentation Effects 0.000 claims abstract description 24
- 238000004422 calculation algorithm Methods 0.000 claims description 79
- 238000002372 labelling Methods 0.000 claims description 32
- 238000007635 classification algorithm Methods 0.000 claims description 30
- 238000000605 extraction Methods 0.000 claims description 26
- 238000013528 artificial neural network Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 18
- 230000015654 memory Effects 0.000 claims description 18
- 238000013135 deep learning Methods 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 13
- 230000000306 recurrent effect Effects 0.000 claims description 13
- 238000013527 convolutional neural network Methods 0.000 claims description 7
- 125000004122 cyclic group Chemical group 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 7
- 239000013598 vector Substances 0.000 claims description 5
- 230000000694 effects Effects 0.000 abstract description 3
- 241000220223 Fragaria Species 0.000 description 12
- 235000016623 Fragaria vesca Nutrition 0.000 description 12
- 235000011363 Fragaria x ananassa Nutrition 0.000 description 12
- 244000046052 Phaseolus vulgaris Species 0.000 description 10
- 235000010627 Phaseolus vulgaris Nutrition 0.000 description 10
- 235000019219 chocolate Nutrition 0.000 description 10
- 235000015140 cultured milk Nutrition 0.000 description 10
- 229910052900 illite Inorganic materials 0.000 description 9
- VGIBGUSAECPPNB-UHFFFAOYSA-L nonaaluminum;magnesium;tripotassium;1,3-dioxido-2,4,5-trioxa-1,3-disilabicyclo[1.1.1]pentane;iron(2+);oxygen(2-);fluoride;hydroxide Chemical compound [OH-].[O-2].[O-2].[O-2].[O-2].[O-2].[F-].[Mg+2].[Al+3].[Al+3].[Al+3].[Al+3].[Al+3].[Al+3].[Al+3].[Al+3].[Al+3].[K+].[K+].[K+].[Fe+2].O1[Si]2([O-])O[Si]1([O-])O2.O1[Si]2([O-])O[Si]1([O-])O2.O1[Si]2([O-])O[Si]1([O-])O2.O1[Si]2([O-])O[Si]1([O-])O2.O1[Si]2([O-])O[Si]1([O-])O2.O1[Si]2([O-])O[Si]1([O-])O2.O1[Si]2([O-])O[Si]1([O-])O2 VGIBGUSAECPPNB-UHFFFAOYSA-L 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 3
- 230000002457 bidirectional effect Effects 0.000 description 2
- 238000013145 classification model Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 235000013305 food Nutrition 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000006041 probiotic Substances 0.000 description 2
- 235000018291 probiotics Nutrition 0.000 description 2
- 230000010076 replication Effects 0.000 description 2
- 229940034610 toothpaste Drugs 0.000 description 2
- 239000000606 toothpaste Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 230000000170 anti-cariogenic effect Effects 0.000 description 1
- 235000008429 bread Nutrition 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000008267 milk Substances 0.000 description 1
- 235000013336 milk Nutrition 0.000 description 1
- 210000004080 milk Anatomy 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 235000016709 nutrition Nutrition 0.000 description 1
- 230000035764 nutrition Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 235000013555 soy sauce Nutrition 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
- 235000013618 yogurt Nutrition 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
- G06F16/316—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种基于网络模型的对象类别确定方法及装置，包括：对采集到的训练文本进行分词处理得到训练词语集合；为训练词语建立第一索引值；使用训练词语集合中的训练词语和第一索引值对初始模型进行训练，得到第一模型；对待处理文本进行分词处理得到一组预设词语；使用第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，第二索引值用于表示目标对象的所属类别。通过本发明，解决了由于物品名称中存在较多的信息，导致难以依据物品名称确定物品类别的问题，进而达到了提高物品分类的效率的效果。
Description
技术领域
本发明涉及通信领域，具体而言，涉及一种基于网络模型的对象类别确定方法及装置。
背景技术
随着社会经济快速发展，物品种类繁多，物品名称多样化。在许多场景中需要物品进行分类，例如在超市中需要根据物品的类别进行摆放。目前常用的物品分类方法主要依赖人工分类，而人工分类需要浪费大量的人工成本。
现有技术中通常根据物品的名称对物品进行分类。但是，各大超市或食品厂家对自己的物品有着特有的物品名称命名方式，同类别的物品有着不同且繁杂的名称。例如，一种物品名称“某某食品级儿童牙膏60克防龋营养益生菌2-6-12岁防蛀60克草莓1支”可能同时出现在“牙膏”、“益生菌”和“草莓”的关键词检索结果，难以根据物品的名称确定物品的类别，进而增加了物品名称分类的人工成本。
针对相关技术中，由于物品名称中存在较多的信息，导致难以依据物品名称确定物品类别的问题，目前尚未存在有效的解决方案。
发明内容
本发明实施例提供了一种基于网络模型的对象类别确定方法及装置，以至少解决相关技术中由于物品名称中存在较多的信息，导致难以依据物品名称确定物品类别的问题。
根据本发明的一个实施例，提供了一种基于网络模型的对象类别确定方法，包括：对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
可选地，所述使用所述第一模型对所述一组预设词语进行分析，包括：通过序列标注算法对所述一组预设词语进行序列标注，得到一组标注词语，其中，所述序列标注算法包括：递归神经网络和条件随机场算法；通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语，所述属性抽取算法包括：循环神经网络、条件随机场、卷积神经网络；其中，所述第一模型包括：所述序列标注算法和所述属性抽取算法。
可选地，在所述通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语之后，所述方法还包括：使用文本改写算法对所述一组第一目标词语进行改写，得到改写文本，其中，所述改写文本中包括至少两个第二目标词语，每个所述第二目标词语的权重大于或等于预设阈值，所述第一模型包括所述文本改写算法，所述文本改写算法包括：序列模型、注意力机制、第一BERT算法。
可选地，在得到改写文本之后，所述方法还包括：以所述改写文本作为深度学习分类算法的输入，使用所述深度学习分类算法对所述改写文本中所包括词向量进行分析，得到所述第二索引值，其中，所述深度学习分类算法包括：循环神经网络、长短期记忆网络、第二BERT分类算法的输入，使用所述第二BERT分类算法得到所述第二索引值。
可选地，所述使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型，包括：使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到所述第一模型，其中，所述第一模型包括第二BERT分类算法，所述第二BERT分类算法输出的所述训练样本的预估索引值与预定的所述训练样本的已知第一索引值之间的损失函数满足目标收敛条件，所述目标收敛条件用于表示所述损失函数的输出值在预定范围之内。
根据本发明的另一个实施例，提供了一种基于网络模型的类别确定装置，包括：第一处理模块，用于对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；建立模块，用于为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；训练模块，用于使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；第二处理模块，用于对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；分析模块，用于使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
可选地，所述分析模块包括：标注单元，用于通过序列标注算法对所述一组预设词语进行序列标注，得到一组标注词语，其中，所述序列标注算法包括：递归神经网络和条件随机场算法；抽取单元，用于通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语，所述属性抽取算法包括：循环神经网络、条件随机场、卷积神经网络；其中，所述第一模型包括：所述序列标注算法和所述属性抽取算法。
可选地，所述装置还包括：改写单元，用于在所述通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语之后，使用文本改写算法对所述一组第一目标词语进行改写，得到改写文本，其中，所述改写文本中包括至少两个第二目标词语，每个所述第二目标词语的权重大于或等于预设阈值，所述第一模型包括所述文本改写算法，所述文本改写算法包括：序列模型、注意力机制、第一BERT算法。
根据本发明的又一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
通过本发明，由于通过对采集到的训练文本进行分词处理得到训练词语集合；为训练词语建立第一索引值；使用所述训练词语集合中的训练词语和第一索引值对初始模型进行训练，得到第一模型；对待处理文本进行分词处理得到一组预设词语；使用第一模型对一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。达到对物品名称进行缩减，去除冗余信息的目的。因此，可以解决由于物品名称中存在较多的信息，导致难以依据物品名称确定物品属性问题，达到提高物品分类的效率的效果。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1是本发明实施例的一种基于网络模型的对象类别确定方法的移动终端的硬件结构框图；
图2是根据本发明实施例的基于网络模型的对象类别确定方法的流程图；
图3是根据本发明一个可选实施例的对物品名称进行改写的示意图；
图4是根据本发明一个可选实施例的物品分类流程图；
图5是根据本发明实施例的物体属性的确定装置的结构框图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例，图1是本发明实施例的一种基于网络模型的对象类别确定方法的移动终端的硬件结构框图。如图1所示，移动终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104，可选地，上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述移动终端的结构造成限定。例如，移动终端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序，例如，应用软件的软件程序以及模块，如本发明实施例中的基于网络模型的对象类别确定方法对应的计算机程序，处理器102通过运行存储在存储器104内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至移动终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端10的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器(Network Interface Controller，简称为NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频(Radio Frequency，简称为RF)模块，其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种运行于上述移动终端的基于网络模型的对象类别确定方法，图2是根据本发明实施例的基于网络模型的对象类别确定方法的流程图，如图2所示，该流程包括如下步骤：
步骤S202，对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；
步骤S204，为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；
步骤S206，使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；
步骤S208，对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；
步骤S210，使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
作为一个可选的实施方式可以从网络上爬取新闻文本，或者从网络上下载超市物品名称作为模型的训练数据。将采集到的物品名称作为训练样本的训练词语，将训练样本的物品名称作为训练文本，进行分词处理得到至少两个训练词语。使用训练数据对原始模型进行训练得到训练好的第一模型，可以使用第一模型对物品的名称进行分析，得到物品的类别。在本实施例中，物品的类别可以使用索引值进行标注，例如，索引值00用于表示牛奶，01用于酱油，02用于表示面包等。
作为一个可选的实施方式，待处理文本可以是待识别的物品名称，例如，某物品名称“伊利Joy Day巧克力豆&草莓发酵乳220/杯”，对该物品名称进行分词处理后得到“伊利”、“Joy Day”、“巧克力豆”、“草莓”、“发酵乳”、“220/杯”，每个词语应用标识该物品的属性，例如，“伊利”用于标注物品的品牌，“巧克力豆”“草莓”用于标注物品的口味，“发酵乳”用于标注物品的种类，“220/杯”用于标注物品的容量。通过训练好的第一模型对物品的名称进行分析，可以得到第一模型输出的索引值，该所索引值用于表示物品的类别。
通过上述步骤，由于通过对采集到的训练文本进行分词处理得到训练词语集合；为训练词语建立第一索引值；使用所述训练词语集合中的训练词语和第一索引值对初始模型进行训练，得到第一模型；对待处理文本进行分词处理得到一组预设词语；使用第一模型对一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。达到对物品名称进行缩减，去除冗余信息的目的。因此，可以解决由于物品名称中存在较多的信息，导致难以依据物品名称确定物品属性问题，达到提高物品分类的效率的效果。
可选地，上述步骤的执行主体可以为终端等，但不限于此。
可选地，所述使用所述第一模型对所述一组预设词语进行分析，包括：通过序列标注算法对所述一组预设词语进行序列标注，得到一组标注词语，其中，所述序列标注算法包括：递归神经网络和条件随机场算法；通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语，所述属性抽取算法包括：循环神经网络、条件随机场、卷积神经网络；其中，所述第一模型包括：所述序列标注算法和所述属性抽取算法。
作为一个可选的实施方式，可以使用递归神经网络和条件随机场对商品名称进行序列标注，抽取出多属性(品牌、味道、种类和容量)。属性抽取算法可以是循环神经网络、条件随机场(Conditional random field algorithm，简称CRF)、卷积神经网络、CRF中的任意一种网络模型，也可以是各个网络模型的组合。使用递归神经网络和条件随机场对物品的名称进行序列标注后，使用属性抽取算法对物品的属性进行抽取，属性可以包括：品牌、味道、种类和容量。例如，对于物品名称“伊利Joy Day巧克力豆&草莓发酵乳220/杯”，对序列标注后的一组预设词语“伊利”、“Joy Day”、“巧克力豆”、“草莓”、“发酵乳”、“220/杯”进行分析后，抽取出对应于属性为品牌、味道、种类和容量的目标词语：“伊利”、“巧克力豆”、“草莓”、“发酵乳”、“220/杯”。
可选地，在所述通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语之后，所述方法还包括：使用文本改写算法对所述一组第一目标词语进行改写，得到改写文本，其中，所述改写文本中包括至少两个第二目标词语，每个所述第二目标词语的权重大于或等于预设阈值，所述第一模型包括所述文本改写算法，所述文本改写算法包括：序列模型、注意力机制、第一BERT算法。
在本实施例中，短文本改写方法包括但不限于以下几种：序列模型，注意力机制或BERT(Bidirectional Encoder Representation from Transformers)模型。其中，注意力机制通过更改属性权重来重视或者忽略该属性，从而改写物品名称，删减了冗余信息，简化原始物品名称。对于在上述实施例中抽取出的目标词语“伊利”、“巧克力豆”、“草莓”、“发酵乳”、“220/杯”，使用训练好的文本改写算法对“伊利”、“巧克力豆”、“草莓”、“发酵乳”、“220/杯”进行分析，确定出权重大于预设阈值的词语，得到目标文本。其中，目标文本中所包括的词语的权重大于或等于预设阈值，例如，将“伊利”、“巧克力豆”、“草莓”、“发酵乳”、“220/杯”输出至文本改写算法，文本改写算法输出“伊利”、“巧克力豆”、“草莓”、“发酵乳”。通过文本改写算法可以进一步去除物品名称中的冗余信息，将物品的名称进行了改写，简化了原始物品名称，图3是根据本发明一个可选实施例的对物品名称进行改写的示意图。
可选地，在得到改写文本之后，所述方法还包括：以所述改写文本作为深度学习分类算法的输入，使用所述深度学习分类算法对所述改写文本中所包括词向量进行分析，得到所述第二索引值，其中，所述深度学习分类算法包括：循环神经网络、长短期记忆网络、第二BERT分类算法的输入，使用所述第二BERT分类算法得到所述第二索引值。
作为一个可选的实施方式，深度学习分类算法包括但不限于以下几种：循环神经网络(RNN,Recurrent Neural Networks)、长短期记忆网络(LSTM，Long Short-TermMemory)或BERT(Bidirectional Encoder Representation from Transformers)。使用训练好的深度学习分类算法对改写后的文本进行分析，可以得到物品的种类。在本实施例中，通过对物品名称的改写，去除物品的冗余信息，可以提高物品种类识别的准确率和识别效率。
可选地，所述使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型，包括：使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到所述第一模型，其中，所述第一模型包括第二BERT分类算法，所述第二BERT分类算法输出的所述训练样本的预估索引值与预定的所述训练样本的已知第一索引值之间的损失函数满足目标收敛条件，所述目标收敛条件用于表示所述损失函数的输出值在预定范围之内。
作为一个可选的实施例，训练完成的第一网络模型的输出满足收敛条件，收敛条件用于表示收敛函数的输出值在预设范围内，预设范围可以根据实际情况而定，收敛函数可以是交叉熵函数，预设范围可以根据实际情况而定，例如可以是0.01、0.001等。
作为一个可选的实施方式，在模型的训练过程中进行模型评估：通过公式2/F1＝1/Precision+1/Recall，在超市商品名称测试集上进行精确率(Precision)和召回率(Recall)的评估，其中，F1值是精确率和召回率的调和均值。得到训练好的模型后，进行模型保存，选取F1值最高的模型进行保存，结束训练过程。在使用训练好的模型对超市商品名称分类时，可以加载保存的模型，对未标注的超市商品名称进行分类，直接得到最终分类结果。
作为一个可选的实施方式，加载BERT模型，在改写后的超市商品名称标注数据上进行分类任务。分类模型的输入为(X，Y)，X是按字分割的超市物品名称字符向量[x1,x2,x3...xn]，n是超市物品名称的长度，Y是物品类别的索引值值。分类模型的输出为y’，是对应物品名称的预测类别的索引值。对未标注的超市物品名称进行分类，直接得到最终分类结果，如图4是根据本发明一个可选实施例的物品分类流程图。在本实施例中，可以通过索引值表示物品类别，例如，“00”表示水果，“01”表示酸奶，具体的可以根据实际情况设置索引值所表示的物品类别。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
在本实施例中还提供了一种基于网络模型的对象类别确定装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。
图5是根据本发明实施例的基于网络模型的对象类别确定装置的结构框图，如图5所示，该装置包括：第一处理模块52，用于对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；建立模块54，用于为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；训练模块56，用于使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；第二处理模块58，用于对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；分析模块510，用于使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
可选地，所述分析模块包括：标注单元，用于通过序列标注算法对所述一组预设词语进行序列标注，得到一组标注词语，其中，所述序列标注算法包括：递归神经网络和条件随机场算法；抽取单元，用于通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语，所述属性抽取算法包括：循环神经网络、条件随机场、卷积神经网络；其中，所述第一模型包括：所述序列标注算法和所述属性抽取算法。
可选地，所述装置还包括：改写单元，用于在所述通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语之后，使用文本改写算法对所述一组第一目标词语进行改写，得到改写文本，其中，所述改写文本中包括至少两个第二目标词语，每个所述第二目标词语的权重大于或等于预设阈值，所述第一模型包括所述文本改写算法，所述文本改写算法包括：序列模型、注意力机制、第一BERT算法。
可选地，上述装置还用于在得到改写文本之后，以所述改写文本作为深度学习分类算法的输入，使用所述深度学习分类算法对所述改写文本中所包括词向量进行分析，得到所述第二索引值，其中，所述深度学习分类算法包括：循环神经网络、长短期记忆网络、第二BERT分类算法的输入，使用所述第二BERT分类算法得到所述第二索引值。
可选地，上述装置还用于通过如下方式实现所述使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型：使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到所述第一模型，其中，所述第一模型包括第二BERT分类算法，所述第二BERT分类算法输出的所述训练样本的预估索引值与预定的所述训练样本的已知第一索引值之间的损失函数满足目标收敛条件，所述目标收敛条件用于表示所述损失函数的输出值在预定范围之内。
需要说明的是，上述各个模块是可以通过软件或硬件来实现的，对于后者，可以通过以下方式实现，但不限于此：上述模块均位于同一处理器中；或者，上述各个模块以任意组合的形式分别位于不同的处理器中。
本发明的实施例还提供了一种存储介质，该存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
可选地，在本实施例中，上述存储介质可以被设置为存储用于执行以下步骤的计算机程序：
S1，对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；
S2，为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；
S3，使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；
S4，对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；
S5，使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
可选地，在本实施例中，上述存储介质可以包括但不限于：U盘、只读存储器(Read-Only Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
可选地，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。
可选地，在本实施例中，上述处理器可以被设置为通过计算机程序执行以下步骤：
S1，对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；
S2，为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；
S3，使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；
S4，对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；
S5，使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。
显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于网络模型的对象类别确定方法，其特征在于，包括：
对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；
为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；
使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；
对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；
使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
2.根据权利要求1所述的方法，其特征在于，所述使用所述第一模型对所述一组预设词语进行分析，包括：
通过序列标注算法对所述一组预设词语进行序列标注，得到一组标注词语，其中，所述序列标注算法包括：递归神经网络和条件随机场算法；
通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语，所述属性抽取算法包括：循环神经网络、条件随机场、卷积神经网络；
其中，所述第一模型包括：所述序列标注算法和所述属性抽取算法。
3.根据权利要求2所述的方法，其特征在于，在所述通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语之后，所述方法还包括：
使用文本改写算法对所述一组第一目标词语进行改写，得到改写文本，其中，所述改写文本中包括至少两个第二目标词语，每个所述第二目标词语的权重大于或等于预设阈值，所述第一模型包括所述文本改写算法，所述文本改写算法包括：序列模型、注意力机制、第一BERT算法。
4.根据权利要求3所述的方法，其特征在于，在得到改写文本之后，所述方法还包括：
以所述改写文本作为深度学习分类算法的输入，使用所述深度学习分类算法对所述改写文本中所包括词向量进行分析，得到所述第二索引值，其中，所述深度学习分类算法包括：循环神经网络、长短期记忆网络、第二BERT分类算法的输入，使用所述第二BERT分类算法得到所述第二索引值。
5.根据权利要求1所述的方法，其特征在于，所述使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型，包括：
使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到所述第一模型，其中，所述第一模型包括第二BERT分类算法，所述第二BERT分类算法输出的所述训练样本的预估索引值与预定的所述训练样本的已知第一索引值之间的损失函数满足目标收敛条件，所述目标收敛条件用于表示所述损失函数的输出值在预定范围之内。
6.一种基于网络模型的对象类别确定装置，其特征在于，包括：
第一处理模块，用于对采集到的训练文本进行分词处理得到训练词语集合，其中，所述训练词语集合中包括至少两个训练词语，其中，所述训练文本用于标识训练样本；
建立模块，用于为所述训练词语建立第一索引值，其中，所述第一索引值用于表示所述训练样本所属类别；
训练模块，用于使用所述训练词语集合中的训练词语和所述第一索引值对初始模型进行训练，得到第一模型；
第二处理模块，用于对待处理文本进行分词处理得到一组预设词语，其中，所述一组预设词语中包括至少两个预设词语，所述预设词语用于标识目标对象；
分析模块，用于使用所述第一模型对所述一组预设词语进行分析，得到第一模型输出的第二索引值，所述第二索引值用于表示所述目标对象的所属类别。
7.根据权利要求6所述的装置，其特征在于，所述分析模块包括：
标注单元，用于通过序列标注算法对所述一组预设词语进行序列标注，得到一组标注词语，其中，所述序列标注算法包括：递归神经网络和条件随机场算法；
抽取单元，用于通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语，所述属性抽取算法包括：循环神经网络、条件随机场、卷积神经网络；
其中，所述第一模型包括：所述序列标注算法和所述属性抽取算法。
8.根据权利要求7所述的装置，其特征在于，所述装置还包括：
改写单元，用于在所述通过属性抽取算法在所述一组标注词语抽取出一组第一目标词语之后，使用文本改写算法对所述一组第一目标词语进行改写，得到改写文本，其中，所述改写文本中包括至少两个第二目标词语，每个所述第二目标词语的权重大于或等于预设阈值，所述第一模型包括所述文本改写算法，所述文本改写算法包括：序列模型、注意力机制、第一BERT算法。
9.一种存储介质，其特征在于，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行所述权利要求1至5任一项中所述的方法。
10.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行所述权利要求1至5任一项中所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010820489.2A CN112035660A (zh) | 2020-08-14 | 2020-08-14 | 基于网络模型的对象类别确定方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010820489.2A CN112035660A (zh) | 2020-08-14 | 2020-08-14 | 基于网络模型的对象类别确定方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112035660A true CN112035660A (zh) | 2020-12-04 |
Family
ID=73577270
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010820489.2A Pending CN112035660A (zh) | 2020-08-14 | 2020-08-14 | 基于网络模型的对象类别确定方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112035660A (zh) |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105243129A (zh) * | 2015-09-30 | 2016-01-13 | 清华大学深圳研究生院 | 商品属性特征词聚类方法 |
| CN106815194A (zh) * | 2015-11-27 | 2017-06-09 | 北京国双科技有限公司 | 模型训练方法及装置和关键词识别方法及装置 |
| CN106919543A (zh) * | 2015-12-24 | 2017-07-04 | 阿里巴巴集团控股有限公司 | 确定商品对象标题文本的方法及装置 |
| CN109213866A (zh) * | 2018-09-19 | 2019-01-15 | 浙江诺诺网络科技有限公司 | 一种基于深度学习的税务商品编码分类方法和系统 |
| US20190095432A1 (en) * | 2017-09-26 | 2019-03-28 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for building text classification model, and text classification method and apparatus |
| CN109992781A (zh) * | 2019-04-02 | 2019-07-09 | 腾讯科技（深圳）有限公司 | 文本特征的处理、装置、存储介质和处理器 |
| WO2019137562A2 (en) * | 2019-04-25 | 2019-07-18 | Alibaba Group Holding Limited | Identifying entities in electronic medical records |
| CN110874534A (zh) * | 2018-08-31 | 2020-03-10 | 阿里巴巴集团控股有限公司 | 数据处理方法和数据处理装置 |
| CN110968775A (zh) * | 2018-09-30 | 2020-04-07 | 北京京东尚科信息技术有限公司 | 商品属性生成模型的训练方法及生成、搜索方法和系统 |
| CN111125354A (zh) * | 2018-10-31 | 2020-05-08 | 北京国双科技有限公司 | 文本分类方法及装置 |
| CN111291564A (zh) * | 2020-03-03 | 2020-06-16 | 腾讯科技（深圳）有限公司 | 一种用于词向量获取的模型训练方法、装置和存储介质 |
-
2020
- 2020-08-14 CN CN202010820489.2A patent/CN112035660A/zh active Pending
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105243129A (zh) * | 2015-09-30 | 2016-01-13 | 清华大学深圳研究生院 | 商品属性特征词聚类方法 |
| CN106815194A (zh) * | 2015-11-27 | 2017-06-09 | 北京国双科技有限公司 | 模型训练方法及装置和关键词识别方法及装置 |
| CN106919543A (zh) * | 2015-12-24 | 2017-07-04 | 阿里巴巴集团控股有限公司 | 确定商品对象标题文本的方法及装置 |
| US20190095432A1 (en) * | 2017-09-26 | 2019-03-28 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for building text classification model, and text classification method and apparatus |
| CN110874534A (zh) * | 2018-08-31 | 2020-03-10 | 阿里巴巴集团控股有限公司 | 数据处理方法和数据处理装置 |
| CN109213866A (zh) * | 2018-09-19 | 2019-01-15 | 浙江诺诺网络科技有限公司 | 一种基于深度学习的税务商品编码分类方法和系统 |
| CN110968775A (zh) * | 2018-09-30 | 2020-04-07 | 北京京东尚科信息技术有限公司 | 商品属性生成模型的训练方法及生成、搜索方法和系统 |
| CN111125354A (zh) * | 2018-10-31 | 2020-05-08 | 北京国双科技有限公司 | 文本分类方法及装置 |
| CN109992781A (zh) * | 2019-04-02 | 2019-07-09 | 腾讯科技（深圳）有限公司 | 文本特征的处理、装置、存储介质和处理器 |
| WO2019137562A2 (en) * | 2019-04-25 | 2019-07-18 | Alibaba Group Holding Limited | Identifying entities in electronic medical records |
| CN111291564A (zh) * | 2020-03-03 | 2020-06-16 | 腾讯科技（深圳）有限公司 | 一种用于词向量获取的模型训练方法、装置和存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 程齐凯、李信: "学术文本的词汇功能分析：理论、方法与应用", vol. 2020, 31 July 2020, 武汉大学出版社, pages: 11 - 17 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107016026B (zh) | 一种用户标签确定、信息推送方法和设备 | |
| CN110532451A (zh) | 针对政策文本的检索方法和装置、存储介质、电子装置 | |
| CN109492180A (zh) | 资源推荐方法、装置、计算机设备及计算机可读存储介质 | |
| CN105718184A (zh) | 一种数据处理方法和装置 | |
| CN110781204B (zh) | 目标对象的标识信息确定方法、装置、设备及存储介质 | |
| CN111914159B (zh) | 一种信息推荐方法及终端 | |
| CN104820879A (zh) | 一种用户行为信息的分析方法和装置 | |
| CN115098650B (zh) | 基于历史数据模型的评论信息分析方法及相关装置 | |
| CN110580489B (zh) | 一种数据对象的分类系统、方法以及设备 | |
| US20160086200A1 (en) | Product code analysis system and product code analysis program | |
| CN112288554B (zh) | 商品推荐方法和装置、存储介质及电子装置 | |
| CN105069077A (zh) | 搜索方法及装置 | |
| CN107958406A (zh) | 查询数据的获取方法、装置及终端 | |
| CN110009045A (zh) | 物联网终端的识别方法和装置 | |
| CN112465598A (zh) | 一种用户画像生成方法、装置、设备及计算机存储介质 | |
| CN112364923A (zh) | 样本数据的处理方法及装置、系统、存储介质、电子设备 | |
| CN114579858A (zh) | 内容推荐方法和装置、电子设备、存储介质 | |
| CN113298559A (zh) | 一种商品适用人群的推荐方法、系统、装置及存储介质 | |
| CN116127184A (zh) | 产品的推荐方法及装置、非易失性存储介质、电子设备 | |
| CN109062947A (zh) | 用户画像标签查询方法、设备及计算机可读存储介质 | |
| CN112818088A (zh) | 商品搜索数据处理方法、装置、设备及存储介质 | |
| CN110807159B (zh) | 数据标记方法、装置、存储介质及电子设备 | |
| CN110992215B (zh) | 基于语义分析的旅游服务推荐系统、数据库和推荐方法 | |
| CN114078037A (zh) | 基于标签向量化的商品推荐方法及装置 | |
| CN112035660A (zh) | 基于网络模型的对象类别确定方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |