CN114912522A - 信息分类方法和装置 - Google Patents
信息分类方法和装置 Download PDFInfo
- Publication number
- CN114912522A CN114912522A CN202210512119.1A CN202210512119A CN114912522A CN 114912522 A CN114912522 A CN 114912522A CN 202210512119 A CN202210512119 A CN 202210512119A CN 114912522 A CN114912522 A CN 114912522A
- Authority
- CN
- China
- Prior art keywords
- information
- prompt information
- prompt
- classification model
- pieces
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000013145 classification model Methods 0.000 claims abstract description 85
- 238000012549 training Methods 0.000 claims abstract description 75
- 230000004044 response Effects 0.000 claims description 18
- 230000015654 memory Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims 1
- 230000010365 information processing Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 10
- 230000008451 emotion Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 108010001267 Protein Subunits Proteins 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2431—Multiple classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Software Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了信息分类方法和装置,具体涉及信息处理技术领域。具体实现方案为:获取输入的问题信息;基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,其中,分类模型基于预训练语言模型和至少两条提示信息构建,至少两条提示信息中各提示信息对应的目标类别的分类维度各不相同。该方式对问题信息的多分类,同时有效节约了系统资源。
Description
技术领域
本公开涉及云计算技术领域,具体涉及信息处理技术领域,尤其涉及一种信息分类方法和装置。
背景技术
随着云服务和预训练模型的发展和推广,使用云服务提供预训练模型能力的形式越来越常见。
目前在云服务上的预训练模型技术,均为开发者基于每个领域的领域数据finetune预训练模型,得到每个领域的领域模型,并将模型保存下来进行部署。
发明内容
本公开实施例提供了一种信息分类方法、装置、设备以及存储介质。
第一方面,本公开实施例提供了一种信息分类方法,该方法包括:获取输入的问题信息;基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,其中,分类模型基于预训练语言模型和至少两条提示信息构建,至少两条提示信息中各提示信息对应的目标类别的分类维度各不相同。
第二方面,本公开实施例提供了一种信息分类装置,该装置包括:获取模块,被配置成获取输入的问题信息;分类模块,被配置成基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,其中,分类模型基于预训练语言模型和至少两条提示信息构建,至少两条提示信息中各提示信息对应的目标类别的分类维度各不相同。
第三方面,本公开实施例提供了一种电子设备,该电子设备包括一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被该一个或多个处理器执行,使得一个或多个处理器实现如第一方面的任一实施例的信息分类方法。
第四方面,本公开实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面的任一实施例的信息分类方法。
第五方面,本公开实施例提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如第一方面的任一实施例的信息分类方法。
本公开实现了对问题信息的多分类,同时有效节约了系统资源。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其他特征将通过以下的说明书而变得容易理解。
附图说明
图1是本公开可以应用于其中的示例性系统架构图;
图2是根据本公开的信息分类方法的一个实施例的流程图;
图3是根据本公开的信息分类方法的一个应用场景的示意图;
图4是根据本公开的信息分类方法的又一个实施例的流程图;
图5是根据本公开的信息分类装置的一个实施例的示意图;
图6是适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的信息分类方法的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以视频播放类应用、通信类应用等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于手机和笔记本电脑。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供信息分类服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如,获取输入的问题信息;基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,其中,分类模型基于预训练语言模型和至少两条提示信息构建,至少两条提示信息中各提示信息对应的目标类别的分类维度各不相同。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供信息分类服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要指出的是,本公开的实施例所提供的信息分类方法可以由服务器105执行,也可以由终端设备101、102、103执行,还可以由服务器105和终端设备101、102、103彼此配合执行。相应地,信息分类装置包括的各个部分(例如各个单元、子单元、模块、子模块)可以全部设置于服务器105中,也可以全部设置于终端设备101、102、103中,还可以分别设置于服务器105和终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示出了信息分类方法的实施例的流程示意图200。该信息分类方法包括以下步骤:
步骤201,获取输入的问题信息。
在本实施例中,执行主体(例如,图1中的服务器105或终端设备101、102、103)可以采用有线或无线的方式获取用户输入的问题信息。
其中,用户输入的问题信息可以是任意的问题信息,本申请对此不作限定。
上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
步骤202,基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别。
在本实施例中,执行主体在获取到用户输入的问题信息后,可以将问题信息输入部署在在云端的分类模型,得到与至少两条提示信息中各提示信息对应的目标类别。
其中,分类模型可以基于预训练语言模型和提示信息集合中的至少两条提示信息,即prompt信息,构建。至少两条prompt信息中各提示信息对应的目标类别的分类维度各不相同。
这里,预训练语言模型可以为现有技术或未来发展技术中的预训练语言模型,例如,基于GPT(Generative Pre-Training,生成式的预训练)的预训练语言模型、基于BERT(Bidirectional Encoder Representations from Transformers,基于Transformer的双向编码器表征)的预训练语言模型等,本申请对此不作限定。
其中,prompt信息就是插入原始数据的一段提示信息,通过插入的这段提示信息,可以将当前的一些任务变成更加适配预训练模型当初训练时的形式,从而可以“唤醒”预训练模型之前学习到的能力,从而发挥出更好的模型效果。
这里,执行主体可以基于至少两个预训练语言模型和至少两条prompt信息构建分类模型,至少两个预训练语言模型与至少两条prompt信息中的各prompt信息一一对应。
具体地,分类模型可以包括至少两个子分类模型,每一个子分类模型基于一个预训练语言模型和一条prompt信息构建,至少两个子分类模型中的每一子分类模型对应预训练语言模型相同,prompt信息不同。子分类模型的数量与至少两条prompt信息的数量等同。执行主体可将提问信息分别输入部署在云端的上述至少两个子分类模型,得到至少两个目标类别。
此外,执行主体也可以基于一个预训练语言模型和至少两条提示信息构建分类模型。
具体地,分类模型可以包括一个子分类模型,子分类模型基于预训练语言模型和至少两条prompt信息中的一条prompt信息构建。执行主体可将问题信息输入部署在云端的子分类模型,得到初始目标类别。进而,将至少两条prompt信息中的另一条prompt信息替子分类模型中的prompt信息,得到新的子分类模型,将问题信息输入新的子分类模型,得到初始目标类别,以此类推,直至穷尽至少两条prompt信息中每一prompt信息,并将各prompt信息对应的初始目标类别确定为目标类别。
这里,需要指出的是,prompt信息的形式可以是多种,例如,token形式、向量形式、token+向量形式、矩阵形式等等,本申请对此不作限定。
在一些可选的方式中,提示信息为向量形式。
在本实现方式中,prompt信息可以采用向量形式,有助于在连续空间中构造和优化可微的连续提示,进而有助于提升基于预训练语言模型和prompt向量集对问题信息进行分类的准确性。
在一些可选的方式中,至少两条提示信息通过以下方式生成:获取至少两个训练样本集,训练样本包括问题信息和对应的类别信息;对于每一个训练样本集,基于训练样本集对初始分类模型进行训练,得到相应的训练完成的提示信息。
在本实现方式中,执行主体可以获取至少两个训练样本集,训练样本包括问题信息和对应的类别信息,至少两个训练样本集中各训练样本集标注的类别信息对应的分类维度各不相同。
进一步地,对于每一个训练样本集,基于训练样本集对初始分类模型进行训练,得到相应的训练完成的提示信息。
其中,初始分类模型包括预训练语言模型和初始提示信息,初始提示信息包含可调整参数,在训练过程中,预训练语言模型的参数保持不变,即在训练过程中,仅调整初始提示信息的参数。
该实现方式通过获取至少两个训练样本集,训练样本包括问题信息和对应的类别信息;对于每一个训练样本集,基于训练样本集对初始分类模型进行训练,得到相应的训练完成的提示信息,进而基于至少两条提示信息和预训练语言模型对问题信息进行分类,避免了对预训练语言模型的参数进行调整,进一步降低了计算量,节约了系统资源。
在一些可选的方式中,该方法还包括:基于至少两条提示信息中各提示信息对应的目标类别,确定问题信息对应的应答信息。
在本实现方式中,执行主体在获取到至少两条提示信息中各提示信息对应的目标类别后,可在预设的应答信息数据库中,根据各提示信息对应的目标类别,确定出问题信息对应的应答信息。
具体地,执行主体获取到三条提示信息中各提示信息对应的目标类别,分别为情感类别、意向类别和情感类别,进而根据情感类别、意向类别和情感类别,在预设的应答信息数据库中,确定出问题信息对应的应答信息。
该实现方式通过基于至少两条提示信息中各提示信息对应的目标类别,确定问题信息对应的应答信息,实现了基于问题信息对应的至少两个目标类别,确定问题信息对应的应答信息。
继续参见图3,图3是根据本实施例的信息分类方法的应用场景的一个示意图。执行主体301可采用有线或无线的方式获取用户输入的客服领域的问题信息302,并将该问题信息输入部署在云端的分类模型303,得到与至少两条提示信息中各提示信息对应的目标类别,其中,分类模型基于预训练语言模型和至少两条提示信息构建,至少两条提示信息可以包括:第一prompt信息、第二prompt信息和第三prompt信息。至少两条提示信息中各提示信息对应的目标类别分别为第一prompt信息对应的目标类别304、第二prompt信息对应的目标类别305和第三prompt信息对应的目标类别306。这里,第一prompt信息对应的目标类别304的分类维度可以为意向,第二prompt信息对应的目标类别305的分类维度可以为态度,第三prompt信息对应的目标类别306的分类维度可以为情感。也即将问题信息输入部署在云端的分类模型可得到问题信息对应的情感类别、意向类别和态度类别。
本公开的实施例提供的信息分类方法,通过获取输入的问题信息;基于部署在云端的分类模型对所述问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,实现了对问题信息的多分类,同时有效节约了系统资源。
进一步参考图4,其示出了图2所示的信息分类方法的又一个实施例的流程400。在本实施例中,信息分类方法的流程400,可包括以下步骤:
步骤401,获取输入的问题信息。
在本实施例中,步骤401的实现细节和技术效果,可以参考对步骤201的描述,在此不再赘述。
步骤402,基于部署在云端的子分类模型、至少两条提示信息和问题信息,执行替换操作以对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别。
在本实施例中,分类模型包括子分类模型,子分类模型基于预训练语言模型和至少两条提示信息中的一条提示信息构建,执行主体在获取到用户输入的问题信息后,可基于子分类模型、至少两条提示信息和问题信息,执行替换操作以对问题信息进行分类,得到与至少两条提示信息中各信息对应的目标类别。
其中,替换操作包括:将问题信息输入子分类模型;响应于得到初始目标类别,并且至少两条提示信息中存在未使用的提示信息,在未使用的提示信息中调用一条提示信息替换子分类模型中的提示信息,得到新的子分类模型,将新的子分类模型确定为子分类模型,继续执行替换操作;响应于得到初始目标类别,并且至少两条提示信息中各提示信息均被使用过,将初始目标类别确定为目标类别。
具体地,执行主体获取到用户输入的客服领域的问题信息,将该问题信息输入子分类模型,其中,分类模型基于预训练语言模型和的一条提示信息,如,第二prompt信息,构建。这里,的至少两条提示信息可以包括第一prompt信息、第二prompt信息和第三prompt信息,其中,第一prompt信息对应的目标类别的分类维度为意向,第二prompt信息对应的目标类别的分类维度为态度,第三prompt信息对应的目标类别的分类维度为情感。
执行主体响应于得到初始目标类别,进一步判断至少两条提示信息,即第一prompt信息、第二prompt信息和第三prompt信息中是否存在未使用的prompt信息,经判断存在第一prompt信息和第三prompt信息未被使用,在未使用的第一prompt信息和第三prompt信息中调用第一prompt信息替换子分类模型中的第二prompt信息,得到新的子分类模型,并将新的子分类模型确定为子分类模型,继续执行替换操作,即在得到初始目标类别并确定存在第三prompt信息未使用的条件下,可将第三prompt信息替换子分类模型中的第一prompt信息,得到新的子分类模型,并将新的子分类模型确定为子分类模型,继续执行替换操作。
最后,执行主体响应于得到初始目标类别,并且至少两条提示信息中不存在未使用的提示信息,即第一prompt信息、第二prompt信息和第三prompt信息均被使用,将初始目标类别确定为目标类别,即将第一prompt信息对应的初始目标类别、第二prompt信息对应的初始目标类别和第三prompt信息对应的初始目标类别确定为与第一prompt信息、第二prompt信息和第三prompt信息对应的目标类别,也即得到问题信息对应的意向类别、情感类别和态度类别。
进一步地,执行主体在确定问题信息对应的意向类别、情感类别和态度类别后,还可根据确定出的意向类别、情感类别和态度类别,在预设的应答库中,确定出问题信息对应的应答信息。
本公开的上述实施例,与图2所示实施例相比,突出了基于部署在云端的分类模型和问题信息,执行替换操作以对问题信息进行分类,得到与至少两条提示信息中各信息对应的目标类别,即基于一个预训练语言模型和的至少两条提示信息构建分类模型,并基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各信息对应的目标类别,最大限度地利用了预训练模型本身,进一步节约了系统资源。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种信息分类装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的信息分类装置500包括:获取模块501、和分类模块502。
其中,确定模块501,可被配置成获取输入的问题信息。
分类模块502,可被配置成基于部署在云端的分类模型对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别。
在本实施例的一些可选的方式中,分类模块进一步被配置成:基于部署在云端的子分类模型、至少两条提示信息和问题信息,执行替换操作以对问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别。
在本实施例的一些可选的方式中,至少两条提示信息通过以下方式生成:获取至少两个训练样本集;对于每一个训练样本集,基于训练样本集对初始分类模型进行训练,得到相应的训练完成的提示信息。
在本实施例的一些可选的方式中,提示信息为向量形式。
在本实施例的一些可选的方式中,该装置还包括:确定模块,被配置成基于至少两条提示信息中各提示信息对应的目标类别,确定问题信息对应的应答信息。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图6所示,是根据本公开实施例的信息分类方法的电子设备的框图。
600是根据本公开实施例的信息分类方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本公开所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本公开所提供的信息分类方法。本公开的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本公开所提供的信息分类方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本公开实施例中的信息分类方法对应的程序指令/模块(例如,附图5所示的获取模块501和分类模块502)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的信息分类方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储人脸跟踪的电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至车道线检测的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
信息分类方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与车道线检测的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本公开实施例的技术方案,实现了对问题信息的多分类,同时有效节约了系统资源。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (13)
1.一种信息分类方法,包括:
获取输入的问题信息;
基于部署在云端的分类模型对所述问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,其中,所述分类模型基于预训练语言模型和至少两条提示信息构建,所述至少两条提示信息中各提示信息对应的目标类别的分类维度各不相同。
2.根据权利要求1所述的方法,其中,所述分类模型包括子分类模型,所述子分类模型基于预训练语言模型和至少两条提示信息中的一条提示信息构建,以及所述基于部署在云端的分类模型对所述问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,包括:
基于部署在云端的子分类模型、所述至少两条提示信息和所述问题信息,执行替换操作以对所述问题信息进行分类,得到与所述至少两条提示信息中各提示信息对应的目标类别,其中,所述替换操作包括:
将所述问题信息输入所述子分类模型;响应于得到初始目标类别,并且所述至少两条提示信息中存在未使用的提示信息,在所述未使用的提示信息中调用一条提示信息替换子分类模型中的提示信息,得到新的子分类模型;将所述新的子分类模型确定为子分类模型,继续执行所述替换操作;响应于得到初始目标类别,并且所述至少两条提示信息中各提示信息均被使用过,将初始目标类别确定为目标类别。
3.根据权利要求1所述的方法,其中,所述至少两条提示信息通过以下方式生成:
获取至少两个训练样本集,其中,训练样本包括问题信息和对应的类别信息,所述至少两个训练样本集中各训练样本集标注的类别信息对应的分类维度各不相同;
对于每一个训练样本集,基于训练样本集对初始分类模型进行训练,得到相应的训练完成的提示信息,其中,所述初始分类模型包括预训练语言模型和初始提示信息,所述初始提示信息包含可调整参数,在所述训练过程中,预训练语言模型的参数保持不变。
4.根据权利要求1所述的方法,其中,所述提示信息为向量形式。
5.根据权利要求1-4任一所述的方法,所述方法还包括:
基于所述至少两条提示信息中各提示信息对应的目标类别,确定所述问题信息对应的应答信息。
6.一种信息分类装置,包括:
获取模块,被配置成获取输入的问题信息;
分类模块,被配置成基于部署在云端的分类模型对所述问题信息进行分类,得到与至少两条提示信息中各提示信息对应的目标类别,其中,所述分类模型基于预训练语言模型和至少两条提示信息构建,所述至少两条提示信息中各提示信息对应的目标类别的分类维度各不相同。
7.根据权利要求6所述的装置,其中,所述分类模型包括子分类模型,所述子分类模型基于预训练语言模型和至少两条提示信息中的一条提示信息构建,以及所述分类模块进一步被配置成:
基于部署在云端的子分类模型、所述至少两条提示信息和所述问题信息,执行替换操作以对所述问题信息进行分类,得到与所述至少两条提示信息中各提示信息对应的目标类别,其中,所述替换操作包括:
将所述问题信息输入所述子分类模型;响应于得到初始目标类别,并且所述至少两条提示信息中存在未使用的提示信息,在所述未使用的提示信息中调用一条提示信息替换子分类模型中的提示信息,得到新的子分类模型;将所述新的子分类模型确定为子分类模型,继续执行所述替换操作;响应于得到初始目标类别,并且所述至少两条提示信息中各提示信息均被使用过,将初始目标类别确定为目标类别。
8.根据权利要求6所述的装置,其中,所述至少两条提示信息通过以下方式生成:
获取至少两个训练样本集,其中,训练样本包括问题信息和对应的类别信息,所述至少两个训练样本集中各训练样本集标注的类别信息对应的分类维度各不相同;
对于每一个训练样本集,基于训练样本集对初始分类模型进行训练,得到相应的训练完成的提示信息,其中,所述初始分类模型包括预训练语言模型和初始提示信息,所述初始提示信息包含可调整参数,在所述训练过程中,预训练语言模型的参数保持不变。
9.根据权利要求6所述的装置,其中,所述提示信息为向量形式。
10.根据权利要求6-9任一所述的装置,所述装置还包括:
确定模块,被配置成基于所述至少两条提示信息中各提示信息对应的目标类别,确定所述问题信息对应的应答信息。
11.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210512119.1A CN114912522B (zh) | 2022-05-11 | 2022-05-11 | 信息分类方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210512119.1A CN114912522B (zh) | 2022-05-11 | 2022-05-11 | 信息分类方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114912522A true CN114912522A (zh) | 2022-08-16 |
CN114912522B CN114912522B (zh) | 2024-04-05 |
Family
ID=82767254
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210512119.1A Active CN114912522B (zh) | 2022-05-11 | 2022-05-11 | 信息分类方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114912522B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020054551A1 (ja) * | 2018-09-11 | 2020-03-19 | 日本電気株式会社 | 情報処理装置、情報処理方法、プログラム |
CN114090780A (zh) * | 2022-01-20 | 2022-02-25 | 宏龙科技(杭州)有限公司 | 一种基于提示学习的快速图片分类方法 |
CN114330371A (zh) * | 2021-12-24 | 2022-04-12 | 北海淇诚信息科技有限公司 | 基于提示学习的会话意图识别方法、装置和电子设备 |
-
2022
- 2022-05-11 CN CN202210512119.1A patent/CN114912522B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020054551A1 (ja) * | 2018-09-11 | 2020-03-19 | 日本電気株式会社 | 情報処理装置、情報処理方法、プログラム |
CN114330371A (zh) * | 2021-12-24 | 2022-04-12 | 北海淇诚信息科技有限公司 | 基于提示学习的会话意图识别方法、装置和电子设备 |
CN114090780A (zh) * | 2022-01-20 | 2022-02-25 | 宏龙科技(杭州)有限公司 | 一种基于提示学习的快速图片分类方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114912522B (zh) | 2024-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3923160A1 (en) | Method, apparatus, device and storage medium for training model | |
EP3828719A2 (en) | Method and apparatus for generating model for representing heterogeneous graph node, electronic device, storage medium, and computer program product | |
CN111539514A (zh) | 用于生成神经网络的结构的方法和装置 | |
KR20210132578A (ko) | 지식 그래프를 구축하는 방법, 장치, 기기 및 저장 매체 | |
CN111104514A (zh) | 文档标签模型的训练方法及装置 | |
CN111709252B (zh) | 基于预训练的语义模型的模型改进方法及装置 | |
JP2021111334A (ja) | 検索データに基づくヒューマンコンピュータ対話型インタラクションの方法、装置及び電子機器 | |
CN111078878B (zh) | 文本处理方法、装置、设备及计算机可读存储介质 | |
CN111680517A (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN111127191B (zh) | 风险评估方法及装置 | |
US20220027575A1 (en) | Method of predicting emotional style of dialogue, electronic device, and storage medium | |
CN111522944A (zh) | 用于输出信息的方法、装置、设备以及存储介质 | |
CN112486820A (zh) | 用于测试代码的方法、装置、设备以及存储介质 | |
CN110752968B (zh) | 性能基准测试方法、装置、电子设备及存储介质 | |
CN111782785A (zh) | 自动问答方法、装置、设备以及存储介质 | |
KR20230006601A (ko) | 정렬 방법, 정렬 모델의 트레이닝 방법, 장치, 전자 기기 및 매체 | |
CN112329429B (zh) | 文本相似度学习方法、装置、设备以及存储介质 | |
EP3825876A2 (en) | Method, apparatus, device, storage medium and program for embedding user app interest | |
CN111638787B (zh) | 用于展示信息的方法和装置 | |
WO2023169193A1 (zh) | 用于生成智能合约的方法和装置 | |
CN114912522B (zh) | 信息分类方法和装置 | |
CN112669855A (zh) | 语音处理方法和装置 | |
CN111951788A (zh) | 一种语言模型的优化方法、装置、电子设备及存储介质 | |
CN111783872A (zh) | 训练模型的方法、装置、电子设备及计算机可读存储介质 | |
CN110618944A (zh) | 设备模拟方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |