CN115309868A - 一种文本处理方法、装置、设备及介质 - Google Patents
一种文本处理方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN115309868A CN115309868A CN202210979125.8A CN202210979125A CN115309868A CN 115309868 A CN115309868 A CN 115309868A CN 202210979125 A CN202210979125 A CN 202210979125A CN 115309868 A CN115309868 A CN 115309868A
- Authority
- CN
- China
- Prior art keywords
- target
- comment
- target sentence
- text
- result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/34—Browsing; Visualisation therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/169—Annotation, e.g. comment data or footnotes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/194—Calculation of difference between files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/242—Dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种文本处理方法、装置、设备及介质。该方法包括:将处于目标时间段内的评论文本拆分为至少两条目标语句;根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新;根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;确定待可视化评论类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。本发明的技术方案,通过对评论文本的类别进行划分,可以提取出更精准的有效信息。实现了对评论文本准确有效的处理。
Description
技术领域
本发明涉及计算机领域,尤其涉及一种文本处理方法、装置、设备及介质。
背景技术
汽车论坛或其他相关网站中积累了大量的客户对汽车的评论文本。汽车评论文本内容中蕴含着丰富的有价值信息。深入分析文本内容,挖掘客户评论观点,可以为产品调研、策划、研发,以及频发故障分析、预警提供指引。
如何更好的对评论文本进行文本处理,提取出评论文本中的有效信息并进行可视化,使得相关人员可以有针对性的提高产品质量,是目前亟待解决的问题。
发明内容
本发明提供了一种文本处理方法、装置、设备及介质,通过对评论文本的类别进行划分,可以提取出更精准的有效信息。实现了对评论文本准确有效的处理。
根据本发明的一方面,提供了一种文本处理方法,包括:
将处于目标时间段内的评论文本拆分为至少两条目标语句;所述评论文本为对车辆的相关性能进行评论的文本;
根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新;所述分类结果是对目标语句是否包含有效信息进行分类的结果;
根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;所述评论类别包括:需求性评论、紧迫性评论、问题性评论以及功能性评论;
确定待可视化评论类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
根据本发明的另一方面,提供了一种文本处理装置,包括:
拆分模块,用于将处于目标时间段内的评论文本拆分为至少两条目标语句;所述评论文本为对车辆的相关性能进行评论的文本;
更新模块,用于根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新;所述分类结果是对目标语句是否包含有效信息进行分类的结果;
确定模块,用于根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;所述评论类别包括:需求性评论、紧迫性评论、问题性评论以及功能性评论;
可视化模块,用于确定待可视化评论类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的文本处理方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的文本处理方法。
本发明实施例的技术方案,将处于目标时间段内的评论文本拆分为至少两条目标语句,根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新,根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别,确定待可视化评论类别,将待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。通过对评论文本的类别进行划分,可以提取出更精准的有效信息。实现了对评论文本准确有效的处理,使得相关人员可以有针对性的提高产品质量。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种文本处理方法流程图;
图2是本发明实施例二提供的一种文本处理方法流程图;
图3是本发明实施例三提供的一种文本处理方法流程图;
图4是本发明实施例四提供的文本处理装置的结构图;
图5是本发明实施例五提供的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“目标”、“备选”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是本发明实施例一提供的一种文本处理方法流程图,本实施例适用于对一段时间内评论文本进行分析并可视化的情况,该方法可以由文本处理装置来执行,该装置可以采用软件和/或硬件的方式实现,并可集成于具有实现文本处理功能的电子设备中。如图1所示,该方法包括:
S101、将处于目标时间段内的评论文本拆分为至少两条目标语句。
其中,目标时间段是指预设的目标获取评论文本的时间段。评论文本为对车辆的相关性能进行评论的文本。目标语句是指评论文本中满足筛选条件的语句。每个评论文本可以包括至少两条目标语句。
可选的,可以直接根据预设的目标时间段和各评论文本的评论时间,从评论文本中筛选出评论时间位于目标时间段的评论文本;也可以根据预设的规则,从至少两个备选时间段中确定目标时间段及位于目标时间段内的评论文本。
可选的,确定目标时间段内的评论文本之后,可以直接根据评论文本中的预设标点符号,如问号、句号和感叹号,将评论文本拆分为至少两条目标语句;还可以先将评论文本中除预设标点符号(如问号、句号和感叹号)之外的其他标点符号替换为句号,再根据预设标点符号(如问号、句号和感叹号),将评论文本拆分为至少两条目标语句;还可以将评论文本直接输入预先训练好的模型,输出拆分后的至少两条目标语句,即将评论文本拆分为至少两条目标语句;还可以利用自然语言处理工具包(Natural Language ToolkitPackage,NLTK)中的word_tokenize函数对评论文本进行分句,即将评论文本拆分为至少两条目标语句。
可选的,将处于目标时间段内的评论文本拆分为至少两条目标语句,包括:分别根据各备选时间段内评论文本的数量和各评论文本的点击量对各备选时间段进行排序;根据分别基于评论文本数量和点击量的排序结果,确定满足预设筛选条件的备选时间段,并将其作为目标时间段;根据目标时间段内评论文本中的标点符号,将处于目标时间段内的评论文本拆分为至少两条目标语句。
其中,备选时间段是指备选根据评论文本的时间范围划分的至少两个时间段。评论文本的点击量是指该条评论文本被其他用户点击的数量,可以表征该条评论文本被认可的程度。预设筛选条件是指用于从备选时间段中筛选出目标时间段的条件。标点符号可以是问号、句号或感叹号等表征一句话已结束的标点符号。
可选的,预设筛选条件可以是筛选评论文本数量较少,同时点击量较高的备选时间段;也可以是先筛选出包含评论文本数量小于预设数量阈值的至少两个备选时间段,再从该至少两个备选时间段中选择总点击量最高的备选时间段作为目标时间段;还可以是先筛选出包含评论文本的总点击量大于预设点击量阈值的至少两个备选时间段,再从该至少两个备选时间段中选择评论文本数量最少的备选时间段作为目标时间段。本实施对此不做限制。
示例性的,若备选时间段1、备选时间段2、备选时间段3分别为A年A月1日、A年A月2日和A年A月3日,则可以分别获取位于这三天的评论文本,确定这三天的评论文本数量分别为10、20和30,确定这三天的评论文本的总点击量分别为30、20和10,则备选时间段1、备选时间段2、备选时间段3关于评论文本数量的排序结果即排序序号为3、2和1,备选时间段1、备选时间段2、备选时间段3关于评论文本总点击量的排序结果即排序序号为1、2和3,则基于预设的选择评论文本数量较少,同时总点击量较多的筛选条件,对基于评论文本数量和点击量的排序结果进行分析,可以确定出备选时间段2为满足筛选条件的时间段,因此可以将其作为目标时间段。
S102、根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新。
其中,分类结果是对目标语句是否包含有效信息进行分类的结果。目标语句的向量化结果是指对目标语句进行向量化处理,将目标语句转化为向量形式的结果。向量化结果是目标语句的向量形式,向量化结果可以表征目标语句与预设关键词集合的相关性情况。支持向量机分类器是指基于支持向量机(support vector machine,SVM)分类算法的分类器。
可选的,可以根据预设的规则,将各目标语句转化为向量形式,即确定各目标语句的向量化结果,并将各目标语句的向量化结果输入预先训练好的支持向量机分类器,将目标语句分为两类,一类为包含有效信息的信息性目标语句,另一类为不包含有效信息的非信息性目标语句,从而获取各目标语句的分类结果。示例性的,非信息性目标语句可以是表征消极或积极情绪、无有效信息的目标语句,如“Extremely sluggish controls when istart to play”以及“The environment is gorgeous”。
可选的,根据各目标语句的分类结果,对目标语句进行更新的一种可实施方式为,根据各目标语句的分类结果,将不包含有效信息的非信息性目标语句删除,对目标语句进行更新。
可选的,确定各目标语句的向量化结果,包括:根据各目标语句中各目标词语与预设领域关键词词典中关键词的相似度,将各目标语句进行向量化,生成各目标语句的向量化结果。其中,预设领域关键词词典是指预设的包含汽车领域常用的关键词的词典。
可选的,将各目标语句进行向量化的一种可实施方式为:若目标语句中的目标词语不属于预设领域关键词词典,则将该目标词语与预设领域关键词词典中各关键词相似度中的最大值,作为该目标词语与预设领域关键词词典中关键词的相似度。若目标语句中目标词语属于预设领域关键词词典,则确定该目标词语与预设领域关键词词典中关键词的相似度为1。
优选的,为了提高目标语句向量化的效率,将各目标语句进行向量化的另一种可实施方式为:若目标语句中目标词语属于预设领域关键词词典,则确定该目标词语与预设领域关键词词典中关键词的相似度为1。若目标语句中目标词语不属于预设领域关键词词典,则确定该目标词语与预设领域关键词词典中关键词的相似度为0。
示例性的,若目标语句A包含9个词语,其中,第三个词语属于预设领域关键词词典,其他词语均不属于预设领域关键词词典,则可以确定目标语句向量化形式中的第三项值为1,其他项的值为0,即目标语句的向量化结果可以表示为{0,0,1,0,0,0,0,0,0}。
S103、根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别。
其中,评论类别包括:需求性评论(包含需求词)、紧迫性评论(包含问题词)、问题性评论(包含改进词)以及功能性评论(包含功能词)。信息提取规则是指预设的对目标语句中的相关词语(如需求词、问题词、改进词、功能词等)进行提取的规则,信息提取规则可以包括需求信息提取规则(提取需求词)、紧迫信息提取规则(提取问题词)、问题信息提取规则(提取改进词)以及功能信息提取规则(提取功能词)。需求词例如可以是“lack”、“need”、“需要”、“缺少”等。问题词例如可以是“黑屏”、“bug”、“蓝屏”等。改进词例如可以是“修复”、“维护”、“优化”、“处理”、“更改”等。
可选的,对于每个更新后的目标语句,可以将其与至少两个预设信息提取规则进行匹配,若匹配成功,则将该预设信息提取规则对应的评论类别作为该更新后的目标语句的评论类别,即根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;也可以直接将各更新后的目标语句输入预先训练好的模型,输出各目标语句所属的评论类别。
示例性的,评论类别为需求性评论的目标语句可以是“We need a skylight”,评论类别为紧迫性评论的目标语句可以是“Display straight to blue screen”,评论类别为问题性评论的目标语句可以是“Please fix syncing with the iPad app”,评论类别为功能性评论的目标语句可以是“The application runs smoothly and I have fewproblems”。
S104、确定待可视化评论类别,将待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
其中,待可视化评论类别是指目标进行可视化展示的评论类别。待可视化评论类别可以是需求性评论、紧迫性评论、问题性评论以及功能性评论中的至少一种。
可选的,可以获取相关人员选择的更关注的评论类别,作为待可视化评论类别,也可以根据预设的规则,从需求性评论、紧迫性评论、问题性评论以及功能性评论中四种评论类别中确定至少一种评论类别,作为待可视化评论类别,即确定待可视化评论类别。
可选的,确定待可视化评论类别之后,可以对待可视化评论类别对应的目标语句的相关信息进行统计分析,并将统计分析的结果作为文本处理的结果,以预设的可视化展示方式进行展示。
本发明实施例的技术方案,将处于目标时间段内的评论文本拆分为至少两条目标语句,根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新,根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别,确定待可视化评论类别,将待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。通过对评论文本的类别进行划分,可以提取出更精准的有效信息。实现了对评论文本准确有效的处理,使得相关人员可以有针对性的提高产品质量。
可选的,在对评论文本进行拆分之前,还可以,对评论文本进行预处理;其中,预处理操作包括:将目标语句中的停止词和/或罕见词舍弃;停止词是指预设的与目标语句所属的评论文本主题不相关的词语,如代词和冠词,即“the”“a”等;罕见词是指具有干扰性质的词语,比如文本长度过长的单词、名字以及html中爬取处理误带的标签文本等。
实施例二
图2是本发明实施例二提供的一种文本处理方法流程图,本实施例在上述实施例的基础上,进一步对“根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别”进行详细的解释说明,如图2所示,该方法包括:
S201、将处于目标时间段内的评论文本拆分为至少两条目标语句。
S202、根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新。
S203、对各更新后的目标语句进行特征提取和语义分析,确定各目标语句是否满足各预设信息提取规则。
其中,特征提取是指对目标语句中的预设需求词、问题词、改进词以及功能词进行提取。语义分析是指对目标语句中预设词语(需求词、问题词、改进词或功能词)及其上下文的语义进行分析。
可选的,针对每一条更新后的目标语句,可以基于预设的规则,对其进行特征提取和语义分析,将其与各预设信息提取规则进行匹配,确定其是否满足各预设信息提取规则。
可选的,可以确定各更新后的目标语句是否满足预设需求信息提取规则,具体的,对各更新后的目标语句进行特征提取和语义分析,确定各目标语句是否满足各预设信息提取规则,包括:对各更新后的目标语句进行特征提取,并根据特征提取结果,确定各更新后的目标语句中是否包含需求动词和功能名词;若是,则对该目标语句进行语义分析,确定该目标语句中需求动词和功能名词的语义结构是否满足预设信息提取规则中的需求信息提取规则。
其中,需求信息提取规则包括以下至少一种:需求动词加功能名词、需求名词加专有名词,和/或需求动词加辅助动词再加专有名词的需求信息提取规则。
可选的,若确定更新后的目标语句中包含需求动词和功能名词,且其需求动词和功能名词的语义结构为需求动词在前且功能名词在后,则该目标语句中需求动词和功能名词的语义结构满足需求动词加功能名词的需求信息提取规则,即该目标语句满足预设信息提取规则中的需求信息提取规则。
示例性的,目标语句“It lacks multifarious strategy”中包含需求动词“lack”和功能名词“strategy”,即该目标语句满足需求动词加功能名词的需求信息提取规则;目标语句“The absence of game characters”中包含需求名词“absence”和专有名词“gamecharacters”,即该目标语句满足需求名词加专有名词的需求信息提取规则。目标语句“Wewish you could add items in the shop”中包含需求动词“wish”、辅助动词“add”和专有名词“items”,即该目标语句满足需求动词加辅助动词再加专有名词的需求信息提取规则。
S204、根据判断结果和各预设信息提取规则所属的评论类别,为各目标语句匹配相应的预设信息提取规则,并确定各目标语句的评论类别为其相应的信息提取规则所属的评论类别。
其中,判断结果是指判断各更新后的目标语句所满足的预设信息提取规则的结果。预设信息提取规则所属的评论类别是预先设置的,例如,需求信息提取规则所属的评论类别为需求性评论,紧迫信息提取规则所属的评论类别为紧迫性评论,问题信息提取规则所属的评论类别为问题性评论,功能信息提取规则所属的评论类别为功能性评论。
可选的,可以根据判断结果,确定各目标语句满足的预设信息提取规则,进一步根据各预设信息提取规则所属的评论类别,确定该目标语句的评论类别为其满足的信息提取规则所属的评论类别。
示例性的,若目标语句满足预设信息提取规则中的需求信息提取规则,则为该目标语句匹配该需求信息提取规则,并确定该目标语句的评论类别为需求性评论。
S205、确定待可视化评论类别,将待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
本发明实施例的技术方案,对各更新后的目标语句进行特征提取和语义分析,确定各目标语句是否满足各预设信息提取规则,根据判断结果和各预设信息提取规则所属的评论类别,为各目标语句匹配相应的预设信息提取规则,并确定各目标语句的评论类别为其相应的信息提取规则所属的评论类别,最后进行可视化展示。通过这样的方式,给出了一种确定目标语句评论类别的可实施方式,可以确定出目标语句准确的评论类别,便于后续提取出更精准的有效信息,实现对评论文本准确有效的处理,使得相关人员可以有针对性的提高产品质量。
实施例三
图3是本发明实施例三提供的一种文本处理方法流程图,本实施例在上述实施例的基础上,进一步对“确定待可视化类别,将待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示”进行详细的解释说明,如图3所示,该方法包括:
S301、将处于目标时间段内的评论文本拆分为至少两条目标语句。
S302、根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新。
S303、根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别。
S304、确定待可视化评论类别对应的目标语句。
可选的,可以与相关人员交互,获取指定的待可视化评论类别。
可选的,确定待可视化评论类别之后,可以直接根据各目标语句的评论类别,将更新后的各目标语句中评论类别为待可视化评论类别的目标语句筛选出来,即确定待可视化评论类别对应的目标语句。
S305、针对待可视化评论类别对应的目标语句,根据各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句的评论时长,确定各目标语句的信息量衡量值。
其中,目标语句的易读性指数是指目标语句的FRE(Flesch Reading Ease)指数。目标语句的评论时长是指目标语句所在评论文本的评论时间距离当前时间的时长。信息量衡量值是指可以衡量目标语句中包含信息量情况的数值。
可选的,针对每个待可视化评论类别对应的目标语句,可以直接将其所属文本的点击量、易读性指数以及评论时长输入预先训练好的模型,输出该条目标语句的信息量衡量值。
可选的,可以根据预设的计算规则,对各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句的评论时长进行计算,得到各目标语句的信息量衡量值,具体的,针对待可视化评论类别对应的目标语句,根据各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句评论时长,确定各目标语句的信息量衡量值,包括:针对待可视化评论类别对应的目标语句,将目标语句所属评论文本的点击量作为目标语句的点击量;根据目标语句的语句平均长度和平均音节数,计算目标语句的易读性指数;确定各目标语句所属评论文本的评论时间,并将评论时间与当前时间的时间间隔,作为各目标语句的评论时长;计算目标语句的点击量和评论时长的比值,并根据比值和目标语句的易读性指数,确定各目标语句的信息量衡量值。
其中,目标语句的语句平均长度(Average Sentence Length,ASL)是指目标语句中包含的词语数,与目标语句所在评论文本的目标语句数量的比值。目标语句的平均音节数(表示为ASW)是指目标语句中所有词语音节数的平均值,与目标语句所包含的词语数量的比值。
可选的,根据目标语句的语句平均长度和平均音节数,计算目标语句的易读性指数,可以基于如下公式:
FRE=206.835–(1.015×ASL)–(84.6×ASW)
其中,FRE为目标语句的易读性指数,ASL为目标语句的语句平均长度,ASW为目标语句的平均音节数。
可选的,可以将目标语句的点击量和评论时长的比值,与目标语句的易读性指数的乘积,作为该目标语句的信息量衡量值,即根据各目标语句的比值和易读性指数,确定各目标语句的信息量衡量值。
S306、将各目标语句的信息量衡量值的排序结果,作为统计分析的结果,对文本处理的结果进行可视化展示。
可选的,可以将更新后的目标语句中,评论类型为待可视化评论类别的目标语句的信息量衡量值进行排序,基于从大到小或从小到大的顺序进行排序,并将排序结果作为统计分析的结果,基于预设的可视化展示方式,对文本处理的结果进行可视化展示。
本发明实施例的技术方案,确定待可视化评论类别对应的目标语句,针对待可视化评论类别对应的目标语句,根据各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句的评论时长,确定各目标语句的信息量衡量值,最后将各目标语句的信息量衡量值的排序结果,作为统计分析的结果,对文本处理的结果进行可视化展示。通过这样的方式,给出了一种对文本处理结果进行可视化展示的可实施方式,可以对确定评论类别的目标语句进行筛选,将其中需要展示的目标语句的相关信息进行统计分析并展示,实现了文本有效信息更精准提取,使得相关人员可以有针对性的提高产品质量。
实施例四
图4是本发明实施例四提供的文本处理装置的结构图,本发明实施例所提供的一种文本处理装置可执行本发明任一实施例所提供的文本处理方法,具备执行方法相应的功能模块和有益效果。
如图4所示,该装置包括:
拆分模块401,用于将处于目标时间段内的评论文本拆分为至少两条目标语句;所述评论文本为对车辆的相关性能进行评论的文本;
更新模块402,用于根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新;所述分类结果是对目标语句是否包含有效信息进行分类的结果;
确定模块403,用于根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;所述评论类别包括:需求性评论、紧迫性评论、问题性评论以及功能性评论;
可视化模块404,用于确定待可视化评论类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
本发明实施例的技术方案,将处于目标时间段内的评论文本拆分为至少两条目标语句,根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新,根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别,确定待可视化评论类别,将待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。通过对评论文本的类别进行划分,可以提取出更精准的有效信息。实现了对评论文本准确有效的处理,使得相关人员可以有针对性的提高产品质量。
进一步的,确定模块403可以包括:
第一确定单元,用于对各更新后的目标语句进行特征提取和语义分析,确定各目标语句是否满足各预设信息提取规则;
第二确定单元,用于根据判断结果和各预设信息提取规则所属的评论类别,为各目标语句匹配相应的预设信息提取规则,并确定各目标语句的评论类别为其相应的信息提取规则所属的评论类别。
进一步的,第一确定单元具体用于:
对各更新后的目标语句进行特征提取,并根据特征提取结果,确定各更新后的目标语句中是否包含需求动词和功能名词;
若是,则对该目标语句进行语义分析,确定该目标语句中需求动词和功能名词的语义结构是否满足预设信息提取规则中的需求信息提取规则;其中,所述需求信息提取规则包括以下至少一种:需求动词加功能名词、需求名词加专有名词,和/或需求动词加辅助动词再加专有名词的需求信息提取规则。
进一步的,可视化模块404可以包括:
第三确定单元,用于确定待可视化评论类别对应的目标语句;
第四确定单元,用于针对待可视化评论类别对应的目标语句,根据各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句的评论时长,确定各目标语句的信息量衡量值;
可视化单元,用于将各目标语句的信息量衡量值的排序结果,作为统计分析的结果,对文本处理的结果进行可视化展示。
进一步的,第四确定单元具体用于:
针对待可视化评论类别对应的目标语句,将目标语句所属评论文本的点击量作为所述目标语句的点击量;
根据所述目标语句的语句平均长度和平均音节数,计算所述目标语句的易读性指数;
确定各目标语句所属评论文本的评论时间,并将评论时间与当前时间的时间间隔,作为各目标语句的评论时长;
计算所述目标语句的点击量和评论时长的比值,并根据所述比值和目标语句的易读性指数,确定各目标语句的信息量衡量值。
进一步的,拆分模块401具体用于:
分别根据各备选时间段内评论文本的数量和各评论文本的点击量对各备选时间段进行排序;
根据分别基于评论文本数量和点击量的排序结果,确定满足预设筛选条件的备选时间段,并将其作为目标时间段;
根据所述目标时间段内评论文本中的标点符号,将处于目标时间段内的评论文本拆分为至少两条目标语句。
进一步的,上述装置还用于:
根据各目标语句中各目标词语与预设领域关键词词典中关键词的相似度,将各目标语句进行向量化,生成各目标语句的向量化结果。
需要说明的是,本申请技术方案中对评论文本及点击量等相关数据信息的获取、存储、使用、处理等均符合国家法律法规的相关规定。
实施例五
图5是本发明实施例五提供的电子设备的结构示意图。图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如文本处理方法。
在一些实施例中,文本处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的文本处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行文本处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种文本处理方法,其特征在于,包括:
将处于目标时间段内的评论文本拆分为至少两条目标语句;所述评论文本为对车辆的相关性能进行评论的文本;
根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新;所述分类结果是对目标语句是否包含有效信息进行分类的结果;
根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;所述评论类别包括:需求性评论、紧迫性评论、问题性评论以及功能性评论;
确定待可视化评论类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
2.根据权利要求1所述的方法,其特征在于,根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别,包括:
对各更新后的目标语句进行特征提取和语义分析,确定各目标语句是否满足各预设信息提取规则;
根据判断结果和各预设信息提取规则所属的评论类别,为各目标语句匹配相应的预设信息提取规则,并确定各目标语句的评论类别为其相应的信息提取规则所属的评论类别。
3.根据权利要求2所述的方法,其特征在于,对各更新后的目标语句进行特征提取和语义分析,确定各目标语句是否满足各预设信息提取规则,包括:
对各更新后的目标语句进行特征提取,并根据特征提取结果,确定各更新后的目标语句中是否包含需求动词和功能名词;
若是,则对该目标语句进行语义分析,确定该目标语句中需求动词和功能名词的语义结构是否满足预设信息提取规则中的需求信息提取规则;其中,所述需求信息提取规则包括以下至少一种:需求动词加功能名词、需求名词加专有名词,和/或需求动词加辅助动词再加专有名词的需求信息提取规则。
4.根据权利要求1所述的方法,其特征在于,确定待可视化类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示,包括:
确定待可视化评论类别对应的目标语句;
针对待可视化评论类别对应的目标语句,根据各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句的评论时长,确定各目标语句的信息量衡量值;
将各目标语句的信息量衡量值的排序结果,作为统计分析的结果,对文本处理的结果进行可视化展示。
5.根据权利要求4所述的方法,其特征在于,针对待可视化评论类别对应的目标语句,根据各目标语句所属评论文本的点击量、各目标语句的易读性指数、各目标语句评论时长,确定各目标语句的信息量衡量值,包括:
针对待可视化评论类别对应的目标语句,将目标语句所属评论文本的点击量作为所述目标语句的点击量;
根据所述目标语句的语句平均长度和平均音节数,计算所述目标语句的易读性指数;
确定各目标语句所属评论文本的评论时间,并将评论时间与当前时间的时间间隔,作为各目标语句的评论时长;
计算所述目标语句的点击量和评论时长的比值,并根据所述比值和目标语句的易读性指数,确定各目标语句的信息量衡量值。
6.根据权利要求1所述的方法,其特征在于,将处于目标时间段内的评论文本拆分为至少两条目标语句,包括:
分别根据各备选时间段内评论文本的数量和各评论文本的点击量对各备选时间段进行排序;
根据分别基于评论文本数量和点击量的排序结果,确定满足预设筛选条件的备选时间段,并将其作为目标时间段;
根据所述目标时间段内评论文本中的标点符号,将处于目标时间段内的评论文本拆分为至少两条目标语句。
7.根据权利要求1所述的方法,其特征在于,还包括:
根据各目标语句中各目标词语与预设领域关键词词典中关键词的相似度,将各目标语句进行向量化,生成各目标语句的向量化结果。
8.一种文本处理装置,其特征在于,包括:
拆分模块,用于将处于目标时间段内的评论文本拆分为至少两条目标语句;所述评论文本为对车辆的相关性能进行评论的文本;
更新模块,用于根据各目标语句的向量化结果,利用预设支持向量机分类器,对目标语句进行分类,并根据各目标语句的分类结果,对目标语句进行更新;所述分类结果是对目标语句是否包含有效信息进行分类的结果;
确定模块,用于根据至少两个预设信息提取规则与各更新后的目标语句的匹配情况,确定更新后的各目标语句的评论类别;所述评论类别包括:需求性评论、紧迫性评论、问题性评论以及功能性评论;
可视化模块,用于确定待可视化评论类别,将所述待可视化评论类别对应的目标语句进行统计分析,并根据统计分析的结果,对文本处理的结果进行可视化展示。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的文本处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的文本处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210979125.8A CN115309868A (zh) | 2022-08-16 | 2022-08-16 | 一种文本处理方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210979125.8A CN115309868A (zh) | 2022-08-16 | 2022-08-16 | 一种文本处理方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115309868A true CN115309868A (zh) | 2022-11-08 |
Family
ID=83862631
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210979125.8A Pending CN115309868A (zh) | 2022-08-16 | 2022-08-16 | 一种文本处理方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115309868A (zh) |
-
2022
- 2022-08-16 CN CN202210979125.8A patent/CN115309868A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110020422B (zh) | 特征词的确定方法、装置和服务器 | |
RU2517368C2 (ru) | Способ и устройство определения и оценки значимости слов | |
EP4113321A1 (en) | Data mining method, data mining apparatus, electronic device and storage medium | |
CN112989235A (zh) | 基于知识库的内链构建方法、装置、设备和存储介质 | |
CN113220999A (zh) | 用户特征的生成方法、装置、电子设备和存储介质 | |
CN112560461A (zh) | 新闻线索的生成方法、装置、电子设备及存储介质 | |
CN113392920B (zh) | 生成作弊预测模型的方法、装置、设备、介质及程序产品 | |
CN114020904A (zh) | 试题文件筛选方法、模型训练方法、装置、设备及介质 | |
WO2024037483A1 (zh) | 文本处理方法、装置、设备及介质 | |
CN117216275A (zh) | 一种文本处理方法、装置、设备以及存储介质 | |
CN113051911A (zh) | 提取敏感词的方法、装置、设备、介质及程序产品 | |
CN115248890A (zh) | 用户兴趣画像的生成方法、装置、电子设备以及存储介质 | |
CN115827867A (zh) | 文本类型的检测方法及装置 | |
CN115577109A (zh) | 文本分类方法、装置、电子设备及存储介质 | |
CN107590163B (zh) | 文本特征选择的方法、装置和系统 | |
CN115563242A (zh) | 汽车信息筛选方法、装置、电子设备及存储介质 | |
CN115309868A (zh) | 一种文本处理方法、装置、设备及介质 | |
CN113378015A (zh) | 搜索方法、装置、电子设备、存储介质和程序产品 | |
CN113051396A (zh) | 文档的分类识别方法、装置和电子设备 | |
CN114492409B (zh) | 文件内容的评价方法、装置、电子设备及程序产品 | |
CN112818221B (zh) | 实体的热度确定方法、装置、电子设备及存储介质 | |
CN114186552B (zh) | 文本分析方法、装置、设备及计算机存储介质 | |
JP5646522B2 (ja) | 偏り述部抽出装置、方法、及びプログラム | |
CN115545011A (zh) | 一种汽车评论类型确定方法、装置、设备及存储介质 | |
CN114218478A (zh) | 推荐方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |