WO2019214149A1 - 文本关键信息的识别方法、电子装置及可读存储介质 - Google Patents

文本关键信息的识别方法、电子装置及可读存储介质 Download PDF

Info

Publication number
WO2019214149A1
WO2019214149A1 PCT/CN2018/108219 CN2018108219W WO2019214149A1 WO 2019214149 A1 WO2019214149 A1 WO 2019214149A1 CN 2018108219 W CN2018108219 W CN 2018108219W WO 2019214149 A1 WO2019214149 A1 WO 2019214149A1
Authority
WO
WIPO (PCT)
Prior art keywords
word
text
preset
recognized
score
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2018/108219
Other languages
English (en)
French (fr)
Inventor
李正洋
李海疆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Publication of WO2019214149A1 publication Critical patent/WO2019214149A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/284—Lexical analysis, e.g. tokenisation or collocates
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology

Definitions

  • the present application relates to the field of computer technologies, and in particular, to a method for identifying text key information, an electronic device, and a readable storage medium.
  • the purpose of the present application is to provide a method for identifying text key information, an electronic device, and a readable storage medium, which are intended to quickly and accurately obtain key information in a text.
  • a first aspect of the present application provides an electronic device including a memory, a processor, and an identification system for storing text key information executable on the processor,
  • the identification system of the text key information is implemented by the processor to implement the following steps:
  • the word segmentation process After receiving the text to be recognized, performing the word segmentation process on the received text to be recognized by using a predetermined word segmentation model to obtain each word segmentation of the text to be recognized; wherein the predetermined word segmentation model is a pre-passing sequence A long-term and short-term memory cycle neural network model obtained by training a preset number of sample sentences labeled by the annotation method;
  • the second aspect of the present application further provides a method for identifying text key information, where the method for identifying the key information includes:
  • the word segmentation process After receiving the text to be recognized, performing the word segmentation process on the received text to be recognized by using a predetermined word segmentation model to obtain each word segmentation of the text to be recognized; wherein the predetermined word segmentation model is a pre-passing sequence A long-term and short-term memory cycle neural network model obtained by training a preset number of sample sentences labeled by the annotation method;
  • a third aspect of the present application further provides a computer readable storage medium, where the computer readable storage medium stores an identification system of text key information, and the identification system of the text key information may be at least A processor executes the step of causing the at least one processor to perform the method of identifying textual key information as described above.
  • the trained long-and short-term memory cycle neural network model can be used for automatic word segmentation of the recognized text, and the word frequency, position and word span of each word segment can be comprehensively considered to extract key information in the text to be recognized, the user does not need to spend the user himself. More time to sort out the core content of the text to be recognized, enabling the user to quickly and accurately obtain key information in the text to be recognized.
  • FIG. 1 is a schematic diagram of an operating environment of a preferred embodiment of the identification system 10 for key information of the present application;
  • FIG. 2 is a schematic flowchart diagram of an embodiment of a method for identifying key information in the text of the present application.
  • FIG. 1 is a schematic diagram of an operating environment of a preferred embodiment of the identification system 10 for key information in the present application.
  • the identification system 10 of the text key information is installed and operated in the electronic device 1.
  • the electronic device 1 may include, but is not limited to, a memory 11, a processor 12, and a display 13.
  • Figure 1 shows only the electronic device 1 with components 11-13, but it should be understood that not all illustrated components may be implemented, and more or fewer components may be implemented instead.
  • the memory 11 is at least one type of readable computer storage medium, which in some embodiments may be an internal storage unit of the electronic device 1, such as a hard disk or memory of the electronic device 1.
  • the memory 11 may also be an external storage device of the electronic device 1 in other embodiments, such as a plug-in hard disk equipped on the electronic device 1, a smart memory card (SMC), and a secure digital device. (Secure Digital, SD) card, flash card, etc.
  • the memory 11 may also include both an internal storage unit of the electronic device 1 and an external storage device.
  • the memory 11 is used to store application software installed on the electronic device 1 and various types of data, such as program codes of the identification system 10 of the text key information.
  • the memory 11 can also be used to temporarily store data that has been output or is about to be output.
  • the processor 12 may be a central processing unit (CPU), a microprocessor or other data processing chip for running program code or processing data stored in the memory 11, for example An identification system 10 or the like that executes the text key information.
  • CPU central processing unit
  • microprocessor or other data processing chip for running program code or processing data stored in the memory 11, for example An identification system 10 or the like that executes the text key information.
  • the display 13 in some embodiments may be an LED display, a liquid crystal display, a touch-sensitive liquid crystal display, an OLED (Organic Light-Emitting Diode) touch sensor, or the like.
  • the display 13 is used to display information processed in the electronic device 1 and a user interface for displaying visualizations, such as text to be recognized, word segmentation results, finally recognized keywords, key information, and the like.
  • the components 11-13 of the electronic device 1 communicate with one another via a system bus.
  • the identification system 10 of textual information includes at least one computer readable instruction stored in the memory 11, the at least one computer readable instruction being executable by the processor 12 to implement various embodiments of the present application.
  • Step S1 after receiving the text to be recognized, performing word segmentation processing on the received text to be recognized by using a predetermined word segmentation model to obtain each word segmentation of the text to be recognized; wherein the predetermined word segmentation model is pre-determined A long-term and short-term memory-cycle neural network model trained by using a preset number of sample sentences labeled by sequence notation.
  • the identification system of the text key information receives the key information identification request sent by the user, including the text to be recognized, for example, receiving a key information identification request sent by the user through a mobile phone, a tablet computer, a self-service terminal device, or the like, such as receiving the user.
  • the text to be identified in this embodiment is a research report issued by various domestic securities companies and institutions. Since Chinese is not like the Latin language system such as English, in addition to punctuation marks, the words are closely connected. There are no obvious word boundaries, so it is difficult to extract the words simply and accurately. In Chinese, as the most basic semantic unit, although the word has its own meaning, the ideographic ability is poor, the meaning is more scattered, and the word's ideographic ability is stronger, which can describe a thing more accurately. In natural language processing, Usually words (including word formation) are the most basic processing units, so the research report must be accurately segmented. In this embodiment, a long-short-term memory loop neural network (LSTM) model is trained by sequence labeling to perform word segmentation. The training process of the long-term and short-term memory loop neural network model is as follows:
  • the preset sequence labeling rule is marked according to the position of each word in the word, and the label type includes: a first word label, a middle word label, a tail word label, and a single word label. For example, in a piece of text, each word can be labeled according to its position in the word.
  • the commonly used mark has the following four labels: B, Begin, which means that the word is the first word of a word; M, Middle, indicates this Is the word in the middle of a word; E, End, which means that this is the tail of a word; S, Single, which means that this is a word.
  • the process of word segmentation is to input a character into the model, and then get the corresponding mark sequence, and then segment the word according to the mark sequence.
  • “Daguan data is an enterprise big data service provider”.
  • the ideal labeling sequence obtained after the model is “BMMESBEBMEBME”, and the finalized word segmentation result is “Daguan Data/Yes/Enterprise/Big Data/Service Provider”.
  • the default corpus uses the cut-off corpus of the Microsoft Research Institute in the classic bakeoff2005. The train part can be taken for training and the test is used as the final test.
  • word2vec is the word2vec tool released by Google at the end of 2013. It can be regarded as an important application of deep learning in the NLP field. Although word2vec has only three layers of neural networks, it has achieved very good results. With word2vec, you can represent a word as a word vector and digitize the text to better understand the computer. The word2vec model makes it easy to find synonyms or closely related words, or words with opposite meanings.
  • the preset number of sample statements are divided into a training set and an evaluation set according to a preset ratio (for example, 9:1).
  • a preset ratio for example, 9:1.
  • training a parameter using a training set an entire training set is usually divided into three parts. Generally divided into: training set (train_set), evaluation set (valid_set), test set (test_set) these three parts. This is actually set specifically to ensure the training effect.
  • the test set is actually data that does not participate in training at all, and is only used to observe the test results.
  • the degree of fit of the training results to the training set is usually good, but the degree of fit to the data outside the training set is usually not good.
  • K-fold cross-validation is K-fold cross-validation.
  • the initial sampling is divided into K sub-samples.
  • a single sub-sample is retained as the data of the verification model.
  • the preset number of sample sentences are divided according to a preset ratio.
  • the evaluation set, the other K-1 samples are used for training, that is, the training set in which the preset number of sample sentences are divided according to a preset ratio in this embodiment.
  • Cross-validation is repeated K times, each sub-sample is verified once, and the average K-time results or other combinations are used to finally obtain a single estimate.
  • the randomly generated sub-samples are repeatedly used for training and verification, and each time the results are verified once, 10-fold cross-validation is the most commonly used.
  • the sample vector information corresponding to the training set may be sent to the long-term and short-term memory cycle neural network model for model training, and the model obtained by using the training is used for the preset time (for example, every 1000 iterations).
  • the edit distance can be used as the calculation standard.
  • the sequence labeling method is used to judge the error of the model.
  • the purpose is to minimize the error (maximizing the accuracy of the prediction label) to update the parameters of the model.
  • the training model uses a back propagation algorithm and a back propagation algorithm. (Backpropagation) is the most commonly used and most effective algorithm currently used to train Artificial Neural Network (ANN). The main idea is:
  • the accuracy of the annotation is paid attention to in the model training process, and the actual segmentation result is restored according to the annotation obtained by the model when the application is finished. That is, the labeling sequence of each word in the to-be-identified text is identified by using a predetermined word segmentation model, and each word in the to-be-identified text is reduced to a corresponding word segment according to a preset sequence according to a preset sequence labeling rule.
  • the trained word segmentation model (long-term and short-term memory cycle neural network model) is obtained, and the corresponding label “BESSBME” is obtained, and then according to Pre-set sequence labeling rules (such as "BE”, “S”, "BME” forms are used as participles) to get the final word segmentation results according to the predicted label "Today", "Yes", "A”, "Good” day”.
  • Step S2 based on the word frequency, position and word span of each participle in the text to be recognized, and calculating a score of each participle according to a preset scoring formula, and each of the to-be-identified texts is in order from highest to lowest in scoring
  • the word segmentation is sorted, and the segmentation word segment is extracted as a keyword, and the key information of the to-be-identified text is obtained according to the extracted keyword.
  • X1 is the word frequency score of the participle, a1 is the preset word frequency weight;
  • X2 is the position score of the participle occurrence position, a2 is the preset position weight;
  • X3 is the word span score of the participle, and a3 is the preset word span weight. Sort each participle according to the score P value, and sort the top preset number of words as the keyword of the text. Different weights can be assigned according to different influences or importance of word frequency, location, and word span.
  • word frequency, position, and word span are considered to rank and sort different word segments.
  • the word frequency can be sorted according to the word frequency, then each word is scored according to the position of the word, then sorted, and then sorted by word span.
  • the top of the topK the range of K is an optional range, set according to the needs
  • the key information is also the main content and important points of the whole article.
  • the word frequency indicates the frequency at which a word appears in the text. It is generally believed that the more frequently a word appears in a text, the more likely it is to be the core word of the article. The word frequency simply counts the number of times a word appears in the text. However, the keyword obtained by relying only on the word frequency has great uncertainty. For a text with a long length, this method will have a lot of noise, so Consider location and word span.
  • a text to be recognized consists of a total of 10,000 words in order
  • the words in the top tenth position are divided into the beginning position
  • the words in the last tenth position are divided into the ending position
  • the rest is 5:5:1.
  • the word span refers to the distance between the first occurrence and the last occurrence of a word or phrase in the text to be recognized.
  • the formula for calculating the span of a word is as follows:
  • last i represents the last position of the word in the text
  • first i represents the first occurrence of the word in the text
  • sum represents the total number of words in the text.
  • the long and short-term memory cyclic neural network model obtained by training the preset number of sample sentences marked by the sequence labeling method is used to segment the received text to be recognized, and based on the word frequency of each participle in the text to be recognized. , location and word span to calculate the score of each word segment by using the preset scoring formula, sorting the scores according to the scores, and obtaining the key information of the text to be recognized according to the top scores. Since the trained long-and short-term memory cycle neural network model can be used for automatic word segmentation of the recognized text, and the word frequency, position and word span of each word segment can be comprehensively considered to extract key information in the text to be recognized, the user does not need to spend the user himself. More time to sort out the core content of the text to be recognized, enabling the user to quickly and accurately obtain key information in the text to be recognized.
  • FIG. 2 is a schematic flowchart of an embodiment of a method for identifying key information in the text of the present application.
  • the method for identifying key information of the text includes the following steps:
  • Step S10 after receiving the text to be recognized, performing segmentation processing on the received text to be recognized by using a predetermined word segmentation model to obtain each word segmentation of the text to be recognized; wherein the predetermined word segmentation model is pre-determined A long-term and short-term memory-cycle neural network model trained by using a preset number of sample sentences labeled by sequence notation.
  • the preset sequence labeling rule is marked according to the position of each word in the word, and the label type includes: a first word label, a middle word label, a tail word label, and a single word label. For example, in a piece of text, each word can be labeled according to its position in the word.
  • word2vec is the word2vec tool released by Google at the end of 2013. It can be regarded as an important application of deep learning in the NLP field. Although word2vec has only three layers of neural networks, it has achieved very good results. With word2vec, you can represent a word as a word vector and digitize the text to better understand the computer. The word2vec model makes it easy to find synonyms or closely related words, or words with opposite meanings.
  • the preset number of sample statements are divided into a training set and an evaluation set according to a preset ratio (for example, 9:1).
  • a preset ratio for example, 9:1.
  • training a parameter using a training set an entire training set is usually divided into three parts. Generally divided into: training set (train_set), evaluation set (valid_set), test set (test_set) these three parts. This is actually set specifically to ensure the training effect.
  • the test set is actually data that does not participate in training at all, and is only used to observe the test results.
  • the degree of fit of the training results to the training set is usually good, but the degree of fit to the data outside the training set is usually not good.
  • K-fold cross-validation is K-fold cross-validation.
  • the initial sampling is divided into K sub-samples.
  • a single sub-sample is retained as the data of the verification model.
  • the preset number of sample sentences are divided according to a preset ratio.
  • the evaluation set, the other K-1 samples are used for training, that is, the training set in which the preset number of sample sentences are divided according to a preset ratio in this embodiment.
  • Cross-validation is repeated K times, each sub-sample is verified once, and the average K-time results or other combinations are used to finally obtain a single estimate.
  • the randomly generated sub-samples are repeatedly used for training and verification, and each time the results are verified once, 10-fold cross-validation is the most commonly used.
  • the sample vector information corresponding to the training set may be sent to the long-term and short-term memory cycle neural network model for model training, and the model obtained by using the training is used for the preset time (for example, every 1000 iterations).
  • the edit distance can be used as the calculation standard.
  • the preset training parameters (such as the activation function, the LSTM layer number, the input and output variable dimensions, etc.) are adjusted and retrained until the error of the model identification label obtained by the training can be Convergence; if the error of the model identification label obtained by the training converges, the model training is ended, and the generated model is used as the trained model.
  • the sequence labeling method is used to judge the error of the model.
  • the purpose is to minimize the error (maximizing the accuracy of the prediction label) to update the parameters of the model.
  • the training model uses a back propagation algorithm and a back propagation algorithm. (Backpropagation) is the most commonly used and most effective algorithm currently used to train Artificial Neural Network (ANN). The main idea is:
  • the trained word segmentation model (long-term and short-term memory cycle neural network model) is obtained, and the corresponding label “BESSBME” is obtained, and then according to Pre-set sequence labeling rules (such as "BE”, “S”, "BME” forms are used as participles) to get the final word segmentation results according to the predicted label "Today", "Yes", "A”, "Good” day”.
  • Step S20 based on the word frequency, position and word span of each participle in the to-be-identified text, and calculating a score of each word segment according to a preset scoring formula, and each of the to-be-identified texts in descending order of the scores
  • the word segmentation is sorted, and the segmentation word segment is extracted as a keyword, and the key information of the to-be-identified text is obtained according to the extracted keyword.
  • each word segmentation may be sorted and scored according to an unsupervised statistical class method to extract keywords or key content.
  • the repeated vocabulary and the meaningless vocabulary in each of the obtained word segments are first removed, such as extracting all the vocabulary words in the obtained word segmentation text into a large set (the vocabulary in the set is not repeated, that is, each word is only in this set) Appear once), after getting the text vocabulary collection, delete some meaningless words such as "I, you, yes, yes” and so on. Predict the vocabulary without specific meanings such as pronouns and prepositions into a list by experience, and then delete these meaningless words.
  • some vocabulary that is more professional and specific is selected. Calculate the P value for each of the selected participles according to the following formula:
  • X1 is the word frequency score of the participle, a1 is the preset word frequency weight;
  • X2 is the position score of the participle occurrence position, a2 is the preset position weight;
  • X3 is the word span score of the participle, and a3 is the preset word span weight. Sort each participle according to the score P value, and sort the top preset number of words as the keyword of the text. Different weights can be assigned based on the different influences or importance of word frequency, location, and word span.
  • word frequency, position, and word span are considered to rank and sort different word segments.
  • the word frequency can be sorted according to the word frequency, then each word is scored according to the position of the word, then sorted, and then sorted by word span.
  • the top of the topK the range of K is an optional range, set according to the needs
  • the key information is also the main content and important points of the whole article.
  • the word frequency indicates the frequency at which a word appears in the text. It is generally believed that the more frequently a word appears in a text, the more likely it is to be the core word of the article. The word frequency simply counts the number of times a word appears in the text. However, the keyword obtained by relying only on the word frequency has great uncertainty. For a text with a long length, this method will have a lot of noise, so Consider location and word span.
  • the location of the word appears to be of great value to the word.
  • the title and the abstract are themselves the central idea of the article summarized by the author, so the words appearing in these places are representative and more likely to be keywords.
  • the ratio adopted in the present embodiment is 5:5:1, and the degree of importance of the word position at the beginning, the end, and the middle is set, and the division ratios at the beginning, the end, and the middle are 10%, 10%, and 80%.
  • a text to be recognized consists of a total of 10,000 words in order
  • the words in the top tenth position are divided into the beginning position
  • the words in the last tenth position are divided into the ending position
  • the rest is 5:5:1.
  • the word span refers to the distance between the first occurrence and the last occurrence of a word or phrase in the text to be recognized.
  • the formula for calculating the span of a word is as follows:
  • last i represents the last position of the word in the text
  • first i represents the first occurrence of the word in the text
  • sum represents the total number of words in the text.
  • the long and short-term memory cyclic neural network model obtained by training the preset number of sample sentences marked by the sequence labeling method is used to segment the received text to be recognized, and based on the word frequency of each participle in the text to be recognized. , location and word span to calculate the score of each word segment by using the preset scoring formula, sorting the scores according to the scores, and obtaining the key information of the text to be recognized according to the top scores. Since the trained long-and short-term memory cycle neural network model can be used for automatic word segmentation of the recognized text, and the word frequency, position and word span of each word segment can be comprehensively considered to extract key information in the text to be recognized, the user does not need to spend the user himself. More time to sort out the core content of the text to be recognized, enabling the user to quickly and accurately obtain key information in the text to be recognized.
  • the present application also provides a computer readable storage medium storing an identification system of textual key information, the identification system of the textual key information being executable by at least one processor to cause the The at least one processor performs the steps of the method for identifying the text key information in the above-mentioned embodiment, and the specific implementation processes of the steps S10 and S20 of the method for identifying the text key information are as described above, and are not described herein again.
  • the foregoing embodiment method can be implemented by means of software plus a necessary general hardware platform, and can also be implemented by hardware, but in many cases, the former is A better implementation.
  • the technical solution of the present application which is essential or contributes to the prior art, may be embodied in the form of a software product stored in a storage medium (such as ROM/RAM, disk,
  • the optical disc includes a number of instructions for causing a terminal device (which may be a mobile phone, a computer, a server, an air conditioner, or a network device, etc.) to perform the methods described in various embodiments of the present application.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Machine Translation (AREA)

Abstract

一种文本关键信息的识别方法、电子装置及可读存储介质，该方法包括：在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词（S10）；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型；基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息（S20）。该方法能使用户快速准确地获取待识别文本中的关键信息。

Description

文本关键信息的识别方法、电子装置及可读存储介质
优先权申明
本申请基于巴黎公约申明享有2018年05月11日递交的申请号为CN 2018104491388、名称为“文本关键信息的识别方法、电子装置及可读存储介质”中国专利申请的优先权，该中国专利申请的整体内容以参考的方式结合在本申请中。
技术领域
本申请涉及计算机技术领域，尤其涉及一种文本关键信息的识别方法、电子装置及可读存储介质。
背景技术
用户经常需要从各种文本中快速获取到关键内容如文本的核心观点，然而，一些文本例如证券研究报告内容繁多且主旨不够清晰，特别是对于长达十几页甚至更多的深度报告，需要花费较多的时间去理清分析师的逻辑及相应结论。这既对看报告的用户的专业能力有较高要求，又需要花费用户较长的工作时间，导致用户获取文本中关键内容的效率较低且准确率不高。
发明内容
本申请的目的在于提供一种文本关键信息的识别方法、电子装置及可读存储介质，旨在快速准确地获取文本中的关键信息。
为实现上述目的，本申请第一方面提供一种电子装置，所述电子装置包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的文本关键信息的识别系统，所述文本关键信息的识别系统被所述处理器执行时实现如下步骤：
在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型；
基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
此外，为实现上述目的，本申请第二方面还提供一种文本关键信息的识别方法，所述文本关键信息的识别方法包括：
在收到待识别文本后，对收到的待识别文本利用预先确定的分词 模型进行分词处理，得到所述待识别文本的各个分词；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型；
基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
进一步地，为实现上述目的，本申请第三方面还提供一种计算机可读存储介质，所述计算机可读存储介质存储有文本关键信息的识别系统，所述文本关键信息的识别系统可被至少一个处理器执行，以使所述至少一个处理器执行如上述的文本关键信息的识别方法的步骤。
本申请提出的文本关键信息的识别方法、系统及可读存储介质，通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型来对收到的待识别文本进行分词，并基于所述待识别文本中各个分词的词频、位置及词跨度来利用预设评分公式计算得到每个分词的评分，对各个分词按评分高低进行排序，根据排序靠前的分词来获取所述待识别文本的关键信息。由于能利用训练好的长短期记忆循环神经网络模型对待识别文本进行自动分词，且能综合考虑各个分词的词频、位置及词跨度来提取出所述待识别文本中的关键信息，无需用户自身花费较多的时间去理清待识别文本的核心内容，能使用户快速准确地获取待识别文本中的关键信息。
附图说明
图1为本申请文本关键信息的识别系统10较佳实施例的运行环境示意图；
图2为本申请文本关键信息的识别方法一实施例的流程示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本申请，并不用于限定本申请。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
需要说明的是，在本申请中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的 技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本申请要求的保护范围之内。
本申请提供一种文本关键信息的识别系统。请参阅图1，是本申请文本关键信息的识别系统10较佳实施例的运行环境示意图。
在本实施例中，所述的文本关键信息的识别系统10安装并运行于电子装置1中。该电子装置1可包括，但不仅限于，存储器11、处理器12及显示器13。图1仅示出了具有组件11-13的电子装置1，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
所述存储器11为至少一种类型的可读计算机存储介质，所述存储器11在一些实施例中可以是所述电子装置1的内部存储单元，例如该电子装置1的硬盘或内存。所述存储器11在另一些实施例中也可以是所述电子装置1的外部存储设备，例如所述电子装置1上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括所述电子装置1的内部存储单元也包括外部存储设备。所述存储器11用于存储安装于所述电子装置1的应用软件及各类数据，例如所述文本关键信息的识别系统10的程序代码等。所述存储器11还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器12在一些实施例中可以是一中央处理器(Central Processing Unit,CPU)，微处理器或其他数据处理芯片，用于运行所述存储器11中存储的程序代码或处理数据，例如执行所述文本关键信息的识别系统10等。
所述显示器13在一些实施例中可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。所述显示器13用于显示在所述电子装置1中处理的信息以及用于显示可视化的用户界面，例如待识别文本、分词结果、最终识别出的关键词、关键信息等。所述电子装置1的部件11-13通过系统总线相互通信。
文本关键信息的识别系统10包括至少一个存储在所述存储器11中的计算机可读指令，该至少一个计算机可读指令可被所述处理器12执行，以实现本申请各实施例。
其中，上述文本关键信息的识别系统10被所述处理器12执行时实现如下步骤：
步骤S1，在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词；其 中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型。
本实施例中，文本关键信息的识别系统接收用户发出的包含待识别文本的关键信息识别请求，例如，接收用户通过手机、平板电脑、自助终端设备等终端发送的关键信息识别请求，如接收用户在手机、平板电脑、自助终端设备等终端中预先安装的客户端上发送来的关键信息识别请求，或接收用户在手机、平板电脑、自助终端设备等终端中的浏览器系统上发送来的关键信息识别请求。
在一种可选的实施方式中，本实施例中的待识别文本为国内各券商、机构发布的研究报告，由于中文不像英语等拉丁语系，除了标点符号之外，字之间紧密相连，没有明显的词边界，因此很难将词简单准确的提取出来。在中文中，单字作为最基本的语义单位，虽然也有自己的意义，但表意能力较差，意义较分散，而词的表意能力更强，能更加准确的描述一个事物，在自然语言处理中，通常情况下词(包括单字成词)是最基本的处理单位，因此必须对研究报告进行准确的分词处理。本实施例中采用序列标注法训练一个长短期记忆循环神经网络(Long Short-Term Memory,简称LSTM)模型来进行分词，该长短期记忆循环神经网络模型的训练过程如下：
获取预设数量(例如，10万)的样本语句，其中，样本语句中的词语为预设语料库中采用预设序列标注规则标注好的词语。其中，该预设序列标注规则为按照每个字在词中的位置进行标注，标注类型包括：首字标注、中间字标注、尾字标注、单字标注。例如，在一段文字中，可以将每个字按照在词中的位置进行标注，常用的标记有以下四个label：B，Begin，表示这个字是一个词的首字；M，Middle，表示这是一个词中间的字；E，End，表示这是一个词的尾字；S，Single，表示这是单字成词。分词的过程就是将一段字符输入模型，然后得到相应的标记序列，再根据标记序列进行分词。举例来说：“达观数据是企业大数据服务商”，经过模型后得到的理想标注序列是：“BMMESBEBMEBME”，最终还原的分词结果是“达观数据/是/企业/大数据/服务商”。该预设语料库使用的是经典的bakeoff2005中的微软研究院的切分语料，可将其中的train部分拿过来做训练，将test作为最终的测试。
将样本语句经过word2vec模型词向量化后得到相应的样本向量信息。其中，word2vec是2013年末google发布的word2vec工具，可以看做是深度学习在NLP领域的一个重要应用，虽然word2vec只有三层神经网络，但是已经取得非常好的效果。通过word2vec，可以将一个词表示为词向量，将文字数字化，更好的让计算机理解。使word2vec模型，可以方便的找到同义词或联系紧密的词，或者意义 相反的词等。
将预设数量的样本语句按照预设比例(例如，9:1)分为训练集和评估集。在使用训练集对参数进行训练的时候，通常会将一整个训练集分为三个部分。一般分为：训练集(train_set)，评估集(valid_set)，测试集(test_set)这三个部分。这其实是为了保证训练效果而特意设置的。其中测试集其实就是完全不参与训练的数据，仅仅用来观测测试效果的数据。在实际的训练中，训练的结果对于训练集的拟合程度通常还行，但是对于训练集之外的数据的拟合程度通常就不行了。因此通常并不会把所有的数据集都拿来训练，而是分出一部分来(这一部分不参加训练)对训练集生成的参数进行测试，相对客观的判断这些参数对训练集之外的数据的符合程度。本实施例中即采用这种交叉验证(Cross Validation)的方式。K-fold cross-validation即K折交叉验证，初始采样分割成K个子样本，一个单独的子样本被保留作为验证模型的数据即本实施例中将预设数量的样本语句按照预设比例划分的评估集，其他K-1个样本用来训练即本实施例中将预设数量的样本语句按照预设比例划分的训练集。交叉验证重复K次，每个子样本验证一次，平均K次的结果或者使用其它结合方式，最终得到一个单一估测。同时重复运用随机产生的子样本进行训练和验证，每次的结果验证一次，10折交叉验证是最常用的。
具体的，可将所述训练集对应的样本向量信息送入长短期记忆循环神经网络模型进行模型训练，每隔预设时间(例如每进行1000次迭代)，使用训练得到的模型对所述评估集中样本语句的各个词语的每个字的标注进行识别，并将识别字符与该样本语句中采用预设序列标注规则的标注进行比对，以评估模型识别标注的误差；具体地，在计算误差时，可采用编辑距离作为计算标准。若训练得到的模型识别标注的误差出现发散，则调整预设的训练参数(如activation函数、LSTM层数、输入输出的变量维度等)并重新训练，直至使得训练得到的模型识别标注的误差能够收敛；若训练得到的模型识别标注的误差收敛，则结束模型训练，将生成的模型作为训练好的模型。
本实施例中采用的是序列标注法来评判模型的误差，目的是最小化这个误差(最大化预测标注的精度)来更新模型的参数，训练模型采用的是反向传播算法，反向传播算法(Backpropagation)是目前用来训练人工神经网络(Artificial Neural Network，ANN)的最常用且最有效的算法。其主要思想是：
(1)将训练集数据输入到ANN的输入层，经过隐藏层，最后达到输出层并输出结果，这是ANN的前向传播过程；
(2)由于ANN的输出结果与实际结果有误差，则计算估计值与实际值之间的误差，并将该误差从输出层向隐藏层反向传播，直至传 播到输入层；
(3)在反向传播的过程中，根据误差调整各种参数的值；不断迭代上述过程，直至收敛。
本实施例中在模型训练过程中关注的是标注的准确性，而在训练结束后实际应用时是根据模型得到的标注来还原得到最终的分词结果。即利用预先确定的分词模型识别出所述待识别文本中各个字的标注得到标注序列，并根据预设序列标注规则将所述待识别文本中各个字按标注序列还原成对应的分词。例如，在对文本中句子‘今天是个好日子’进行词向量化后，再通入训练好的分词模型(长短期记忆循环神经网络模型)，得到相应的标注label“BESSBME”，然后即可根据预先设定好的序列标注规则(例如“BE”、“S”、“BME”形式均作为分词)得到根据预测的label得到最终的分词结果“今天”、“是”、“个”、“好日子”。
步骤S2，基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
本实施例中，在得到待识别文本的各个分词后，可根据无监督的统计类方法对各个分词进行排序打分来提取出关键词或关键内容。具体的，先去除得到的各个分词中的重复词汇及无意义词汇，如将得到的分词文本中的所有词汇提取成一个大的集合(集合中词汇不重复，即每个词在这个集合中只出现一次)，得到文本词汇集合后，删除一些无意义的词如“我、你、的、是”等。将这些代词、介词等无具体意义的词汇预先按经验组成一个list，然后删除这些无意义的词。接下来在词汇集合中，筛选出的是一些比较专业、有具体意义的词汇。对筛选出的各个分词按照如下公式计算得到P值：
P＝a1*X1+a2*X2+a3*X3
其中，X1为分词的词频评分，a1为预设的词频权重；X2为分词出现位置的位置评分，a2为预设的位置权重；X3为分词的词跨度评分，a3为预设的词跨度权重；将各个分词按评分P值高低进行排序，排序靠前的预设数量分词作为文本的关键词。可根据词频、位置、词跨度的不同影响或重要性分配不同的权重。
本实施例中考虑词频、位置、词跨度来对不同分词进行评分排序，如可按照词频大小进行排序，然后按照词的位置对每个词进行打分，再进行排序，再用词跨度进行排序，最后在获取其中排序靠前的TopK(K的范围是个可自选的范围，根据需求来设定)个词作为关键词，再去提取文本中与关键词有关的句子，即可最终提取出文本的关键信 息，也是整篇文章的主要内容及重要观点。
具体地，对于词频，词频表示一个词在文本中出现的频率。一般认为，如果一个词在文本中出现的越是频繁，那么这个词就越有可能作为文章的核心词。词频简单地统计了词在文本中出现的次数，但是，只依靠词频所得到的关键词有很大的不确定性，对于长度比较长的文本，这个方法会有很大的噪音，因此，还综合考虑位置和词跨度。
对于位置信息，一般情况下，词出现的位置对于词来说有着很大的价值。例如，标题、摘要本身就是作者概括出的文章的中心思想，因此出现在这些地方的词具有一定的代表性，更可能成为关键词。但是，因为每个作者的习惯不同，写作方式不同，关键句子的位置也会有所不同，所以这也是一种很宽泛的得到关键词的方法，一般情况下不会单独使用。本实施例中采用的比例是5：5：1的方式设定为词位置在开头、结尾、中间的重要性程度，开头、结尾、中间的划分比例为10％、10％、80％。例如，如果一个待识别文本一共由一万个词有序组成，位于前百分之十位置的词划分为开头位置，位于最后百分之十位置的词划分为结尾位置，其余作为中间位置，重要程度为5：5：1。例如，假设“试验区”一词一共在待识别文本中出现过5次，2次在开头，1次在结尾，其余在中间，于是‘试验区’一词关于位置的分数为：5×2+5*1+1*2＝17。
对于词跨度，词跨度是指一个词或者短语在待识别文本中首次出现和末次出现之间的距离，词跨度越大说明这个词对文本越重要，可以反映文本的主题。一个词的跨度计算公式如下：
Figure PCTCN2018108219-appb-000001
其中，last i表示词在文本中最后出现的位置，first i表示词在文本中第一次出现的位置，sum表示文本中词的总数。在实际应用中，文本中总是有很多噪声(指不是关键词的那些词)，使用词跨度来参考可以减少这些噪声。
本实施例通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型来对收到的待识别文本进行分词，并基于所述待识别文本中各个分词的词频、位置及词跨度来利用预设评分公式计算得到每个分词的评分，对各个分词按评分高低进行排序，根据排序靠前的分词来获取所述待识别文本的关键信息。由于能利用训练好的长短期记忆循环神经网络模型对待识别文本进行自动分词，且能综合考虑各个分词的词频、位置及词跨度来提取出所述待识别文本中的关键信息，无需用户自身花费较多的时间去理清待识别文本的核心内容，能使用户快速准确地获取待识别文本中的关 键信息。
如图2所示，图2为本申请文本关键信息的识别方法一实施例的流程示意图，该文本关键信息的识别方法包括以下步骤：
步骤S10，在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型。
本实施例中，文本关键信息的识别系统接收用户发出的包含待识别文本的关键信息识别请求，例如，接收用户通过手机、平板电脑、自助终端设备等终端发送的关键信息识别请求，如接收用户在手机、平板电脑、自助终端设备等终端中预先安装的客户端上发送来的关键信息识别请求，或接收用户在手机、平板电脑、自助终端设备等终端中的浏览器系统上发送来的关键信息识别请求。
在一种可选的实施方式中，本实施例中的待识别文本为国内各券商、机构发布的研究报告，由于中文不像英语等拉丁语系，除了标点符号之外，字之间紧密相连，没有明显的词边界，因此很难将词简单准确的提取出来。在中文中，单字作为最基本的语义单位，虽然也有自己的意义，但表意能力较差，意义较分散，而词的表意能力更强，能更加准确的描述一个事物，在自然语言处理中，通常情况下词(包括单字成词)是最基本的处理单位，因此必须对研究报告进行准确的分词处理。本实施例中采用序列标注法训练一个长短期记忆循环神经网络(Long Short-Term Memory,简称LSTM)模型来进行分词，该长短期记忆循环神经网络模型的训练过程如下：
获取预设数量(例如，10万)的样本语句，其中，样本语句中的词语为预设语料库中采用预设序列标注规则标注好的词语。其中，该预设序列标注规则为按照每个字在词中的位置进行标注，标注类型包括：首字标注、中间字标注、尾字标注、单字标注。例如，在一段文字中，可以将每个字按照在词中的位置进行标注，常用的标记有以下四个label：B，Begin，表示这个字是一个词的首字；M，Middle，表示这是一个词中间的字；E，End，表示这是一个词的尾字；S，Single，表示这是单字成词。分词的过程就是将一段字符输入模型，然后得到相应的标记序列，再根据标记序列进行分词。举例来说：“达观数据是企业大数据服务商”，经过模型后得到的理想标注序列是：“BMMESBEBMEBME”，最终还原的分词结果是“达观数据/是/企业/大数据/服务商”。该预设语料库使用的是经典的bakeoff2005中的微软研究院的切分语料，可将其中的train部分拿过来做训练，将test作为最终的测试。
将样本语句经过word2vec模型词向量化后得到相应的样本向量信息。其中，word2vec是2013年末google发布的word2vec工具，可以看做是深度学习在NLP领域的一个重要应用，虽然word2vec只有三层神经网络，但是已经取得非常好的效果。通过word2vec，可以将一个词表示为词向量，将文字数字化，更好的让计算机理解。使word2vec模型，可以方便的找到同义词或联系紧密的词，或者意义相反的词等。
将预设数量的样本语句按照预设比例(例如，9:1)分为训练集和评估集。在使用训练集对参数进行训练的时候，通常会将一整个训练集分为三个部分。一般分为：训练集(train_set)，评估集(valid_set)，测试集(test_set)这三个部分。这其实是为了保证训练效果而特意设置的。其中测试集其实就是完全不参与训练的数据，仅仅用来观测测试效果的数据。在实际的训练中，训练的结果对于训练集的拟合程度通常还行，但是对于训练集之外的数据的拟合程度通常就不行了。因此通常并不会把所有的数据集都拿来训练，而是分出一部分来(这一部分不参加训练)对训练集生成的参数进行测试，相对客观的判断这些参数对训练集之外的数据的符合程度。本实施例中即采用这种交叉验证(Cross Validation)的方式。K-fold cross-validation即K折交叉验证，初始采样分割成K个子样本，一个单独的子样本被保留作为验证模型的数据即本实施例中将预设数量的样本语句按照预设比例划分的评估集，其他K-1个样本用来训练即本实施例中将预设数量的样本语句按照预设比例划分的训练集。交叉验证重复K次，每个子样本验证一次，平均K次的结果或者使用其它结合方式，最终得到一个单一估测。同时重复运用随机产生的子样本进行训练和验证，每次的结果验证一次，10折交叉验证是最常用的。
具体的，可将所述训练集对应的样本向量信息送入长短期记忆循环神经网络模型进行模型训练，每隔预设时间(例如每进行1000次迭代)，使用训练得到的模型对所述评估集中样本语句的各个词语的每个字的标注进行识别，并将识别字符与该样本语句中采用预设序列标注规则的标注进行比对，以评估模型识别标注的误差；具体地，在计算误差时，可采用编辑距离作为计算标准。若训练得到的模型识别标注的误差出现发散，则调整预设的训练参数(如activation函数、LSTM层数、输入输出的变量维度等)并重新训练，直至使得训练得到的模型识别标注的误差能够收敛；若训练得到的模型识别标注的误差收敛，则结束模型训练，将生成的模型作为训练好的模型。
本实施例中采用的是序列标注法来评判模型的误差，目的是最小化这个误差(最大化预测标注的精度)来更新模型的参数，训练模型采用的是反向传播算法，反向传播算法(Backpropagation)是目前用 来训练人工神经网络(Artificial Neural Network，ANN)的最常用且最有效的算法。其主要思想是：
(1)将训练集数据输入到ANN的输入层，经过隐藏层，最后达到输出层并输出结果，这是ANN的前向传播过程；
(2)由于ANN的输出结果与实际结果有误差，则计算估计值与实际值之间的误差，并将该误差从输出层向隐藏层反向传播，直至传播到输入层；
(3)在反向传播的过程中，根据误差调整各种参数的值；不断迭代上述过程，直至收敛。
本实施例中在模型训练过程中关注的是标注的准确性，而在训练结束后实际应用时是根据模型得到的标注来还原得到最终的分词结果。即利用预先确定的分词模型识别出所述待识别文本中各个字的标注得到标注序列，并根据预设序列标注规则将所述待识别文本中各个字按标注序列还原成对应的分词。例如，在对文本中句子‘今天是个好日子’进行词向量化后，再通入训练好的分词模型(长短期记忆循环神经网络模型)，得到相应的标注label“BESSBME”，然后即可根据预先设定好的序列标注规则(例如“BE”、“S”、“BME”形式均作为分词)得到根据预测的label得到最终的分词结果“今天”、“是”、“个”、“好日子”。
步骤S20，基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
本实施例中，在得到待识别文本的各个分词后，可根据无监督的统计类方法对各个分词进行排序打分来提取出关键词或关键内容。具体的，先去除得到的各个分词中的重复词汇及无意义词汇，如将得到的分词文本中的所有词汇提取成一个大的集合(集合中词汇不重复，即每个词在这个集合中只出现一次)，得到文本词汇集合后，删除一些无意义的词如“我、你、的、是”等。将这些代词、介词等无具体意义的词汇预先按经验组成一个list，然后删除这些无意义的词。接下来在词汇集合中，筛选出的是一些比较专业、有具体意义的词汇。对筛选出的各个分词按照如下公式计算得到P值：
P＝a1*X1+a2*X2+a3*X3
其中，X1为分词的词频评分，a1为预设的词频权重；X2为分词出现位置的位置评分，a2为预设的位置权重；X3为分词的词跨度评分，a3为预设的词跨度权重；将各个分词按评分P值高低进行排序，排序靠前的预设数量分词作为文本的关键词。可根据词频、位置、词 跨度的不同影响或重要性分配不同的权重。
本实施例中考虑词频、位置、词跨度来对不同分词进行评分排序，如可按照词频大小进行排序，然后按照词的位置对每个词进行打分，再进行排序，再用词跨度进行排序，最后在获取其中排序靠前的TopK(K的范围是个可自选的范围，根据需求来设定)个词作为关键词，再去提取文本中与关键词有关的句子，即可最终提取出文本的关键信息，也是整篇文章的主要内容及重要观点。
具体地，对于词频，词频表示一个词在文本中出现的频率。一般认为，如果一个词在文本中出现的越是频繁，那么这个词就越有可能作为文章的核心词。词频简单地统计了词在文本中出现的次数，但是，只依靠词频所得到的关键词有很大的不确定性，对于长度比较长的文本，这个方法会有很大的噪音，因此，还综合考虑位置和词跨度。
对于位置信息，一般情况下，词出现的位置对于词来说有着很大的价值。例如，标题、摘要本身就是作者概括出的文章的中心思想，因此出现在这些地方的词具有一定的代表性，更可能成为关键词。但是，因为每个作者的习惯不同，写作方式不同，关键句子的位置也会有所不同，所以这也是一种很宽泛的得到关键词的方法，一般情况下不会单独使用。本实施例中采用的比例是5：5：1的方式设定为词位置在开头、结尾、中间的重要性程度，开头、结尾、中间的划分比例为10％、10％、80％。例如，如果一个待识别文本一共由一万个词有序组成，位于前百分之十位置的词划分为开头位置，位于最后百分之十位置的词划分为结尾位置，其余作为中间位置，重要程度为5：5：1。例如，假设“试验区”一词一共在待识别文本中出现过5次，2次在开头，1次在结尾，其余在中间，于是‘试验区’一词关于位置的分数为：5×2+5*1+1*2＝17。
对于词跨度，词跨度是指一个词或者短语在待识别文本中首次出现和末次出现之间的距离，词跨度越大说明这个词对文本越重要，可以反映文本的主题。一个词的跨度计算公式如下：
Figure PCTCN2018108219-appb-000002
其中，last i表示词在文本中最后出现的位置，first i表示词在文本中第一次出现的位置，sum表示文本中词的总数。在实际应用中，文本中总是有很多噪声(指不是关键词的那些词)，使用词跨度来参考可以减少这些噪声。
本实施例通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型来对收到的待识别文本进行分词，并基于所述待识别文本中各个分词的词频、位置及词跨度来 利用预设评分公式计算得到每个分词的评分，对各个分词按评分高低进行排序，根据排序靠前的分词来获取所述待识别文本的关键信息。由于能利用训练好的长短期记忆循环神经网络模型对待识别文本进行自动分词，且能综合考虑各个分词的词频、位置及词跨度来提取出所述待识别文本中的关键信息，无需用户自身花费较多的时间去理清待识别文本的核心内容，能使用户快速准确地获取待识别文本中的关键信息。
此外，本申请还提供一种计算机可读存储介质，所述计算机可读存储介质存储有文本关键信息的识别系统，所述文本关键信息的识别系统可被至少一个处理器执行，以使所述至少一个处理器执行如上述实施例中的文本关键信息的识别方法的步骤，该文本关键信息的识别方法的步骤S10、S20等具体实施过程如上文所述，在此不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件来实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
以上参照附图说明了本申请的优选实施例，并非因此局限本申请的权利范围。上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。另外，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
本领域技术人员不脱离本申请的范围和实质，可以有多种变型方案实现本申请，比如作为一个实施例的特征可用于另一实施例而得到又一实施例。凡在运用本申请的技术构思之内所作的任何修改、等同替换和改进，均应在本申请的权利范围之内。

Claims (20)

  1. 一种电子装置，其特征在于，所述电子装置包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的文本关键信息的识别系统，所述文本关键信息的识别系统被所述处理器执行时实现如下步骤：
    在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型；
    基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
  2. 如权利要求1所述的电子装置，其特征在于，所述预先确定的分词模型的训练过程如下：
    获取预设数量的样本语句，其中，所述样本语句中的词语为预设语料库中采用预设序列标注规则标注好的词语；
    将所述样本语句经过word2vec模型词向量化后得到相应的样本向量信息；将预设数量的样本语句按照预设比例分为训练集和评估集；
    将所述训练集对应的样本向量信息送入长短期记忆循环神经网络模型进行模型训练，每隔预设时间，使用训练得到的模型对所述评估集的样本语句各个词语中每个字的标注进行识别，并将识别出的标注与该样本语句中采用预设序列标注规则的标注进行比对，以评估模型识别标注的误差；
    若训练得到的模型识别标注的误差出现发散，则调整预设的训练参数并重新训练，直至使得训练得到的模型识别标注的误差能够收敛；
    若训练得到的模型识别标注的误差收敛，则结束模型训练，将生成的模型作为训练好的所述预先确定的分词模型。
  3. 如权利要求2所述的电子装置，其特征在于，所述预设序列标注规则为按照每个字在词语中的位置进行标注，标注类型包括：首字标注、中间字标注、尾字标注、单字标注。
  4. 如权利要求3所述的电子装置，其特征在于，所述对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词包括：
    利用预先确定的分词模型识别出所述待识别文本中各个字的标注得到标注序列，并根据预设序列标注规则将所述待识别文本中各个字按标注序列还原成对应的分词。
  5. 如权利要求1所述的电子装置，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  6. 如权利要求2所述的电子装置，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  7. 如权利要求3所述的电子装置，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  8. 如权利要求4所述的电子装置，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨 度评分，a3为预设的词跨度权重。
  9. 一种文本关键信息的识别方法，其特征在于，所述文本关键信息的识别方法包括：
    在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型；
    基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
  10. 如权利要求9所述的文本关键信息的识别方法，其特征在于，所述预先确定的分词模型的训练过程如下：
    获取预设数量的样本语句，其中，所述样本语句中的词语为预设语料库中采用预设序列标注规则标注好的词语；
    将所述样本语句经过word2vec模型词向量化后得到相应的样本向量信息；将预设数量的样本语句按照预设比例分为训练集和评估集；
    将所述训练集对应的样本向量信息送入长短期记忆循环神经网络模型进行模型训练，每隔预设时间，使用训练得到的模型对所述评估集的样本语句各个词语中每个字的标注进行识别，并将识别出的标注与该样本语句中采用预设序列标注规则的标注进行比对，以评估模型识别标注的误差；
    若训练得到的模型识别标注的误差出现发散，则调整预设的训练参数并重新训练，直至使得训练得到的模型识别标注的误差能够收敛；
    若训练得到的模型识别标注的误差收敛，则结束模型训练，将生成的模型作为训练好的所述预先确定的分词模型。
  11. 如权利要求10所述的文本关键信息的识别方法，其特征在于，所述预设序列标注规则为按照每个字在词语中的位置进行标注，标注类型包括：首字标注、中间字标注、尾字标注、单字标注。
  12. 如权利要求11所述的文本关键信息的识别方法，其特征在于，所述对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词包括：
    利用预先确定的分词模型识别出所述待识别文本中各个字的标注得到标注序列，并根据预设序列标注规则将所述待识别文本中各个字按标注序列还原成对应的分词。
  13. 如权利要求9所述的文本关键信息的识别方法，其特征在于， 所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  14. 如权利要求10所述的文本关键信息的识别方法，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  15. 如权利要求11所述的文本关键信息的识别方法，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  16. 如权利要求12所述的文本关键信息的识别方法，其特征在于，所述根据预设评分公式计算得到每个分词的评分包括：
    对所述待识别文本中的各个分词按照如下公式计算得到每个分词的评分P值：
    P＝a1*X1+a2*X2+a3*X3
    其中，X1为分词在所述待识别文本中出现频率的词频评分，a1为预设的词频权重；X2为分词在所述待识别文本中出现位置的位置评分，a2为预设的位置权重；X3为分词在所述待识别文本中的词跨度评分，a3为预设的词跨度权重。
  17. 一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有文本关键信息的识别系统，所述文本关键信息的识别系统被处理器执行时实现如下步骤：
    在收到待识别文本后，对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词；其中，所述预先确定的分词模型为预先通过对采用序列标注法标注的预设数量样本语句进行训练得到的长短期记忆循环神经网络模型；
    基于所述待识别文本中各个分词的词频、位置及词跨度，并根据预设评分公式计算得到每个分词的评分，按评分从高到低的顺序对所述待识别文本中各个分词进行排序，提取出排序靠前的分词作为关键词，根据提取出的关键词获取所述待识别文本的关键信息。
  18. 如权利要求17所述的计算机可读存储介质，其特征在于，所述预先确定的分词模型的训练过程如下：
    获取预设数量的样本语句，其中，所述样本语句中的词语为预设语料库中采用预设序列标注规则标注好的词语；
    将所述样本语句经过word2vec模型词向量化后得到相应的样本向量信息；将预设数量的样本语句按照预设比例分为训练集和评估集；
    将所述训练集对应的样本向量信息送入长短期记忆循环神经网络模型进行模型训练，每隔预设时间，使用训练得到的模型对所述评估集的样本语句各个词语中每个字的标注进行识别，并将识别出的标注与该样本语句中采用预设序列标注规则的标注进行比对，以评估模型识别标注的误差；
    若训练得到的模型识别标注的误差出现发散，则调整预设的训练参数并重新训练，直至使得训练得到的模型识别标注的误差能够收敛；
    若训练得到的模型识别标注的误差收敛，则结束模型训练，将生成的模型作为训练好的所述预先确定的分词模型。
  19. 如权利要求18所述的计算机可读存储介质，其特征在于，所述预设序列标注规则为按照每个字在词语中的位置进行标注，标注类型包括：首字标注、中间字标注、尾字标注、单字标注。
  20. 如权利要求19所述的计算机可读存储介质，其特征在于，所述对收到的待识别文本利用预先确定的分词模型进行分词处理，得到所述待识别文本的各个分词包括：
    利用预先确定的分词模型识别出所述待识别文本中各个字的标注得到标注序列，并根据预设序列标注规则将所述待识别文本中各个字按标注序列还原成对应的分词。
PCT/CN2018/108219 2018-05-11 2018-09-28 文本关键信息的识别方法、电子装置及可读存储介质 Ceased WO2019214149A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201810449138.8 2018-05-11
CN201810449138.8A CN108664473A (zh) 2018-05-11 2018-05-11 文本关键信息的识别方法、电子装置及可读存储介质

Publications (1)

Publication Number Publication Date
WO2019214149A1 true WO2019214149A1 (zh) 2019-11-14

Family

ID=63778665

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2018/108219 Ceased WO2019214149A1 (zh) 2018-05-11 2018-09-28 文本关键信息的识别方法、电子装置及可读存储介质

Country Status (2)

Country Link
CN (1) CN108664473A (zh)
WO (1) WO2019214149A1 (zh)

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111192692A (zh) * 2020-01-02 2020-05-22 上海联影智能医疗科技有限公司 一种实体关系的确定方法、装置、电子设备及存储介质
CN111209724A (zh) * 2019-12-31 2020-05-29 智慧神州(北京)科技有限公司 文本的校验方法、装置、存储介质以及处理器
CN111382563A (zh) * 2020-03-20 2020-07-07 腾讯科技（深圳）有限公司 文本相关性的确定方法及装置
CN111680634A (zh) * 2020-06-10 2020-09-18 平安科技（深圳）有限公司 公文文件处理方法、装置、计算机设备及存储介质
CN111859100A (zh) * 2019-12-26 2020-10-30 北京嘀嘀无限科技发展有限公司 一种检索意图转移识别方法及装置
CN111859924A (zh) * 2020-07-21 2020-10-30 浪潮云信息技术股份公司 一种基于word2vec模型构建词网的方法和装置
CN111881297A (zh) * 2020-07-31 2020-11-03 龙马智芯（珠海横琴）科技有限公司 语音识别文本的校正方法及装置
CN111914538A (zh) * 2020-07-31 2020-11-10 长江航道测量中心 一种航道通告信息智能空间匹配方法及系统
CN112101359A (zh) * 2020-11-11 2020-12-18 广州华多网络科技有限公司 文本公式的定位方法、模型训练方法及相关装置
CN112399201A (zh) * 2020-10-09 2021-02-23 腾讯科技（深圳）有限公司 一种视频时效确定方法、装置、电子设备和介质
CN112712118A (zh) * 2020-12-29 2021-04-27 银江股份有限公司 一种面向医疗文本数据的过滤方法及系统
CN113268419A (zh) * 2021-05-19 2021-08-17 北京金山云网络技术有限公司 测试用例优化信息的生成方法、装置、设备和存储介质
CN113312898A (zh) * 2020-02-26 2021-08-27 深信服科技股份有限公司 语料处理方法、设备、存储介质及装置
CN113392651A (zh) * 2020-11-09 2021-09-14 腾讯科技（深圳）有限公司 训练词权重模型及提取核心词的方法、装置、设备和介质
CN113421593A (zh) * 2020-11-25 2021-09-21 腾讯科技（深圳）有限公司 语音测评方法、装置、计算机设备和存储介质
CN113486649A (zh) * 2021-06-24 2021-10-08 竹间智能科技（上海）有限公司 文本评论的生成方法以及电子设备
EP3896595A1 (en) * 2020-04-17 2021-10-20 Beijing Baidu Netcom Science And Technology Co., Ltd. Text key information extracting method, apparatus, electronic device, storage medium, and computer program product
CN113779240A (zh) * 2021-02-10 2021-12-10 北京沃东天骏信息技术有限公司 信息识别方法、装置、计算机系统及可读存储介质
CN113806311A (zh) * 2021-09-17 2021-12-17 平安普惠企业管理有限公司 基于深度学习的文件分类方法、装置、电子设备及介质
CN113823274A (zh) * 2021-08-16 2021-12-21 华南理工大学 基于检测错误加权编辑距离的语音关键词样本筛选方法
CN113850081A (zh) * 2021-09-30 2021-12-28 中国平安财产保险股份有限公司 基于人工智能的文本处理方法、装置、设备及介质
CN114626375A (zh) * 2021-04-21 2022-06-14 亚信科技（南京）有限公司 文本分词方法、装置、电子设备及计算机可读存储介质
CN116522908A (zh) * 2023-07-04 2023-08-01 西安羚控电子科技有限公司 指挥控制系统消息管理方法及装置
CN116886817A (zh) * 2023-05-26 2023-10-13 中国银行股份有限公司 业务操作提醒方法、装置、设备、介质和产品
CN116961907A (zh) * 2023-09-19 2023-10-27 广州市艾索技术有限公司 一种分布式无纸化会议数据加密传输保护方法
CN117216280A (zh) * 2023-11-09 2023-12-12 闪捷信息科技有限公司 敏感数据识别模型的增量学习方法、识别方法和装置
CN117312548A (zh) * 2022-06-22 2023-12-29 北京信息科技大学 一种多源异构灾情数据融合理解方法
CN117787270A (zh) * 2023-12-27 2024-03-29 金叶天成(北京)科技有限公司 一种基于统计特征和词图的轻量级中文关键词提取方法
CN120747978A (zh) * 2025-05-13 2025-10-03 山东核电有限公司 基于语义理解的核电智能标注平台构建方法
CN121366423A (zh) * 2025-12-22 2026-01-20 复旦大学 文本图像和公式图像的统一识别方法、系统、存储介质及设备

Families Citing this family (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111104798B (zh) * 2018-10-27 2023-04-21 北京智慧正安科技有限公司 法律文书中的量刑情节的解析方法、系统及计算机可读存储介质
CN111199170B (zh) * 2018-11-16 2022-04-01 长鑫存储技术有限公司 配方文件识别方法及装置、电子设备、存储介质
CN111221975B (zh) * 2018-11-26 2021-12-14 珠海格力电器股份有限公司 一种字段提取方法、装置及计算机存储介质
CN109656554B (zh) * 2018-11-27 2022-04-15 天津字节跳动科技有限公司 用户界面生成方法及装置
CN109558593A (zh) * 2018-11-30 2019-04-02 北京字节跳动网络技术有限公司 用于处理文本的方法和装置
CN109800417A (zh) * 2018-12-14 2019-05-24 平安普惠企业管理有限公司 应用软件体验的分析方法、装置、设备及计算机存储介质
CN109710759B (zh) * 2018-12-17 2021-06-08 北京百度网讯科技有限公司 文本切分方法、装置、计算机设备和可读存储介质
CN109902271B (zh) * 2019-01-23 2024-05-10 平安科技（深圳）有限公司 基于迁移学习的文本数据标注方法、装置、终端及介质
CN109815500A (zh) * 2019-01-25 2019-05-28 杭州绿湾网络科技有限公司 非结构化公文的管理方法、装置、计算机设备及存储介质
CN110008466A (zh) * 2019-01-30 2019-07-12 阿里巴巴集团控股有限公司 一种数据的处理方法、装置及设备
CN111597799A (zh) * 2019-02-01 2020-08-28 北京国双科技有限公司 基于深度学习的文本处理方法及相关设备
CN110046342A (zh) * 2019-02-19 2019-07-23 阿里巴巴集团控股有限公司 一种文本质量检测方法
CN110069776B (zh) * 2019-03-19 2023-04-18 上海拍拍贷金融信息服务有限公司 客户满意度评估方法及装置、计算机可读存储介质
CN109992776B (zh) * 2019-03-26 2023-07-25 北京博瑞彤芸文化传播股份有限公司 一种中文分词方法
CN110059185B (zh) * 2019-04-03 2022-10-04 天津科技大学 一种医学文档专业词汇自动化标注方法
CN110019758B (zh) * 2019-04-11 2021-07-06 北京百度网讯科技有限公司 一种核心要素提取方法、装置及电子设备
CN109977422A (zh) * 2019-04-18 2019-07-05 中国石油大学(华东) 一种基于分词技术的病历关键信息提取模型
CN110298028B (zh) * 2019-05-21 2023-08-18 杭州未名信科科技有限公司 一种文本段落的关键句提取方法和装置
CN110334331A (zh) * 2019-05-30 2019-10-15 重庆金融资产交易所有限责任公司 基于排序模型筛选表格的方法、装置和计算机设备
CN110232112B (zh) * 2019-05-31 2022-06-21 北京创鑫旅程网络技术有限公司 文章中关键词提取方法及装置
CN110377699A (zh) * 2019-06-21 2019-10-25 深圳壹账通智能科技有限公司 基于nlp的手机短信识别方法及相关设备
CN110287492A (zh) * 2019-06-26 2019-09-27 拉扎斯网络科技（上海）有限公司 数据处理及主类别识别方法、装置、电子设备及存储介质
CN110287493B (zh) * 2019-06-28 2023-04-18 中国科学技术信息研究所 风险短语识别方法、装置、电子设备及存储介质
CN110377725B (zh) * 2019-07-12 2021-09-24 深圳新度博望科技有限公司 数据生成方法、装置、计算机设备及存储介质
CN110442516B (zh) * 2019-07-12 2024-02-09 未鲲(上海)科技服务有限公司 信息处理方法、设备及计算机可读存储介质
CN110414819B (zh) * 2019-07-19 2023-05-26 中国电信集团工会上海市委员会 一种工单评分方法
CN110555372A (zh) * 2019-07-22 2019-12-10 深圳壹账通智能科技有限公司 数据录入方法、装置、设备及存储介质
CN110795942B (zh) * 2019-09-18 2022-10-14 平安科技（深圳）有限公司 基于语义识别的关键词确定方法、装置和存储介质
CN111026851B (zh) * 2019-10-18 2023-09-15 平安科技（深圳）有限公司 模型预测能力优化方法、装置、设备及可读存储介质
CN110992501B (zh) * 2019-10-30 2023-06-02 平安科技（深圳）有限公司 数据监测方法、装置、设备及计算机可读存储介质
CN110852064B (zh) * 2019-10-31 2021-10-26 腾讯科技（深圳）有限公司 关键句提取方法及装置
CN110837737A (zh) * 2019-11-11 2020-02-25 中国电子科技集团公司信息科学研究院 能力词实体识别方法
CN111104791B (zh) * 2019-11-14 2024-02-20 北京金堤科技有限公司 行业信息获取方法和装置、电子设备和介质
CN110968666A (zh) * 2019-11-22 2020-04-07 掌阅科技股份有限公司 基于相似度的标题生成模型的训练方法及计算设备
CN111046657B (zh) * 2019-12-04 2023-10-13 东软集团股份有限公司 一种实现文本信息标准化的方法、装置及设备
CN111062221A (zh) * 2019-12-13 2020-04-24 北京欧珀通信有限公司 数据处理方法、装置、电子设备以及存储介质
CN111144127B (zh) * 2019-12-25 2023-07-25 科大讯飞股份有限公司 文本语义识别方法及其模型的获取方法及相关装置
CN111274815B (zh) 2020-01-15 2024-04-12 北京百度网讯科技有限公司 用于挖掘文本中的实体关注点的方法和装置
CN111738791B (zh) * 2020-01-20 2024-05-24 北京沃东天骏信息技术有限公司 一种文本处理方法、装置、设备和存储介质
CN111339250B (zh) 2020-02-20 2023-08-18 北京百度网讯科技有限公司 新类别标签的挖掘方法及电子设备、计算机可读介质
CN111428496B (zh) * 2020-03-24 2023-08-15 北京小米松果电子有限公司 文本分词模型的训练方法、分词处理方法及装置、介质
CN111159417A (zh) * 2020-04-07 2020-05-15 北京泰迪熊移动科技有限公司 文本内容关键信息的提取方法、装置、设备及存储介质
CN113496118B (zh) * 2020-04-07 2024-05-31 北京中科闻歌科技股份有限公司 一种新闻主体识别方法、设备和计算机可读存储介质
CN111177326B (zh) * 2020-04-10 2020-08-04 深圳壹账通智能科技有限公司 基于精标注文本的关键信息抽取方法、装置及存储介质
CN113111175A (zh) * 2020-04-28 2021-07-13 北京明亿科技有限公司 基于深度学习模型极端行为识别方法与装置、设备及介质
CN111611801B (zh) * 2020-06-02 2021-09-14 腾讯科技（深圳）有限公司 一种识别文本地域属性的方法、装置、服务器及存储介质
CN111931480B (zh) * 2020-07-03 2023-07-18 北京新联财通咨询有限公司 文本主要内容的确定方法、装置、存储介质及计算机设备
CN113934812A (zh) * 2020-07-10 2022-01-14 银联智策顾问（上海）有限公司 一种商户行业智能分类的方法及装置
CN111832282B (zh) * 2020-07-16 2023-04-14 平安科技（深圳）有限公司 融合外部知识的bert模型的微调方法、装置及计算机设备
CN112134920B (zh) * 2020-08-12 2022-08-30 新华三技术有限公司 一种文件识别方法及装置
CN112052646B (zh) * 2020-08-27 2024-03-29 安徽聚戎科技信息咨询有限公司 一种文本数据标注方法
CN111984851B (zh) * 2020-09-03 2023-11-14 深圳平安智慧医健科技有限公司 医学资料搜索方法、装置、电子装置及存储介质
CN112446210B (zh) * 2020-11-27 2024-01-09 广州三七互娱科技有限公司 用户性别预测方法、装置及电子设备
CN112668321B (zh) * 2020-12-29 2023-11-07 竹间智能科技（上海）有限公司 关键词提取方法及装置、电子设备、存储介质
CN112364136B (zh) * 2021-01-12 2021-04-23 平安国际智慧城市科技股份有限公司 关键词生成方法、装置、设备及存储介质
CN112818996A (zh) * 2021-01-29 2021-05-18 青岛海尔科技有限公司 指令识别方法和装置、存储介质及电子设备
CN112800465B (zh) * 2021-02-09 2024-12-24 第四范式（北京）技术有限公司 待标注文本数据的处理方法、装置、电子设备及介质
CN113282763B (zh) * 2021-06-28 2023-03-10 深圳平安智汇企业信息管理有限公司 文本关键信息提取、装置、设备及存储介质
CN113592534A (zh) * 2021-06-30 2021-11-02 深圳市东信时代信息技术有限公司 竞品词确定方法、装置、计算机设备及存储介质
CN113627542B (zh) * 2021-08-13 2024-11-26 青岛海信网络科技股份有限公司 一种事件信息处理方法、服务器及存储介质
CN113569839B (zh) * 2021-08-31 2024-02-09 重庆紫光华山智安科技有限公司 证件识别方法、系统、设备及介质
CN113806510B (zh) * 2021-09-22 2024-06-28 中国科学院深圳先进技术研究院 一种法律条文检索方法、终端设备及计算机存储介质
CN114065759B (zh) * 2021-11-19 2023-10-13 深圳数阔信息技术有限公司 一种模型失效检测方法、装置、电子设备及介质
CN114625839A (zh) * 2022-03-18 2022-06-14 广东电网有限责任公司 一种电网检修单的文本分类方法、装置、设备及存储介质
CN114785410B (zh) * 2022-04-25 2024-02-27 贵州电网有限责任公司 一种基于光纤编码的精准识别系统
CN114547087B (zh) * 2022-04-27 2022-07-26 湖南正宇软件技术开发有限公司 提案自动识别并生成报告的方法、装置、设备和介质
CN114780687A (zh) * 2022-05-09 2022-07-22 广州欢聚时代信息科技有限公司 商品标题摘要生成方法及其装置、设备、介质、产品
CN114818674B (zh) * 2022-05-09 2025-07-25 广州欢聚时代信息科技有限公司 商品标题关键词提取方法及其装置、设备、介质、产品
CN117235205A (zh) * 2022-06-02 2023-12-15 株式会社理光 命名实体识别方法、装置及计算机可读存储介质
CN118154243B (zh) * 2024-05-09 2024-08-16 江苏云机汇软件科技有限公司 一种信息化的品牌营销数据预警系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170052945A1 (en) * 2014-10-30 2017-02-23 International Business Machines Corporation Generation apparatus, generation method, and program
CN106557508A (zh) * 2015-09-28 2017-04-05 北京神州泰岳软件股份有限公司 一种文本关键词提取方法和装置
CN107544956A (zh) * 2016-06-24 2018-01-05 科大讯飞股份有限公司 一种文本要点检测方法及系统
CN107562718A (zh) * 2017-07-24 2018-01-09 科大讯飞股份有限公司 文本规整方法及装置、存储介质、电子设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106682149A (zh) * 2016-12-22 2017-05-17 湖南科技学院 一种基于元搜索引擎的标签自动生成方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170052945A1 (en) * 2014-10-30 2017-02-23 International Business Machines Corporation Generation apparatus, generation method, and program
CN106557508A (zh) * 2015-09-28 2017-04-05 北京神州泰岳软件股份有限公司 一种文本关键词提取方法和装置
CN107544956A (zh) * 2016-06-24 2018-01-05 科大讯飞股份有限公司 一种文本要点检测方法及系统
CN107562718A (zh) * 2017-07-24 2018-01-09 科大讯飞股份有限公司 文本规整方法及装置、存储介质、电子设备

Cited By (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111859100A (zh) * 2019-12-26 2020-10-30 北京嘀嘀无限科技发展有限公司 一种检索意图转移识别方法及装置
CN111859100B (zh) * 2019-12-26 2023-11-03 北京嘀嘀无限科技发展有限公司 一种检索意图转移识别方法及装置
CN111209724A (zh) * 2019-12-31 2020-05-29 智慧神州(北京)科技有限公司 文本的校验方法、装置、存储介质以及处理器
CN111192692B (zh) * 2020-01-02 2023-12-08 上海联影智能医疗科技有限公司 一种实体关系的确定方法、装置、电子设备及存储介质
CN111192692A (zh) * 2020-01-02 2020-05-22 上海联影智能医疗科技有限公司 一种实体关系的确定方法、装置、电子设备及存储介质
CN113312898A (zh) * 2020-02-26 2021-08-27 深信服科技股份有限公司 语料处理方法、设备、存储介质及装置
CN113312898B (zh) * 2020-02-26 2024-03-01 深信服科技股份有限公司 语料处理方法、设备、存储介质及装置
CN111382563A (zh) * 2020-03-20 2020-07-07 腾讯科技（深圳）有限公司 文本相关性的确定方法及装置
CN111382563B (zh) * 2020-03-20 2023-09-08 腾讯科技（深圳）有限公司 文本相关性的确定方法及装置
KR102521586B1 (ko) 2020-04-17 2023-04-12 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 텍스트 핵심정보 추출방법, 장치, 전자기기 및 기록매체
EP3896595A1 (en) * 2020-04-17 2021-10-20 Beijing Baidu Netcom Science And Technology Co., Ltd. Text key information extracting method, apparatus, electronic device, storage medium, and computer program product
KR20210129605A (ko) * 2020-04-17 2021-10-28 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 텍스트 핵심정보 추출방법, 장치, 전자기기 및 기록매체
CN111680634A (zh) * 2020-06-10 2020-09-18 平安科技（深圳）有限公司 公文文件处理方法、装置、计算机设备及存储介质
CN111680634B (zh) * 2020-06-10 2023-08-01 平安科技（深圳）有限公司 公文文件处理方法、装置、计算机设备及存储介质
CN111859924A (zh) * 2020-07-21 2020-10-30 浪潮云信息技术股份公司 一种基于word2vec模型构建词网的方法和装置
CN111859924B (zh) * 2020-07-21 2024-04-05 浪潮云信息技术股份公司 一种基于word2vec模型构建词网的方法和装置
CN111881297A (zh) * 2020-07-31 2020-11-03 龙马智芯（珠海横琴）科技有限公司 语音识别文本的校正方法及装置
CN111914538A (zh) * 2020-07-31 2020-11-10 长江航道测量中心 一种航道通告信息智能空间匹配方法及系统
CN111914538B (zh) * 2020-07-31 2024-05-31 长江航道测量中心 一种航道通告信息智能空间匹配方法及系统
CN112399201B (zh) * 2020-10-09 2023-11-14 腾讯科技（深圳）有限公司 一种视频时效确定方法、装置、电子设备和介质
CN112399201A (zh) * 2020-10-09 2021-02-23 腾讯科技（深圳）有限公司 一种视频时效确定方法、装置、电子设备和介质
CN113392651B (zh) * 2020-11-09 2024-05-14 腾讯科技（深圳）有限公司 训练词权重模型及提取核心词的方法、装置、设备和介质
CN113392651A (zh) * 2020-11-09 2021-09-14 腾讯科技（深圳）有限公司 训练词权重模型及提取核心词的方法、装置、设备和介质
CN112101359B (zh) * 2020-11-11 2021-02-12 广州华多网络科技有限公司 文本公式的定位方法、模型训练方法及相关装置
CN112101359A (zh) * 2020-11-11 2020-12-18 广州华多网络科技有限公司 文本公式的定位方法、模型训练方法及相关装置
CN113421593A (zh) * 2020-11-25 2021-09-21 腾讯科技（深圳）有限公司 语音测评方法、装置、计算机设备和存储介质
CN112712118A (zh) * 2020-12-29 2021-04-27 银江股份有限公司 一种面向医疗文本数据的过滤方法及系统
CN113779240A (zh) * 2021-02-10 2021-12-10 北京沃东天骏信息技术有限公司 信息识别方法、装置、计算机系统及可读存储介质
CN114626375A (zh) * 2021-04-21 2022-06-14 亚信科技（南京）有限公司 文本分词方法、装置、电子设备及计算机可读存储介质
CN113268419B (zh) * 2021-05-19 2024-04-09 北京金山云网络技术有限公司 测试用例优化信息的生成方法、装置、设备和存储介质
CN113268419A (zh) * 2021-05-19 2021-08-17 北京金山云网络技术有限公司 测试用例优化信息的生成方法、装置、设备和存储介质
CN113486649A (zh) * 2021-06-24 2021-10-08 竹间智能科技（上海）有限公司 文本评论的生成方法以及电子设备
CN113486649B (zh) * 2021-06-24 2023-07-04 竹间智能科技（上海）有限公司 文本评论的生成方法以及电子设备
CN113823274B (zh) * 2021-08-16 2023-10-27 华南理工大学 基于检测错误加权编辑距离的语音关键词样本筛选方法
CN113823274A (zh) * 2021-08-16 2021-12-21 华南理工大学 基于检测错误加权编辑距离的语音关键词样本筛选方法
CN113806311B (zh) * 2021-09-17 2023-08-29 深圳市深可信科学技术有限公司 基于深度学习的文件分类方法、装置、电子设备及介质
CN113806311A (zh) * 2021-09-17 2021-12-17 平安普惠企业管理有限公司 基于深度学习的文件分类方法、装置、电子设备及介质
CN113850081A (zh) * 2021-09-30 2021-12-28 中国平安财产保险股份有限公司 基于人工智能的文本处理方法、装置、设备及介质
CN117312548A (zh) * 2022-06-22 2023-12-29 北京信息科技大学 一种多源异构灾情数据融合理解方法
CN116886817A (zh) * 2023-05-26 2023-10-13 中国银行股份有限公司 业务操作提醒方法、装置、设备、介质和产品
CN116522908B (zh) * 2023-07-04 2023-12-05 西安羚控电子科技有限公司 指挥控制系统消息管理方法及装置
CN116522908A (zh) * 2023-07-04 2023-08-01 西安羚控电子科技有限公司 指挥控制系统消息管理方法及装置
CN116961907A (zh) * 2023-09-19 2023-10-27 广州市艾索技术有限公司 一种分布式无纸化会议数据加密传输保护方法
CN116961907B (zh) * 2023-09-19 2023-12-29 广州市艾索技术有限公司 一种分布式无纸化会议数据加密传输保护方法
CN117216280B (zh) * 2023-11-09 2024-02-09 闪捷信息科技有限公司 敏感数据识别模型的增量学习方法、识别方法和装置
CN117216280A (zh) * 2023-11-09 2023-12-12 闪捷信息科技有限公司 敏感数据识别模型的增量学习方法、识别方法和装置
CN117787270A (zh) * 2023-12-27 2024-03-29 金叶天成(北京)科技有限公司 一种基于统计特征和词图的轻量级中文关键词提取方法
CN120747978A (zh) * 2025-05-13 2025-10-03 山东核电有限公司 基于语义理解的核电智能标注平台构建方法
CN121366423A (zh) * 2025-12-22 2026-01-20 复旦大学 文本图像和公式图像的统一识别方法、系统、存储介质及设备

Also Published As

Publication number Publication date
CN108664473A (zh) 2018-10-16

Similar Documents

Publication Publication Date Title
WO2019214149A1 (zh) 文本关键信息的识别方法、电子装置及可读存储介质
US11693894B2 (en) Conversation oriented machine-user interaction
US20220327138A1 (en) Training and applying structured data extraction models
CN108717406B (zh) 文本情绪分析方法、装置及存储介质
CN112035730B (zh) 一种语义检索方法、装置及电子设备
US20230195773A1 (en) Text classification method, apparatus and computer-readable storage medium
US20180341871A1 (en) Utilizing deep learning with an information retrieval mechanism to provide question answering in restricted domains
CN110263248B (zh) 一种信息推送方法、装置、存储介质和服务器
US20170185581A1 (en) Systems and methods for suggesting emoji
US9483460B2 (en) Automated formation of specialized dictionaries
CN108255813B (zh) 一种基于词频-逆文档与crf的文本匹配方法
WO2019184217A1 (zh) 热点事件分类方法、装置及存储介质
JP5710581B2 (ja) 質問応答装置、方法、及びプログラム
Dawdy-Hesterberg et al. Learnability and generalisation of Arabic broken plural nouns
US10417335B2 (en) Automated quantitative assessment of text complexity
CN106815252A (zh) 一种搜索方法和设备
WO2014028860A2 (en) System and method for matching data using probabilistic modeling techniques
CN110008335A (zh) 自然语言处理的方法及装置
CN116685966A (zh) 调整查询生成模式
CN112148862B (zh) 一种问题意图识别方法、装置、存储介质及电子设备
JP5427694B2 (ja) 関連コンテンツ提示装置及びプログラム
CN101114282A (zh) 一种分词处理方法及设备
CN114647739B (zh) 实体链指方法、装置、电子设备及存储介质
CN111708870A (zh) 基于深度神经网络的问答方法、装置及存储介质
Benedetto et al. The puzzle of Basil’s Epistula 38: A mathematical approach to a philological problem

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18918096

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18918096

Country of ref document: EP

Kind code of ref document: A1