CN114428857A - 一种信息的标注方法、装置、设备以及存储介质 - Google Patents
一种信息的标注方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN114428857A CN114428857A CN202210071588.4A CN202210071588A CN114428857A CN 114428857 A CN114428857 A CN 114428857A CN 202210071588 A CN202210071588 A CN 202210071588A CN 114428857 A CN114428857 A CN 114428857A
- Authority
- CN
- China
- Prior art keywords
- information
- result
- identifier
- determining
- cluster
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/355—Class or cluster creation or modification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9532—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Probability & Statistics with Applications (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了信息的标注方法、装置、设备以及存储介质,涉及数据处理技术领域,尤其涉及大数据、深度学习等领域。具体实现方案为:将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;根据匹配结果确定待标注信息的指定粒度的标注信息;利用指定粒度的标注信息确定待标注信息的标注结果。上述方法利用预先建立的标识簇以实现数据的高覆盖率,克服人工标注的低效。由于标识簇已具有指定粒度的标注信息,因此利用标识簇的指定粒度的标注信息对待标注信息的标注,可以实现不同垂类下资源产生的效率。
Description
技术领域
本公开涉及数据处理技术领域,尤其涉及大数据、深度学习等领域,特别涉及一种信息的标注方法、装置、设备以及存储介质。
背景技术
互联网的飞速发展,把人们带入到了一个信息异常丰富的时代,每天都会有大量的信息产生,信息过载已成为了一个严重的问题。如何实现信息的快速、准确分类是对信息推送端的考验,相关技术采用人工标注训练数据,成本非常高。
发明内容
本公开提供了一种信息的标注方法、装置、设备以及存储介质。
根据本公开的一方面,提供了一种信息的标注方法,该方法可以包括以下步骤:
将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;
根据匹配结果确定待标注信息的指定粒度的标注信息;
利用指定粒度的标注信息确定待标注信息的标注结果。
根据本公开的另一方面,提供了一种信息的标注装置,该装置可以包括:
匹配模块,用于将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;
指定粒度的标注信息确定模块,用于根据匹配结果确定待标注信息的指定粒度的标注信息;
标注结果确定模块,用于利用指定粒度的标注信息确定待标注信息的标注结果。
根据本公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行本公开任一实施例中的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行本公开任一实施例中的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现本公开任一实施例中的方法。
根据本公开的技术利用预先建立的标识簇可以实现数据的高覆盖率,克服人工标注的低效。通过对待标注信息与标识簇的匹配,可以实现对于待标注信息的快速归类,由于标识簇已具有指定粒度的标注信息,因此利用标识簇的指定粒度的标注信息对待标注信息的标注,可以实现不同垂类下资源产生的效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开信息的标注方法的流程图;
图2是根据本公开将待标注信息的标识与预先建立的标识簇进行匹配的流程图;
图3根据本公开元学习模型的训练方法的流程图;
图4根据本公开确定标注信息的流程图;
图5根据本公开标注信息的确定方式的流程图;
图6根据本公开确定待标注信息的标注结果的流程图;
图7根据本公开信息的标注装置的示意图;
图8是用来实现本公开实施例的信息的标注方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
如图1所示,本公开涉及一种信息的标注方法,该方法可以包括以下步骤:
S101:将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;
S102:根据匹配结果确定待标注信息的指定粒度的标注信息;
S103:利用指定粒度的标注信息确定待标注信息的标注结果。
本公开的执行主体可以是用于信息推送的服务器或云端等设备。示例性地,信息推送的服务器或云端可以是用于内容类信息推送的服务器或云端等。待标注信息可以是实时生成或更新的信息。示例性地,待标注信息可以是新闻类信息、资源类信息、经验类信息、行业类信息、搞笑类信息、排行类信息等。
待标注信息的更新周期可以是以小时为单位、以分钟为单位或者以秒为单位。对于新生成的待标注信息,可以采用本公开的上述方法进行标注。
具体而言,首先获取预先建立的标识簇。标识可以是利用已有信息(文章、视频、图像等)的题目、信息中出现频率较高的关键词等内容得到的。其中,已有信息可以是根据指定方式筛选得到的,具体筛选过程将在后文进行描述。
以筛选出的第一信息为例,可以直接以该第一信息的题目作为标识。或者,也可以对第一信息进行遍历,利用分词的方式获取第一信息中的各分词。进而以出现次数高于阈值的分词作为出现频率较高的关键词,从而以关键词作为标识。根据(不同信息的)题目之间的相似度、题目与关键词的相似度以及关键词之间的相似度进行标识簇的建立。通过上述过程,可以构建至少千万级别的标识簇,每个标识簇中可以含有数量不等的信息。
对于待标注信息,可以首先确定出待标注信息的标识。进而将该标识与预先建立的标识簇进行匹配,获得匹配结果。在一个高效的匹配实施方式中,可以直接以待标注信息的题目作为待标注信息的标识。
匹配结果可以是待标注信息属于某个预先建立的标识簇;或者,匹配结果可以是待标注信息不属于任何预先建立的标识簇,在此情况下,可以构建新的标识簇。
根据匹配结果,可以以标识簇的标注信息作为待标注信息的标注信息。其中,标注信息的粒度可以是指定粒度。例如,粒度可以是实体级别,也可以是概念点级别或者兴趣点级别。示例性地,实体级别可以是“明星XX”,概念点级别可以是“明星的穿衣搭配”,兴趣点级别可以是“时尚”。在本实施方式中,指定粒度可以是概念点级别对应的粒度。
通过上述过程,利用预先建立的标识簇可以实现数据的高覆盖率,克服人工标注的低效。通过对待标注信息与标识簇的匹配,可以实现对于待标注信息的快速归类,由于标识簇已具有指定粒度的标注信息,因此利用标识簇的指定粒度的标注信息对待标注信息的标注,可以实现不同垂类下资源产生的效率。
如图2所示,在一种实施方式中,步骤S101可以包括以下步骤:
S201:确定待标注信息的标识;
S202:获取标识簇包含的各资源的标识;
S203:将待标注信息的标识与标识簇包含的各资源的标识进行比较,获得比较结果;
S204:利用比较结果进行匹配。
待标注信息的标识可以是待标注信息的题目、信息中出现频率较高的关键词等。标识簇包含的各资源可以是具有相同标识或相似标识的信息。其中,相似标识可以以相似度高于对应阈值作为判定条件。
进一步的,还可以预先对标识簇进行筛选。例如,可以统计每个标识簇中的资源的数量,将数量低于对应阈值的标识簇进行过滤。
标识簇包含的各资源的标识可以对应每个资源的标识,也可以是超过对应数量的资源的标识或超过对应比例资源的标识。示例性地,以N个标识簇为例,N为正整数。需要将待标注信息的标识与N个标识簇中的每个标识簇包含的各资源的标识进行比较。
由于标识簇的数量较多(例如千万级),也可以利用预定规则,从N个标识簇中选择出预定数量的标识簇以提高效率。预定规则可以是随机选择、利用标识簇的热度进行选择、按照排序的奇偶位选择等。
以将待标注信息的标识与第i个标识簇包含的各资源的标识进行比较为例进行说明,1≤i≤N。
在比较时,可以首先计算第i个标识簇包含的各资源的标识平均值,该计算过程可以基于向量计算实现。进而将待标注信息的标识与标识平均值进行比较,最终得到比较结果。或者,也可以将待标注信息的标识依次与第i个标识簇包含的各资源的标识进行比较,得到对应数量(若第i个标识簇包含m个资源,则对应数量为m)的比较结果。根据对应数量的比较结果求均值计算、或者求中位数计算等,得到最终比较结果。该最终比较结果可以作为第i个比较结果,比较结果可以是相似度或者是差异度等,以数值体现。
综合多个比较结果,可以选择相似度最高或者差异度最低的比较结果以进行匹配。
通过上述过程,在匹配过程中可以参考标识簇中各资源的标识,从而使得匹配结果更加可信。
在一种实施方式中,S203具体可以包括以下过程:
将待标注信息的标识、标识簇包含的各资源的标识输入至预先训练的元学习模型,得到比较结果;
比较结果用于表征待标注信息的标识与标识簇包含的各资源的标识平均向量之间的相似度。
预先训练的元学习模型,可以得到与待标注信息的标识相似度最高的标识簇。
如图3所示,在一种实施方式中,元学习模型的训练方法,可以包括以下过程:
S301:获取元学习模型的基础模型;
S302:将未知标识样本输入元学习模型的基础模型,得到与标识簇样本的预测匹配结果;
S303:利用预测匹配结果与真实匹配结果的差异,对元学习模型的基础模型中的参数进行调整,得到调整结果;
S304:在调整结果符合预定要求的情况下,得到训练好的元学习模型。
元学习模型的基础模型可以是未训练的模型,也可以是完成一定训练累积的模型。
未知标识样本可以是尚未匹配的,即尚未完成标识识别的样本。未知标识样本可以是相同搜索内容所对应的资源,或者,可以是相同搜索内容对应的被选择的资源等。
构造由未知标识样本、第i个标识簇样本、第i+n个标识簇样本组成的训练数据集合。其中,第i个标识簇样本、第i+n个标识簇样本可以是前述N个标识簇中的任意2个标识簇,也可以是通过人工筛选确定出的2个标识簇。
将未知标识样本输入元学习模型的基础模型,可以得到预测匹配结果。预测匹配结果可以是表征第一相似度和第二相似度之间的差异预测情况。第一相似度为未知标识样本与第i个标识簇样本的相似度,第二相似度为未知标识样本与第i+n个标识簇样本之间的相似度。预测匹配结果可以以数值形式表示,利用预测匹配结果与真实匹配结果的差异,对元学习模型的基础模型中的参数进行更新,并且由更新后的参数得到更新的元学习模型。
将未知标识样本输入更新的元学习模型,得到的新的预测匹配结果。新的预测匹配结果可以作为调整结果。在调整结果收敛或者与真实匹配结果的差异小于阈值的情况下,可以确定得到训练好的元学习模型。
上述示例是由未知标识样本和2个标识簇样本组成训练数据集合。在实际训练过程中,还可以构建由未知标识样本和多个标识簇样本组成训练数据集合,例如5个、10个等。
由于标识簇是预先已构造的可以达到千万级别数量级,因此对于元学习模型进行再学习的训练数据覆盖率较高,避免未知标识样本的人工标注。进一步的,由于元学习模型的自我学习能力,在实际应用场景对于未处理过的待标注信息具有较强的泛化能力。
如图4所示,在一种实施方式中,步骤S102可以包括以下过程:
S401:根据匹配结果,确定待标注信息所属的标识簇;
S402:获取待标注信息所属的标识簇的指定粒度的标注信息;
S403:将待标注信息所属的标识簇的指定粒度的标注信息确定为待标注信息的指定粒度的标注信息。
以待标注信息的标识与第i个标识簇匹配成功为例,可以确定第i个标识簇为待标注信息所属的标识簇。
指定粒度可以是利用预定方式确定的粒度。关于指定粒度的标注信息的确定方式会在后文中进行详述。
在确定待标注信息的标识与预先建立的标识簇匹配成功的情况下,确定出待标注信息所属的标识簇。从而可以将待标注信息所属的标识簇的指定粒度的标注信息确定为待标注信息的标注信息。
通过上述过程,可以实现待标注信息的自动标注。可以达到节省人工标注的目标,大幅提高标注效率。
如图5所示,在一种实施方式中,待标注信息所属的标识簇的指定粒度的标注信息的确定方式,可以包括以下过程:
S501:利用接收到的操作指令,对信息样本进行过滤,得到过滤后的信息样本;
S502:对过滤后的信息样本进行语义解析,得到解析结果;
S503:在解析结果符合预定条件的情况下,将解析结果作为指定粒度的标注信息。
接收到的操作指令可以包括对信息样本的选择指令,根据信息样本的选择指令,可以对信息样本进行过滤。例如,信息样本的选择指令可以包括信息样本被选择的次数,信息样本历次被选择的间隔时间、信息样本被选择的持续时长、输出信息样本的选择指令的输出端的数量、多次输出相同信息样本的选择指令的输出端的占比、是否从内容类网站选择信息样本等。
其中,信息样本历次被选择的间隔时间可以是相邻两次选择指令的间隔时间,也可以是多次选择指令的间隔时间的均值等。
信息样本被选择的持续时长可以是信息样本首次被选择的时刻距离最后一次被选择的时刻之间的时长。信息样本被选择的持续时长也可以是以固定时间段为单位,统计该时间段中信息样本被选择的次数。若在第一时间段中信息样本被选择的次数高于阈值,而在第二时间段中信息样本被选择的次数低于阈值,那么信息样本被选择的持续时长可以是由第一时间段的起始时刻至第一时间段的终止时刻。不难理解,第一时间段和第二时间段是前后相邻的两个时间段。
对过滤后的信息样本进行语义解析,得到解析结果。例如,在操作指令包括搜索指令的情况下,可以根据搜索内容进行语义解析,得到解析结果。或者,还可以对信息样本进行语义解析,以对题目或者关键词进行语义归一化处理,得到解析结果。其中,归一化处理,可以包括对有细微差异的题目或者关键词进行标准化处理,得到统一的解析结果。
解析结果符合预定条件可以是解析结果可以对应指定粒度的标注信息。例如,可以将解析结果输入预先训练的粒度识别模型,根据粒度识别模型输出的结果进行判断。
示例性地,以解析结果可以包括“时尚”、“明星穿搭”、“明星XX的穿衣风格”为例,在预先确定粒度最大的情况下,可以将解析结果“时尚”作为符合预定条件的解析结果。在预先确定粒度适中的情况下,即对应概念点的情况下,可以将解析结果“明星穿搭”作为符合预定条件的解析结果。在预先确定粒度最小的情绪,可以将解析结果“明星XX的穿衣风格”作为符合预定条件的解析结果。
通过上述过程,可以实现指定粒度的标注信息的自动化确定。
如图6所示,在一种实施方式中,步骤S103可以包括以下步骤:
S601:确定指定粒度的标注信息的类别;
S602:将指定粒度的标注信息以及类别作为待标注信息的标注结果。
标注信息的类别可以包括娱乐类、体育类、军事类、科技类、汽车类等多个类别。将指定粒度的标注信息输入预先训练的分类模型,可以得到该指定粒度的标注信息的类别。
分类模型的训练方式可以包括以下过程:
对指定粒度的标注信息进行类别标注,得到已标注的训练样本。利用待训练的分类模型对训练数据进行分类处理,得到分类预测结果。该分类预测结果可以以概率的形式表示。例如,娱乐类的概率为a%,体育类的概率为b%。利用已标注的训练样本与分类预测结果之间的误差,对分类模型中的参数进行调整。上述误差可以利用损失函数体现,损失函数的作用可以理解为:当待训练的分类模型进行前向传播得到的预测值与真值接近时,损失函数的取较小值;反之,损失函数的取值增大。并且,损失函数是以分类模型中的参数为自变量的函数。
利用上述误差,对待训练的分类模型中的所有参数进行调整。上述误差会在待训练的分类模型中的每一层进行反向传播,待训练的分类模型中每一层的参数都会根据上述误差进行调整,直到待训练的分类模型的输出结果收敛或达到预期的效果才结束。
通过上述过程,可以利用指定粒度的标注信息的类别对信息的标注进行丰富。
如图7所示,本公开涉及一种信息的标注装置,该装置可以包括:
匹配模块701,用于将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;
指定粒度的标注信息确定模块702,用于根据匹配结果确定待标注信息的指定粒度的标注信息;
标注结果确定模块703,用于利用指定粒度的标注信息确定待标注信息的标注结果。
在一种实施方式中,匹配模块701可以包括:
待标注信息的标识确定子模块,用于确定待标注信息的标识;
标识簇的标识确定子模块,用于获取标识簇包含的各资源的标识;
比较结果获取子模块,用于将待标注信息的标识与标识簇包含的各资源的标识进行比较,获得比较结果;
匹配子模块,用于利用比较结果进行匹配。
在一种实施方式中,比较结果获取子模块具体用于:
将待标注信息的标识、标识簇包含的各资源的标识输入至预先训练的元学习模型,得到比较结果;
比较结果用于表征待标注信息的标识与标识簇包含的各资源的标识平均向量之间的相似度
在一种实施方式中,还包括元学习模型训练模块,元学习模型训练模块,包括:
基础模型获取单元,用于获取元学习模型的基础模型;
预测匹配结果单元,用于将未知标识样本输入元学习模型的基础模型,得到与标识簇样本的预测匹配结果;
调整结果确定单元,用于利用预测匹配结果与真实匹配结果的差异,对元学习模型的基础模型中的参数进行调整,得到调整结果;
训练执行单元,用于在调整结果符合预定要求的情况下,得到训练好的元学习模型。
在一种实施方式中,定粒度的标注信息确定模块702可以包括:
待标注信息归属确定子模块,用于根据匹配结果,确定待标注信息所属的标识簇;
标注信息获取子模块,用于获取待标注信息所属的标识簇的指定粒度的标注信息;
指定粒度的标注信息确定执行子模块,用于将待标注信息所属的标识簇的指定粒度的标注信息确定为待标注信息的指定粒度的标注信息。
在一种实施方式中,标注信息获取子模块,可以包括:
过滤单元,用于利用接收到的操作指令,对信息样本进行过滤,得到过滤后的信息样本;
解析单元,用于对过滤后的信息样本进行语义解析,得到解析结果;
标注信息确定单元,用于在解析结果符合预定条件的情况下,将解析结果作为指定粒度的标注信息。
在一种实施方式中,标注结果确定模块703可以包括:
类别确定子模块,用于确定指定粒度的标注信息的类别;
标注结果确定执行子模块,用于将指定粒度的标注信息以及类别作为待标注信息的标注结果。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元810,其可以根据存储在只读存储器(ROM)820中的计算机程序或者从存储单元880加载到随机访问存储器(RAM)830中的计算机程序,来执行各种适当的动作和处理。在RAM 830中,还可存储设备800操作所需的各种程序和数据。计算单元810、ROM 820以及RAM 830通过总线840彼此相连。输入/输出(I/O)接口850也连接至总线840。
设备800中的多个部件连接至I/O接口850,包括:输入单元860,例如键盘、鼠标等;输出单元870,例如各种类型的显示器、扬声器等;存储单元880,例如磁盘、光盘等;以及通信单元890,例如网卡、调制解调器、无线通信收发机等。通信单元890允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元810可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元810的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元810执行上文所描述的各个方法和处理,例如信息的标注方法。例如,在一些实施例中,信息的标注方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元880。在一些实施例中,计算机程序的部分或者全部可以经由ROM 820和/或通信单元890而被载入和/或安装到设备800上。当计算机程序加载到RAM 830并由计算单元810执行时,可以执行上文描述的信息的标注方法的一个或多个步骤。备选地,在其他实施例中,计算单元810可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行信息的标注方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (17)
1.一种信息的标注方法,包括:
将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;
根据所述匹配结果确定所述待标注信息的指定粒度的标注信息;
利用所述指定粒度的标注信息确定所述待标注信息的标注结果。
2.根据权利要求1所述的方法,其中,所述将待标注信息的标识与预先建立的标识簇进行匹配,包括:
确定所述待标注信息的标识;
获取标识簇包含的各资源的标识;
将所述待标注信息的标识与所述标识簇包含的各资源的标识进行比较,获得比较结果;
利用所述比较结果进行匹配。
3.根据权利要求2所述的方法,其中,所述将所述待标注信息的标识与所述标识簇包含的各资源的标识进行比较,获得比较结果,包括:
将所述待标注信息的标识、所述标识簇包含的各资源的标识输入至预先训练的元学习模型,得到比较结果;
所述比较结果用于表征所述待标注信息的标识与所述标识簇包含的各资源的标识平均向量之间的相似度。
4.根据权利要求3所述的方法,其中,所述元学习模型的训练方法,包括:
获取元学习模型的基础模型;
将未知标识样本输入所述元学习模型的基础模型,得到与标识簇样本的预测匹配结果;
利用所述预测匹配结果与真实匹配结果的差异,对所述元学习模型的基础模型中的参数进行调整,得到调整结果;
在所述调整结果符合预定要求的情况下,得到训练好的元学习模型。
5.根据权利要求1所述的方法,其中,所述根据所述匹配结果确定所述待标注信息的指定粒度的标注信息,包括:
根据所述匹配结果,确定所述待标注信息所属的标识簇;
获取所述待标注信息所属的标识簇的指定粒度的标注信息;
将所述待标注信息所属的标识簇的指定粒度的标注信息确定为所述待标注信息的指定粒度的标注信息。
6.根据权利要求5所述的方法,其中,所述待标注信息所属的标识簇的指定粒度的标注信息的确定方式,包括:
利用接收到的操作指令,对信息样本进行过滤,得到过滤后的信息样本;
对所述过滤后的信息样本进行语义解析,得到解析结果;
在所述解析结果符合预定条件的情况下,将解析结果作为所述指定粒度的标注信息。
7.根据权利要求1所述的方法,所述利用所述指定粒度的标注信息确定所述待标注信息的标注结果,包括:
确定所述指定粒度的标注信息的类别;
将所述指定粒度的标注信息以及所述类别作为所述待标注信息的标注结果。
8.一种信息的标注装置,包括:
匹配模块,用于将待标注信息的标识与预先建立的标识簇进行匹配,获得匹配结果;
指定粒度的标注信息确定模块,用于根据所述匹配结果确定所述待标注信息的指定粒度的标注信息;
标注结果确定模块,用于利用所述指定粒度的标注信息确定所述待标注信息的标注结果。
9.根据权利要求8所述的装置,其中,所述匹配模块,包括:
待标注信息的标识确定子模块,用于确定所述待标注信息的标识;
标识簇的标识确定子模块,用于获取标识簇包含的各资源的标识;
比较结果获取子模块,用于将所述待标注信息的标识与所述标识簇包含的各资源的标识进行比较,获得比较结果;
匹配子模块,用于利用所述比较结果进行匹配。
10.根据权利要求9所述的装置,其中,所述比较结果获取子模块具体用于:
将所述待标注信息的标识、所述标识簇包含的各资源的标识输入至预先训练的元学习模型,得到比较结果;
所述比较结果用于表征所述待标注信息的标识与所述标识簇包含的各资源的标识平均向量之间的相似度。
11.根据权利要求10所述的装置,还包括元学习模型训练模块,所述元学习模型训练模块,包括:
基础模型获取单元,用于获取元学习模型的基础模型;
预测匹配结果单元,用于将未知标识样本输入所述元学习模型的基础模型,得到与标识簇样本的预测匹配结果;
调整结果确定单元,用于利用所述预测匹配结果与真实匹配结果的差异,对所述元学习模型的基础模型中的参数进行调整,得到调整结果;
训练执行单元,用于在所述调整结果符合预定要求的情况下,得到训练好的元学习模型。
12.根据权利要求8所述的装置,其中,所述指定粒度的标注信息确定模块,包括:
待标注信息归属确定子模块,用于根据所述匹配结果,确定所述待标注信息所属的标识簇;
标注信息获取子模块,用于获取所述待标注信息所属的标识簇的指定粒度的标注信息;
指定粒度的标注信息确定执行子模块,用于将所述待标注信息所属的标识簇的指定粒度的标注信息确定为所述待标注信息的指定粒度的标注信息。
13.根据权利要求12所述的装置,其中,所述标注信息获取子模块,包括:
过滤单元,用于利用接收到的操作指令,对信息样本进行过滤,得到过滤后的信息样本;
解析单元,用于对所述过滤后的信息样本进行语义解析,得到解析结果;
标注信息确定单元,用于在所述解析结果符合预定条件的情况下,将解析结果作为所述指定粒度的标注信息。
14.根据权利要求8所述的装置,其中,所述标注结果确定模块,包括:
类别确定子模块,用于确定所述指定粒度的标注信息的类别;
标注结果确定执行子模块,用于将所述指定粒度的标注信息以及所述类别作为所述待标注信息的标注结果。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至7中任一项所述的方法。
17.一种计算机程序产品,包括计算机程序/指令,其中,该计算机程序/指令被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210071588.4A CN114428857A (zh) | 2022-01-21 | 2022-01-21 | 一种信息的标注方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210071588.4A CN114428857A (zh) | 2022-01-21 | 2022-01-21 | 一种信息的标注方法、装置、设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114428857A true CN114428857A (zh) | 2022-05-03 |
Family
ID=81313334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210071588.4A Pending CN114428857A (zh) | 2022-01-21 | 2022-01-21 | 一种信息的标注方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114428857A (zh) |
-
2022
- 2022-01-21 CN CN202210071588.4A patent/CN114428857A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110457581B (zh) | 一种资讯推荐方法、装置、电子设备及存储介质 | |
CN114329201B (zh) | 深度学习模型的训练方法、内容推荐方法和装置 | |
US11741094B2 (en) | Method and system for identifying core product terms | |
CN114549874A (zh) | 多目标图文匹配模型的训练方法、图文检索方法及装置 | |
CN113792212B (zh) | 多媒体资源推荐方法、装置、设备以及存储介质 | |
CN114444619B (zh) | 样本生成方法、训练方法、数据处理方法以及电子设备 | |
CN112818230B (zh) | 内容推荐方法、装置、电子设备和存储介质 | |
CN111861596A (zh) | 一种文本分类方法和装置 | |
CN114090601B (zh) | 一种数据筛选方法、装置、设备以及存储介质 | |
CN113392920B (zh) | 生成作弊预测模型的方法、装置、设备、介质及程序产品 | |
CN113190746B (zh) | 推荐模型的评估方法、装置及电子设备 | |
CN113987260A (zh) | 一种视频推送方法、装置、电子设备及存储介质 | |
CN114428857A (zh) | 一种信息的标注方法、装置、设备以及存储介质 | |
CN113360761A (zh) | 信息流推荐方法、装置、电子设备和计算机可读存储介质 | |
CN114491232A (zh) | 信息查询方法、装置、电子设备和存储介质 | |
CN113961797A (zh) | 资源推荐方法、装置、电子设备和可读存储介质 | |
CN113722593A (zh) | 事件数据处理方法、装置、电子设备和介质 | |
CN112905885A (zh) | 向用户推荐资源的方法、装置、设备、介质和程序产品 | |
CN112860626A (zh) | 一种文档排序方法、装置及电子设备 | |
CN112529646A (zh) | 一种商品分类方法和装置 | |
CN116628315B (zh) | 搜索方法、深度学习模型的训练方法、装置及电子设备 | |
CN114422584B (zh) | 资源的推送方法、设备和存储介质 | |
CN113342998B (zh) | 一种多媒体资源推荐方法、装置、电子设备及存储介质 | |
CN115982633A (zh) | 目标对象分类方法、装置、电子设备及存储介质 | |
CN115758142A (zh) | 深度学习模型的训练方法、数据处理方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |