CN114490816A - 数据聚合方法、装置、存储介质及电子设备 - Google Patents

数据聚合方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN114490816A
CN114490816A CN202210068505.6A CN202210068505A CN114490816A CN 114490816 A CN114490816 A CN 114490816A CN 202210068505 A CN202210068505 A CN 202210068505A CN 114490816 A CN114490816 A CN 114490816A
Authority
CN
China
Prior art keywords
multimedia data
feature
data samples
data sample
aggregation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210068505.6A
Other languages
English (en)
Inventor
吉梁
周杰
黄凯
毕研广
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Youzhuju Network Technology Co Ltd
Original Assignee
Beijing Youzhuju Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Youzhuju Network Technology Co Ltd filed Critical Beijing Youzhuju Network Technology Co Ltd
Priority to CN202210068505.6A priority Critical patent/CN114490816A/zh
Publication of CN114490816A publication Critical patent/CN114490816A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2465Query processing support for facilitating data mining operations in structured databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/285Clustering or classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开涉及一种数据聚合方法、装置、存储介质及电子设备。该方法包括:对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,所述特征集合包括多个特征维度的特征;根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;输出所述至少一个聚合簇。本公开能够提升对具有多个特征维度的多媒体数据的聚合准确性。

Description

数据聚合方法、装置、存储介质及电子设备
技术领域
本公开涉及数据处理技术领域,具体地,涉及一种数据聚合方法、装置、存储介质及电子设备。
背景技术
随着互联网的不断发展,用户在互联网上产生的多媒体数据也越来越多,由于数据量庞大,且数据类型繁多,所以需要对这些数据进行合理地聚类,以便后续对数据进行管理和使用。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
第一方面,本公开提供一种数据聚合方法,该方法包括:
对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,所述特征集合包括多个特征维度的特征;
根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;
输出所述至少一个聚合簇。
第二方面,本公开提供一种数据聚合装置,该装置包括:特征提取模块、聚合模块以及聚合结果输出模块。其中:
特征提取模块,用于对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,所述特征集合包括多个特征维度的特征;
聚合模块,用于根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;
聚合结果输出模块,用于输出所述至少一个聚合簇。
第三方面,本公开提供一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现第一方面所述方法的步骤。
第四方面,本公开提供一种电子设备,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现第一方面所述方法的步骤。
本公开提供的数据聚合方法、装置、存储介质及电子设备,通过对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,所述特征集合包括多个特征维度的特征;再根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;最后输出所述至少一个聚合簇。从而融合多个特征维度对相似数据进行聚合,可以更全面地判断数据的相似性,提高了对具有多特征维度的数据的聚合准确性。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。在附图中:
图1是根据一示例性实施例示出的一种数据聚合方法的流程图。
图2是根据另一示例性实施例示出的一种数据聚合方法的流程图。
图3是根据图2实施例示出的一种数据聚合方法的步骤220的流程图。
图4是根据图2实施例示出的多媒体数据样本在不同特征维度下的聚类结果。
图5是根据图2实施例示出的多媒体数据样本的一种邻接关系图。
图6是根据图2实施例示出的多媒体数据样本的另一种邻接关系图。
图7是根据又一示例性实施例示出的一种数据聚合方法的流程图。
图8是根据一示例性实施例示出的一种数据聚合装置的框图。
图9是根据一示例性实施例示出的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
随着移动互联网的普及,人们可以随时随地地将自己制作的内容上传至网络,以此来分享自己的生活中的点滴,也因如此,网络上会具有越来越多的因用户而产生的多媒体数据,这些多媒体数据包括图像、声音、文本、视频等数据。
对于管理如此庞大的数据的平台,需要合理地对这些多媒体数据进行聚类,以便后续能够更好管理这些数据。在相关技术中,只能对于单一特征维度上的数据聚合,例如,单一地对图像数据进行聚合、单一地对音频数据进行聚合等等。
然而,目前用户上传的内容往往具有多个特征维度上的数据,例如用户上传的多媒体数据同时包括了图像数据、文本数据等。所以相关技术中的数据聚类方法无法全面地对该多媒体数据进行合理地聚合,聚合结果也不能保证准确性。
针对上述问题,本公开提供了一种数据聚合方法、装置、存储介质及电子设备,能够有效提升对多媒体数据的聚合准确性。
图1是根据一示例性实施例示出的一种数据聚合方法的流程图,如图1所示,该方法可以包括以下步骤:
110、对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到上述每一多媒体数据样本的特征集合,上述特征集合包括多个特征维度的特征。
示例性地,本实施例的数据聚合方法的执行主体可以是电子设备、或者终端设备、或者可以执行数据处理装置或设备、或者其他可以执行本实施例的装置或设备,在此不做限制。本实施例以执行主体为电子设备进行说明。
其中,上述特征维度可以包括:文本维度、图像维度、声音维度、视频维度中的至少一种。
在一些实施方式中,步骤110的具体实施方式包括:
将上述多个多媒体数据样本分别输入至预先训练好的特征提取模型,获取上述特征提取模型输出的每一多媒体数据样本的特征集合,其中,上述特征提取模型通过标注数据训练得到,或通过自监督方式训练得到。
示例性的,特征提取模型可以是由多个特征提取子模型组成,不同的特征提取子模型可以从数据中提取出不同特征维度的特征,具体地,特征提取模型可以包括图像特征提取子模型、声音特征提取子模型、文本特征提取子模型等。其中,上述各个模型可以在标注数据上训练的通用或特定分类模型,也可以是在无标注数据上训练的自监督模型。可选地,图像维度上的特征可以包括但不限于:亮度、边缘、纹理和色彩等,声音维度上的特征可以包括但不限于:音调、响度、音色等。
可以理解的是,在实际应该用中,上述各个维度中的特征可以采用预先设定好的特征表示进行表示,例如图像特征可以使用一串浮点数进行表示。
沿用上述示例,可以将多个多媒体数据样本中一个多媒体数据样本分别输入至特征提取模型的不同子模型中,然后得到每个子模型输出的相应维度上的特征。例如,将多媒体数据样本A输入至图像特征提取子模型,图像特征提取子模型可以输出该多媒体数据样本A在图像维度上的特征(如图像特征a1);将多媒体数据样本A输入至声音特征提取子模型,声音特征提取子模型可以输出该多媒体数据样本A在声音维度上的特征(如声音特征a1),其中,如果多媒体数据样本A输入文本特征提取子模型后,没有输出相应的特征,则可以表明多媒体数据样本A中不包括文本信息。在将多媒体数据样本A分别输入至每个子模型后,可以将得到的所有特征,如图像特征a1、声音特征a1作为多媒体数据样本A的特征集合。同理通过上述特征提取方式遍历多个多媒体数据样本,可以得到每个多媒体数据样本的特征集合。
120、根据上述每一多媒体数据样本的特征集合,对上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇。
在一些实施方式中,电子设备可以计算多个多媒体数据样本中每两个多媒体数据样本之间的在各个特征维度上的相似度。示例性地,以多个多媒体数据样本中的多媒体数据样本A和多媒体数据样本B,从多媒体数据样本A提取出图像特征a1和声音特征a1,从多媒体数据样本B中提取出图像特征b1和声音特征b2,然后计算图像特征a1和图像特征b1之间的相似度得到相似度1,计算声音特征a1和声音特征b1之间的相似度得到相似度2。
然后,电子设备检测相似度1是否满足图像特征维度对应的相似度要求(如大于或等于预设相似度),以及检测相似度2是否满足图像特征维度对一个的相似度要求,并根据检测结果来对多媒体数据样本A和多媒体数据样本B进行聚合。
作为一种方式,如果电子设备检测到相似度1和相似度2中具有一个相似度满足相应的相似度要求,则将多媒体数据样本A和多媒体数据样本B进行聚合,形成一个聚合簇。
作为另一种方式,如果电子设备检测到相似度1和相似度2中的两个相似度均满足相应的相似度要去,则将多媒体数据样本A和多媒体数据样本B进行聚合,形成一个聚合簇。
同理,通过上述聚合方式可以将上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇。沿用上述示例,例如多媒体数据样本B和多媒体数据样本C之间的各个特征维度上的特征相似度满足相似度要求,则可以将多媒体数据样本A、多媒体数据样本B以及多媒体数据样本C进行聚合形成一个聚合簇。如果多媒体数据样本C分别与多媒体数据样本A、多媒体数据样本B之间的各个特征维度上的相似度都不满足相似度要求,则可以将多媒体数据样本A、多媒体数据样本B聚合为一个聚合簇1,将多媒体数据样本C单独作为一个聚合簇2。
130、输出上述至少一个聚合簇。
在一些实施方式中,电子设备可以以图表的形式,展示每个聚合簇以及每个聚合簇包括的多媒体数据样本,以便用户能够清楚地了解哪些多媒体数据样本属于哪一类,方便对多媒体数据样本进行管理和使用。
可见,在本实施例中,通过对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到上述每一多媒体数据样本的特征集合,上述特征集合包括至少一个特征维度的特征;再根据上述每一多媒体数据样本的特征集合,对上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;最后输出上述至少一个聚合簇。从而融合多个特征维度对相似数据进行聚合,可以更全面地判断数据的相似性,提高了对具有多特征维度的数据的聚合准确性。
图2是根据另一示例性实施例示出的一种数据聚合方法的流程图,如图2所示,该方法可以包括以下步骤:
210、对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到上述每一多媒体数据样本的特征集合,上述特征集合包括多个特征维度的特征。
其中,步骤210的具体实施方式可以参考步骤110,故不在此赘述。
220、根据上述每一多媒体数据样本的特征集合,从上述多个多媒体数据样本中确定关联多媒体数据样本,上述关联多媒体数据样本是根据多个特征维度中的至少一个特征维度上的特征被划分为同一类的多媒体数据样本。
在一些实施方式中,如图3所示,步骤220的具体实施方式可以包括:
221、根据上述每一多媒体数据样本的特征集合,确定上述多个多媒体数据样本对应每一特征维度的KNN结果。
示例性地,电子设备可以将上述多个多媒体数据样本中的每一多媒体数据样本输入至预先训练好的KNN(K-Nearest Neighbor)模型中,并获取KNN模型输出的KNN结果,其中,KNN结果可以是样本数据对应每一特征维度上的分类。
可以理解的是,KNN可以通过测量不同特征值之间的距离来进行分类。KNN算法是一种非常特别的机器学习算法,因为它没有一般意义上的学习过程。它的工作原理是利用训练数据对特征向量空间进行划分,并将划分结果作为最终算法模型。存在一个样本数据集合,也称作训练样本集,并且样本集中的每个数据都存在标签,即我们知道样本集中每一数据与所属分类的对应关系。
输入没有标签的数据后,将这个没有标签的数据的每个特征与样本集中的数据对应的特征进行比较,然后提取样本中特征最相近的数据(最近邻)的分类标签。
一般而言,只选择样本数据集中前k个最相似的数据,这就是KNN算法中k的由来,通常k是不大于20的整数。最后,选择k个最相似数据中出现次数最多的类别,作为新数据的分类。
其中,KNN模型可以包括针对不同特征维度的KNN子模型,每个KNN子模型可以根据输入的多媒体数据样本输出对应特征维度的KNN结果。
222、基于上述多个多媒体数据样本对应每一特征维度的KNN结果,确定上述多个多媒体数据样本对应每一特征维度的聚类结果。
在一些实施方式中,对于同一特征维度的每一多媒体数据样本的KNN结果,可以在该特征维度下,将相同分类的样本数据进行聚类,从而得到聚类结果。
示例性地,如图4所示,例如在图像维度下,多媒体数据样本A为第一类、多媒体数据样本B为第二类、多媒体数据样本C为第一类,则可以得到图像维度下的聚类据结果为:多媒体数据样本A和多媒体数据样本C为一类,多媒体数据样本B为另一类。
又例如,在文本维度下,多媒体数据样本A为第一类,多媒体数据样本B为第一类,多媒体数据样本C为第一类,样本数据D为第二类。则可以得到图像维度下的聚类据结果为:多媒体数据样本A、多媒体数据样本B以及多媒体数据样本C为一类,多媒体数据样本D为另一类。
223、根据上述多个多媒体数据样本对应每一特征维度的聚类结果,确定上述多个多媒体数据样本中的关联多媒体数据样本,上述聚类结果包括上述多个多媒体数据样本中每个多媒体数据样本所属的类。
在一些实施方式中,步骤223的具体实施方式可以包括:
如果上述多个多媒体数据样本中的第一多媒体数据样本和第二多媒体数据样本在至少一个特征维度上的聚类结果为同一类,则将上述第一多媒体数据样本和第二多媒体数据样本,确定为关联多媒体数据样本。
沿用上述示例,例如,多媒体数据样本A和多媒体数据样本C在文本维度上和图像维度上都被划分为了同一类,则可以将多媒体数据样本A和多媒体数据样本C确定为关联多媒体数据样本。又例如,多媒体数据样本A和多媒体数据样本B在文本维度上被划分为同一类,则可以将多媒体数据样本A和多媒体数据样本B确定为关联多媒体数据样本。
230、通过预设算法,确定上述关联多媒体数据样本之间的相似度得分。
在一些实施方式中,步骤230的具体实施方式可以包括:首先,针对不同的特征维度,计算上述关联多媒体数据样本之间的对应每一特征维度的特征相似度。其次,分别计算上述关联多媒体数据样本之间的对应每一特征维度的特征相似度与上述每一特征维度对应的权重值的积,得到多个积。最后,计算上述多个积的和,并将上述多个积的和作为上述相似度得分。
示例性地,关联多媒体数据样本之间的相似度得分可以通过如下公式计算得到:
Figure BDA0003481150570000101
其中,s为相似度得分,p为关联多媒体数据样本之间在一个特征维度上的相似度,w为该特征维度对应的权重值,Ⅱ为指示函数。
其中,不同特征维度对应的权重值可以相同也可以不同在此不做限定,具体地,每一特征维度对应的权重值可以根据用户的实际需求自定义设置。
240、如果上述相似度得分满足预设得分要求,则将上述关联多媒体数据样本划分至同一个聚合簇。
在一些实施方式中,步骤240的具体实施方式可以包括:
如果上述相似度得分大于或等于相似度阈值,则将上述关联多媒体数据样本划分至同一个聚合簇。
示例性地,例如,如果互为关联多媒体数据样本的多媒体数据样本A和多媒体数据样本B之间的相似度得分s大于相似度阈值s0,则可以将多媒体数据样本A和多媒体数据样本B划分至同一个聚合簇。
250、输出上述至少一个聚合簇。
其中,步骤250的具体实施方式可以参考步骤130,故不在此赘述。
在实际应用中,电子设备可以构建多媒体数据样本的邻接关系图,在邻接关系图中,每个多媒体数据样本可以作为一个节点,用边连接存在邻近关系的多媒体数据样本,其中,边的属性包括特征维度和对应特征维度的特征相似度。示例性地,如图5所示,例如多媒体数据样本包括多媒体数据样本A、多媒体数据样本B、多媒体数据样本C以及多媒体数据样本D,当电子设备通过上述实施例的方式确定多媒体数据样本A、多媒体数据样本B、多媒体数据样本C互为关联多媒体数据样本时,可以用边将多媒体数据样本A、多媒体数据样本B、多媒体数据样本C连接。如图5所示,多媒体数据样本A、多媒体数据样本B之间具有图像维度上的边以及文本维度上的边,图像维度上的相似度为0.9,文本维度上的相似度为0.5。多媒体数据样本B和多媒体数据样本D之间具有图像维度上的边,图像维度上的相似度为0.7。而多媒体数据样本C和其它多媒体数据样本之间不存在连接关系,因此不具有边。
然后,电子设备可以检测每条边对应的相似度得分是否满足预设得分要求,若满足,表明相似度得分较高,则可以保留该条边,保持节点之间的连接关系。如果不满足则删除该条边,以删除节点之间的连接关系。如图6所示,当多媒体数据样本B和多媒体数据样本D之间的相似度得分不满足预设得分要求时,表明相似度得分较低,则可以将多媒体数据样本B和多媒体数据样本D之间的边删除。
最后,电子设备可以在邻接关系图中求解连通子图,将每个连通子图作为一类聚合簇。如图6所示,图中形成三个聚合簇,分别为:[多媒体数据样本A,多媒体数据样本B]、[多媒体数据样本C]、[多媒体数据样本D]。
可见,在本实施例中,通过根据上述每一多媒体数据样本的特征集合,从上述多个多媒体数据样本中确定关联多媒体数据样本,上述关联多媒体数据样本是根据至少一个特征维度上的特征被划分为同一类的多媒体数据样本。通过预设算法,确定上述关联多媒体数据样本之间的相似度得分。如果上述相似度得分满足预设得分要求,则将上述关联多媒体数据样本划分至同一个聚合簇。从而能够先筛选出关联的多媒体数据样本,只用判断关联的多媒体数据样本之间的相似度得分即可进行聚合,避免了计算所有多媒体数据样本之间的相似度得分的繁琐过程,进而提高了聚合效率。
图7是根据又一示例性实施例示出的一种数据聚合方法的流程图,如图7所示,该方法可以包括以下步骤:
310、对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到上述每一多媒体数据样本的特征集合,上述特征集合包括多个特征维度的特征。
其中,步骤310的具体实施方式可以参考步骤110,故不在此赘述。
320、确定上述多个多媒体数据样本所属同一个数据集合,其中,处于同一数据集合的多媒体数据样本包括的特征维度相同。
在一些实施方式中,电子设备可以根据各个多媒体数据样本的特征集合,统计所有多媒体数据样本中各特征维度上的特征存在情况。首先将不缺失特征维度的多媒体数据样本划分为一个数据集合,如划分为第一数据集合,将缺失特征维度的多媒体数据样本(如缺失图像维度上特征的多媒体数据样本)确定为缺失多媒体数据样本。
然后,将缺失多媒体数据样本中,缺失同一种特征维度的多媒体数据样本划分为同一个数据集合。例如,将都是缺失图像维度上的特征的多媒体数据样本划分为第二数据集合。将都是缺失文本维度上的特征的多媒体数据样本划分为第三数据集合。
电子设备在确定各个数据集合后,可以判断当前的多个多媒体数据样本是否所属同一个数据集合,当该多个多媒体数据样本属于同一个数据集合时,例如多个诗句都属于第一数据集合时,可以执行步骤330,从而保证在对多个多媒体数据样本进行相似度聚合时,多个多媒体数据样本的特征维度是相同的。示例性地,例如,电子设备可以在第一数据集合中单独进行相似度聚合,在第二数据结合中单独进行相似度聚合,以此类推。
在另一些实施方式中,电子设备可以针对不同的数据集合,在每个数据集合中单独执行步骤330。
在一些实施方式中,在步骤320之前,该方法还包括:
如果上述多个多媒体数据样本中除目标多媒体数据样本以外,均包括指定特征维度的特征,则获取上述目标多媒体数据样本对应上述指定特征维度的特征缺失频率。
如果上述特征缺失频率小于频率阈值,则将上述指定特征维度的默认特征添加至上述目标多媒体数据样本中,并确定上述多个多媒体数据样本所属同一个数据集合。
示例性地,如果电子设备检测到多个多媒体数据样本中的目标多媒体数据样本缺失指定特征维度的特征,例如缺失文本维度的特征,则可以从网络中相关数据中查询该多媒体数据样本对应的历史记录,并根据历史记录确定该多媒体数据样本是否经常缺失文本维度的特征,如果不是,则可以将指定特征维度的默认特征添加至上述目标多媒体数据样本中,如加入文本数据。具体地,电子设备可以查询上传该多媒体数据样本的用户账号,并查询通过该用户账号上传的历史数据,并判断该历史数据中是否经常缺失该指定特征维度的特征,以此,确定该多媒体数据样本是否经常缺失指定特征维度的特征。
可选地,默认特征可以是其它多媒体数据样本中的该指定特征维度的特征均值,也可以是用户自定义设置的特征值(如0)。
330、根据上述每一多媒体数据样本的特征集合,对上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇。
340、输出上述至少一个聚合簇。
其中,步骤330至步骤340的具体实施方式可以参考步骤120至步骤130,故不在此赘述。
在一些实施方式中,电子设备可以对不同数据集合对应的聚合簇进行合并,例如可以将第一数据集合对应的至少一个聚合簇、第二数据集合对应的至少一个聚合簇、第三数据集合对应的至少一个聚合簇进行合并,得到总体的聚合结果。
在本实施例中,通过确定上述多个多媒体数据样本所属同一个数据集合,其中,处于同一数据集合的多媒体数据样本包括的特征维度相同。然后,根据上述每一多媒体数据样本的特征集合,对上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇。从而能够保证在对多个多媒体数据样本进行相似度聚合时,多个多媒体数据样本的特征维度是相同的,进而提升了聚合准确性,以及聚合效率。
图8是根据一示例性实施例示出的一种数据聚合装置的框图,如图8所示,该数据聚合装置400可以包括:特征提取模块410、聚合模块420以及聚合结果输出模块430。其中:
特征提取模块410,用于对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到上述每一多媒体数据样本的特征集合,上述特征集合包括多个特征维度的特征。
聚合模块420,用于根据上述每一多媒体数据样本的特征集合,对上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇。
聚合结果输出模块430,用于输出上述至少一个聚合簇。
在一些实施方式中,聚合模块420,包括:
关联多媒体数据样本确定子模块,用于根据上述每一多媒体数据样本的特征集合,从上述多个多媒体数据样本中确定关联多媒体数据样本,上述关联多媒体数据样本是根据多个特征维度中的至少一个特征维度上的特征被划分为同一类的多媒体数据样本。
相似度得分确定子模块,用于通过预设算法,确定上述关联多媒体数据样本之间的相似度得分。
聚合簇划分子模块,用于如果上述相似度得分满足预设得分要求,则将上述关联多媒体数据样本划分至同一个聚合簇。
在一些实施方式中,关联多媒体数据样本确定子模块,具体用于:根据上述每一多媒体数据样本的特征集合,确定上述多个多媒体数据样本对应每一特征维度的KNN结果;基于上述多个多媒体数据样本对应每一特征维度的KNN结果,确定上述多个多媒体数据样本对应每一特征维度的聚类结果;根据上述多个多媒体数据样本对应每一特征维度的聚类结果,确定上述多个多媒体数据样本中的关联多媒体数据样本,上述聚类结果包括上述多个多媒体数据样本中每个多媒体数据样本所属的类。
在一些实施方式中,关联多媒体数据样本确定子模块,具体还用于:如果上述多个多媒体数据样本中的第一多媒体数据样本和第二多媒体数据样本在至少一个特征维度上的聚类结果为同一类,则将上述第一多媒体数据样本和第二多媒体数据样本,确定为关联多媒体数据样本。
在一些实施方式中,相似度得分确定子模块,具体用于:针对不同的特征维度,计算上述关联多媒体数据样本之间的对应每一特征维度的特征相似度。
分别计算上述关联多媒体数据样本之间的对应每一特征维度的特征相似度与上述每一特征维度对应的权重值的积,得到多个积;计算上述多个积的和,并将上述多个积的和作为上述相似度得分。
在一些实施方式中,聚合簇划分子模块,具体用于如果上述相似度得分大于或等于相似度阈值,则将上述关联多媒体数据样本划分至同一个聚合簇。
在一些实施方式中,该装置400,还包括:
数据集合确定模块,用于确定上述多个多媒体数据样本所属同一个数据集合,其中,处于同一数据集合的多媒体数据样本包括的特征维度相同。
在一些实施方式中,该装置400,还包括:
特征缺失频率获取模块,用于如果上述多个多媒体数据样本中除目标多媒体数据样本以外,均包括指定特征维度的特征,则获取上述目标多媒体数据样本对应上述指定特征维度的特征缺失频率;
数据集合确定模块,还用于如果上述特征缺失频率小于频率阈值,则将上述指定特征维度的默认特征添加至上述目标多媒体数据样本中,并确定上述多个多媒体数据样本所属同一个数据集合。
在一些实施方式中,上述特征维度包括:文本维度、图像维度、声音维度中的至少一种。
在一些实施方式中,特征提取模块410具体用于将上述多个多媒体数据样本分别输入至预先训练好的特征提取模型,获取上述特征提取模型输出的每一多媒体数据样本的特征集合,其中,上述特征提取模型通过标注数据训练得到,或通过自监督方式训练得到。
下面参考图9,其示出了适于用来实现本公开实施例的电子设备(例如终端设备或服务器)600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图9示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图9示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到上述每一多媒体数据样本的特征集合,上述特征集合包括多个特征维度的特征;根据上述每一多媒体数据样本的特征集合,对上述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;输出上述至少一个聚合簇。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

Claims (13)

1.一种数据聚合方法,其特征在于,包括:
对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,所述特征集合包括多个特征维度的特征;
根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;
输出所述至少一个聚合簇。
2.根据权利要求1所述的方法,其特征在于,所述根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇,包括:
根据所述每一多媒体数据样本的特征集合,从所述多个多媒体数据样本中确定关联多媒体数据样本,所述关联多媒体数据样本是根据多个特征维度中的至少一个特征维度上的特征被划分为同一类的多媒体数据样本;
通过预设算法,确定所述关联多媒体数据样本之间的相似度得分;
如果所述相似度得分满足预设得分要求,则将所述关联多媒体数据样本划分至同一个聚合簇。
3.根据权利要求2所述的方法,其特征在于,所述根据所述每一多媒体数据样本的特征集合,从所述多个多媒体数据样本中确定关联多媒体数据样本,包括:
根据所述每一多媒体数据样本的特征集合,确定所述多个多媒体数据样本对应每一特征维度的KNN结果;
基于所述多个多媒体数据样本对应每一特征维度的KNN结果,确定所述多个多媒体数据样本对应每一特征维度的聚类结果;
根据所述多个多媒体数据样本对应每一特征维度的聚类结果,确定所述多个多媒体数据样本中的关联多媒体数据样本,所述聚类结果包括所述多个多媒体数据样本中每个多媒体数据样本所属的类。
4.根据权利要求3所述的方法,其特征在于,所述根据所述多个多媒体数据样本对应每一特征维度的聚类结果,确定所述多个多媒体数据样本中的关联多媒体数据样本,包括:
如果所述多个多媒体数据样本中的第一多媒体数据样本和第二多媒体数据样本在至少一个特征维度上的聚类结果为同一类,则将所述第一多媒体数据样本和第二多媒体数据样本,确定为关联多媒体数据样本。
5.根据权利要求2所述的方法,其特征在于,所述通过预设算法,确定所述关联多媒体数据样本之间的相似度得分,包括:
针对不同的特征维度,计算所述关联多媒体数据样本之间的对应每一特征维度的特征相似度;
分别计算所述关联多媒体数据样本之间的对应每一特征维度的特征相似度与所述每一特征维度对应的权重值的积,得到多个积;
计算所述多个积的和,并将所述多个积的和作为所述相似度得分。
6.根据权利要求2所述的方法,其特征在于,所述如果所述相似度得分满足预设得分要求,则将所述关联多媒体数据样本划分至同一个聚合簇,包括:
如果所述相似度得分大于或等于相似度阈值,则将所述关联多媒体数据样本划分至同一个聚合簇。
7.根据权利要求1-6任一项中所述的方法,其特征在于,在所述根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇之前,还包括:
确定所述多个多媒体数据样本所属同一个数据集合,其中,处于同一数据集合的多媒体数据样本包括的特征维度相同。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
如果所述多个多媒体数据样本中除目标多媒体数据样本以外,均包括指定特征维度的特征,则获取所述目标多媒体数据样本对应所述指定特征维度的特征缺失频率;
如果所述特征缺失频率小于频率阈值,则将所述指定特征维度的默认特征添加至所述目标多媒体数据样本中,并确定所述多个多媒体数据样本所属同一个数据集合。
9.根据权利要求1-6任一项中所述的方法,其特征在于,所述特征维度包括:文本维度、图像维度、声音维度中的至少一种。
10.根据权利要求1-6任一项中所述的方法,其特征在于,所述对所述多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,包括:
将所述多个多媒体数据样本分别输入至预先训练好的特征提取模型,获取所述特征提取模型输出的每一多媒体数据样本的特征集合,其中,所述特征提取模型通过标注数据训练得到,或通过自监督方式训练得到。
11.一种数据聚合装置,其特征在于,包括:
特征提取模块,用于对多个多媒体数据样本中的每一多媒体数据样本进行特征提取处理,得到所述每一多媒体数据样本的特征集合,所述特征集合包括多个特征维度的特征;
聚合模块,用于根据所述每一多媒体数据样本的特征集合,对所述多个多媒体数据样本进行相似度聚合,得到至少一个聚合簇;
聚合结果输出模块,用于输出所述至少一个聚合簇。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-10中任一项所述方法的步骤。
13.一种电子设备,其特征在于,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现权利要求1-10中任一项所述方法的步骤。
CN202210068505.6A 2022-01-20 2022-01-20 数据聚合方法、装置、存储介质及电子设备 Pending CN114490816A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210068505.6A CN114490816A (zh) 2022-01-20 2022-01-20 数据聚合方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210068505.6A CN114490816A (zh) 2022-01-20 2022-01-20 数据聚合方法、装置、存储介质及电子设备

Publications (1)

Publication Number Publication Date
CN114490816A true CN114490816A (zh) 2022-05-13

Family

ID=81472684

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210068505.6A Pending CN114490816A (zh) 2022-01-20 2022-01-20 数据聚合方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN114490816A (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170171580A1 (en) * 2015-04-21 2017-06-15 Edge2020 LLC Clustering and adjudication to determine a recommendation of multimedia content
CN111400513A (zh) * 2020-03-11 2020-07-10 北京字节跳动网络技术有限公司 数据处理方法、装置、计算机设备和存储介质
CN112085120A (zh) * 2020-09-17 2020-12-15 腾讯科技(深圳)有限公司 多媒体数据的处理方法、装置、电子设备及存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170171580A1 (en) * 2015-04-21 2017-06-15 Edge2020 LLC Clustering and adjudication to determine a recommendation of multimedia content
CN111400513A (zh) * 2020-03-11 2020-07-10 北京字节跳动网络技术有限公司 数据处理方法、装置、计算机设备和存储介质
CN112085120A (zh) * 2020-09-17 2020-12-15 腾讯科技(深圳)有限公司 多媒体数据的处理方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
WO2020114022A1 (zh) 一种知识库对齐方法、装置、计算机设备及存储介质
CN110598157B (zh) 目标信息识别方法、装置、设备及存储介质
CN110633423B (zh) 目标账号识别方法、装置、设备及存储介质
WO2022121801A1 (zh) 信息处理方法、装置和电子设备
CN113033682B (zh) 视频分类方法、装置、可读介质、电子设备
CN112364860A (zh) 字符识别模型的训练方法、装置和电子设备
WO2023143016A1 (zh) 特征提取模型的生成方法、图像特征提取方法和装置
CN110674349A (zh) 视频poi识别方法、装置及电子设备
CN111738316B (zh) 零样本学习的图像分类方法、装置及电子设备
CN113140012A (zh) 图像处理方法、装置、介质及电子设备
CN110198473B (zh) 视频处理方法、装置、电子设备及计算机可读存储介质
US20230315990A1 (en) Text detection method and apparatus, electronic device, and storage medium
CN114153959A (zh) 键值匹配方法、装置、可读介质及电子设备
CN113343069A (zh) 用户信息的处理方法、装置、介质及电子设备
CN113033707A (zh) 视频分类方法、装置、可读介质及电子设备
CN112990176A (zh) 书写质量评价方法、装置和电子设备
CN114428867A (zh) 数据挖掘方法、装置、存储介质及电子设备
WO2023000782A1 (zh) 获取视频热点的方法、装置、可读介质和电子设备
CN110781066A (zh) 用户行为分析方法、装置、设备及存储介质
CN114625876B (zh) 作者特征模型的生成方法、作者信息处理方法和装置
CN113051400B (zh) 标注数据确定方法、装置、可读介质及电子设备
WO2021258972A1 (zh) 视频检索方法、装置、电子设备和计算机可读介质
CN114428872A (zh) 图像检索方法、装置、存储介质及电子设备
CN114490816A (zh) 数据聚合方法、装置、存储介质及电子设备
CN110752958A (zh) 用户行为分析方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination