CN110532304A - 数据处理方法及装置、计算机可读存储介质以及电子设备 - Google Patents
数据处理方法及装置、计算机可读存储介质以及电子设备 Download PDFInfo
- Publication number
- CN110532304A CN110532304A CN201910843934.4A CN201910843934A CN110532304A CN 110532304 A CN110532304 A CN 110532304A CN 201910843934 A CN201910843934 A CN 201910843934A CN 110532304 A CN110532304 A CN 110532304A
- Authority
- CN
- China
- Prior art keywords
- data
- entity
- similarity
- pending
- pending data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2465—Query processing support for facilitating data mining operations in structured databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/288—Entity relationship models
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例是关于一种数据处理方法及装置、计算机可读存储介质、电子设备,涉及数据处理技术领域,该方法包括:对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合;根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量;根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。本发明实施例提高了相似度计算的准确率。
Description
技术领域
本发明实施例涉及数据处理技术领域,具体而言,涉及一种数据处理方法、数据处理装置、计算机可读存储介质以及电子设备。
背景技术
随着数据采集技术的不断发展,越来越多的异源数据开始涌现;其中,异源数据可以包括来自于不同数据源的数据。因此,对异源数据的利用和分析逐渐成为企业业务和技术上的关键瓶颈。
在现有的对异源数据进行匹配的方案中,大多数是通过匹配数据库中具有相同字段的数据,计算相似度来进行匹配。
但是,上述方案存在如下缺陷:一方面,异源数据往往难以含有完全相同数值的字段,甚至他们的字段不在同一表示空间,无法计算相似度。另一方面,异源数据的表示形式多样,仅仅通过相同字段来进行匹配难以获得精确的相似度值,使得相似度计算结果的准确度较低。
因此,需要提供一种新的数据处理方法及装置。
需要说明的是,在上述背景技术部分发明的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明的目的在于提供一种数据处理方法、数据处理装置、计算机可读存储介质以及电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的相似度计算结果的准确度较低的问题。
根据本公开的一个方面,提供一种数据处理方法,包括:
对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合;
根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量;
根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
在本公开的一种示例性实施例中,所述第一待处理数据中包括多个第一数据实体,所述第二待处理数据中包括多个第二数据实体;
其中,将第二待处理数据添加至各所述数据方格中得到多个相邻集合包括:
根据所述第二待处理数据中的各所述第二数据实体与所述第一待处理数据中的各所述第一数据实体之间的关联关系,将各所述第二数据实体对应添加至各所述数据方格中得到多个所述相邻集合。
在本公开的一种示例性实施例中,根据各所述相邻集合生成多个正样本以及多个负样本包括:
对各所述相邻集合中的第一数据实体以及第二数据实体进行排序得到多个序列,并将各所述序列作为所述正样本;其中,每一个所述序列中均包括所述第一数据实体以及所述第二数据实体;
在任意两个不同的所述相邻集合中随机抽取多个所述第一数据实体以及多个所述第二数据实体,组成多个所述负样本。
在本公开的一种示例性实施例中,根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量包括:
将各所述正样本以及各所述负样本输入至预设网络模型中,得到多个与所述第一待处理数据中包括的第一数据实体对应的第一向量,以及与所述第二待处理数据中包括的第二数据实体对应的第二向量。
在本公开的一种示例性实施例中,根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度包括:
计算各所述第一向量以及第二向量之间的余弦值,并将所述余弦值作为各所述所述第一向量以及第二向量之间的相似度;
根据各所述所述第一向量以及第二向量之间的相似度,得到与各所述第一向量以及第二向量对应的第一数据实体以及第二数据实体之间的相似度;
根据各所述第一数据实体以及第二数据实体之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
在本公开的一种示例性实施例中,在根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度之后,所述数据处理方法还包括:
根据各所述第一数据实体以及第二数据实体之间的相似度的大小,对由所述第一数据实体以及第二数据实体组成的实体对进行排序。
在本公开的一种示例性实施例中,所述数据处理方法还包括:
判断各所述第一数据实体以及第二数据实体之间的相似度是否大于预设阈值;
在判断各所述第一数据实体以及第二数据实体之间的相似度大于预设阈值时,判断由该第一数据实体以及第二数据实体组成的实体对匹配成功。
在本公开的一种示例性实施例中,所述数据处理方法还包括:
根据排序结果计算匹配成功的实体对的数量;
根据所述匹配成功的实体对的数量在所述实体对的总数量中所占的比例,判断所述第一待处理数据以及第二待处理数据是否匹配成功。
根据本公开的一个方面,提供一种数据处理装置,包括:
第一处理模块,用于对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合;
样本生成模块,用于根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量;
第一判断模块,用于根据所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
根据本公开的一个方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的数据处理方法。
根据本公开的一个方面,提供一种电子设备,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的数据处理方法。
本发明实施例一种数据处理方法及装置,一方面,通过对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各数据方格中得到多个相邻集合;然后根据各相邻集合生成多个正样本以及多个负样本,并根据各正样本以及各负样本得到多个与第一待处理数据对应的第一向量以及与第二待处理数据对应的第二向量;最后根据各第一向量以及第二向量之间的相似度,得到第一待处理数据以及第二待处理数据之间的相似度,解决了现有技术中由于异源数据往往难以含有完全相同数值的字段,甚至他们的字段不在同一表示空间,无法计算相似度的问题;另一方面,通过根据各相邻集合生成多个正样本以及多个负样本,并根据各正样本以及各负样本得到多个与第一待处理数据对应的第一向量以及与第二待处理数据对应的第二向量;最后根据各第一向量以及第二向量之间的相似度,得到第一待处理数据以及第二待处理数据之间的相似度,解决了现有技术中由于异源数据的表示形式多样,仅仅通过相同字段来进行匹配难以获得精确的相似度值,使得相似度计算结果的准确度较低的问题,提高了相似度计算结果的准确度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出根据本发明实例实施例的一种数据处理方法的流程图。
图2示意性示出根据本发明实例实施例的一种根据各第一向量以及第二向量之间的相似度,得到第一待处理数据以及第二待处理数据之间的相似度的方法流程图。
图3示意性示出根据本发明实例实施例的另一种数据处理方法的流程图。
图4示意性示出根据本发明实例实施例的另一种数据处理方法的流程图。
图5示意性示出根据本发明实例实施例的一种数据处理装置的框图。
图6示意性示出根据本发明实例实施例的一种用于实现上述数据处理方法的电子设备。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本发明的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本发明的各方面变得模糊。
此外,附图仅为本发明的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本示例实施方式中首先提供了一种数据处理方法,该方法可以运行于服务器、服务器集群或云服务器等,也可以运行于设备终端;当然,本领域技术人员也可以根据需求在其他平台运行本发明的方法,本示例性实施例中对此不做特殊限定。参考图1所示,该数据处理方法可以包括以下步骤:
步骤S110.对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合。
步骤S120.根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量。
步骤S130.根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
上述数据处理方法中,一方面,通过对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各数据方格中得到多个相邻集合;然后根据各相邻集合生成多个正样本以及多个负样本,并根据各正样本以及各负样本得到多个与第一待处理数据对应的第一向量以及与第二待处理数据对应的第二向量;最后根据各第一向量以及第二向量之间的相似度,得到第一待处理数据以及第二待处理数据之间的相似度,解决了现有技术中由于异源数据往往难以含有完全相同数值的字段,甚至他们的字段不在同一表示空间,无法计算相似度的问题;另一方面,通过根据各相邻集合生成多个正样本以及多个负样本,并根据各正样本以及各负样本得到多个与第一待处理数据对应的第一向量以及与第二待处理数据对应的第二向量;最后根据各第一向量以及第二向量之间的相似度,得到第一待处理数据以及第二待处理数据之间的相似度,解决了现有技术中由于异源数据的表示形式多样,仅仅通过相同字段来进行匹配难以获得精确的相似度值,使得相似度计算结果的准确度较低的问题,提高了相似度计算结果的准确度。
以下,将结合附图对本发明示例实施例数据处理方法中的各步骤进行详细的解释以及说明。
在步骤S110中,对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合。
在本示例实施例中,首先,根据第一待处理数据的空间范围对该第一待处理数据进行栅格化得到多个数据方格,其中,该第一待处理数据中包括多个第一数据实体,每一个数据实体可以对应一个数据方格;具体的,可以随机选取一个数据源作为上述第一待处理数据。例如,可以选择数据源a,将a中的数据记做a1,a2,a3,...,am,将数据源a中的所有数据根据其对应的地理位置栅格化为1000米*1000米的方格,每个方格记为g1,g2,g3,...,gm。
此处需要补充说明的是,该方格大小可以改变,具体粒度应随着不同场景,不同地域来做选择;并且,上述栅格化的依据可以根据数据的具体属性进行限定,比如,当获取的数据是以地理位置进行划分的时候,可以根据数据的地理位置进行栅格化;当获取的数据是以时间或者是属性进行划分的时候,可以根据数据的时间或者属性进行栅格化,本示例对此不做特殊限制。
其次,当得到上述多个数据方格后,可以将第二待处理数据添加至各数据方格中得到多个相邻集合;其中,该第二待处理数据中也可以包括多个第二数据实体。具体的,可以根据所述第二待处理数据中的各所述第二数据实体与所述第一待处理数据中的各所述第一数据实体之间的关联关系,将各所述第二数据实体对应添加至各所述数据方格中得到多个所述相邻集合。例如,将数据源b(第二待处理数据)中的第二数据实体对应到上述数据方格中,生成基于数据方格的多个相邻集合。进一步的,可以将对应到g1,g2,g3,...,gm中的数据源b中的数据集合记为N1,N2,N3,...,Nm,其中且
在步骤S120中,根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量。
在本示例实施例中,首先,根据各所述相邻集合生成多个正样本以及多个负样本。具体的,根据各相邻集合生成多个正样本以及多个负样本可以包括:首先,对各所述相邻集合中的第一数据实体以及第二数据实体进行排序得到多个序列,并将各所述序列作为所述正样本;其中,每一个所述序列中均包括所述第一数据实体以及所述第二数据实体;其次,在任意两个不同的所述相邻集合中随机抽取多个所述第一数据实体以及多个所述第二数据实体,组成多个所述负样本。详细而言:
由于每个相邻集合中混合了来自于集合a和集合b中的元素,因此,可以对每个集合的元素按照时间顺序排序,从而得到m个序列,每个序列中包含了来自于a,b数据源中的数据点(实体)。将这m个序列做为正样本序列;然后,在不同的相邻集合中随机抽取a,b中的实体对,并将这些实体对组成的集合作为负样本。
进一步的,当得到正样本以及负样本以后,可以根据各正样本以及各负样本得到多所述第一待处理数据对应的第一向量以所述第二待处理数据对应的第二向量。具体的,将各所述正样本以及各所述负样本输入至预设网络模型中,得到多个与所述第一待处理数据中包括的第一数据实体对应的第一向量,以及与所述第二待处理数据中包括的第二数据实体对应的第二向量。详细而言:
可以将生成的正负样本通过skip-gram模型进行训练,得到a,b数据源中的每一个实体的向量表示,将这些向量表示分别记为v1 a,v2 a,v3 a,...,vm a和v1 b,v2 b,v3 b,...,vm b;它们分别对应原数据a1,a2,a3,...,am和b1,b2,b3,...,bm。此处需要补充说明的是,可以通过其他的模型得到相应的向量,例如可以是LSTM模型等等,本示例对此不做特殊限制。
在步骤S130中,根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
在本示例实施例中,参考图2所示,根据各第一向量以及第二向量之间的相似度,得到第一待处理数据以及第二待处理数据之间的相似度可以包括步骤S210-步骤S230,以下进行详细说明。
在步骤S210中,计算各所述第一向量以及第二向量之间的余弦值,并将所述余弦值作为各所述所述第一向量以及第二向量之间的相似度。
在步骤S220中,根据各所述所述第一向量以及第二向量之间的相似度,得到与各所述第一向量以及第二向量对应的第一数据实体以及第二数据实体之间的相似度。
在步骤S230中,根据各所述第一数据实体以及第二数据实体之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
以下,将对步骤S210-步骤S230进行解释以及说明。具体的,当得到不同数据源的相同空间实体表示以后,可以通过实体相似性计算来得到不同数据源的实体之间的相似性。具体的,可以通过来表示向量对(即实体对(ai,bj))的相似性,相似性的计算方法可以有很多种,在此处计算采用余弦相似度,即:
进一步的,当得到各所述第一数据实体以及第二数据实体之间的相似度以后,可以直接对各第一数据实体以及第二数据实体之间的相似度进行加权平均,进而得到上述第一待处理数据以及第二待处理数据之间的相似度。此处需要补充说明的是,也可以通过向量对之间的欧氏距离来表示相似度,本示例对此不做特殊限制。
图3示意性示出根据本发明示例实施例的另一种数据处理方法的流程图。参考图3所示,该数据处理方法还可以包括步骤S310-步骤S320,以下进行详细说明。
在步骤S310中,判断各所述第一数据实体以及第二数据实体之间的相似度是否大于预设阈值。
在步骤S320中,在判断各所述第一数据实体以及第二数据实体之间的相似度大于预设阈值时,判断由该第一数据实体以及第二数据实体组成的实体对匹配成功。
以下,将对步骤S310以及步骤S320进行解释以及说明。首先,可以判断第一数据实体以及第二数据实体之间的相似度是否大于预设阈值;如果大于预设阈值,则可以判断由第一数据实体以及第二数据实体组成的实体对匹配成功。其中,该预设阈值例如可以是0.7或者0.8等等,本示例对此不做特殊限制。进一步的,当得到各匹配成功的实体对以后,该数据处理方法还可以包括:根据排序结果计算匹配成功的实体对的数量;根据所述匹配成功的实体对的数量在所述实体对的总数量中所占的比例,判断所述第一待处理数据以及第二待处理数据是否匹配成功。
进一步的,该数据处理方法还可以包括:根据各所述第一数据实体以及第二数据实体之间的相似度的大小,对由所述第一数据实体以及第二数据实体组成的实体对进行排序。具体的,可以将所有待匹配的实体对按相似度从高到低进行排序。若待匹配的实体对相似度值大于阈值(阈值应根据实际情况选取,一般取0.7以上较为合适),则为匹配成功。返回所有匹配成功的实体对,则得到最终结果。
以下,结合图4对本发明示例实施例的一种数据处理方法进行进一步的解释以及说明。参考图4所示,该数据处理方法可以包括以下步骤:
步骤S410,对来自异源数据空间的第一待处理数据以及第二待处理数据进行栅格化处理得到多个相邻集合;
步骤S420,按照时间顺序,根据多个相邻集合生成多个正样本以及多个负样本;
步骤S430,根据多个正样本以及多个负样本得到多个第一向量以及第二向量,并根据第一向量以及第二向量得到多个实体对的相似性;
步骤S440,根据实体对的相似性大小对各实体对进行排序,并判断各实体对的相似性是否大于预设阈值;若是,则跳转至步骤S450;若否,则跳转至步骤S460;
步骤S450,根据匹配成功的实体对的数量在所有实体对的数量中所占的比例,判断第一待处理数据以及第二待处理数据是否匹配成功;
步骤S460,结束。
本发明示例实施例提供的数据处理方法,至少具有以下优点:
可以有效地找出异源时空数据中相同的实体。通过异源数据的有效融合,实现对数据的深度挖掘和分析。例如,出于公共安全的需要,某些公共场所如地铁站,重点广场等,需要对人群成分就行监控和分析,传统的监控手段如摄像头等往往难以获取人员的身份特征,无线射频识别等转置虽然可以获取身份信息,但布置起来成本较高,空间限制较大,难以广泛应用。然而,通过将摄像头获取的空间位置信息与手机信令数据中的空间位置信息进行匹配对齐,找到摄像头中人物所对应的手机号,便可以通过摄像头数据获取当前摄像头中人群的手机信息,进而可通过手机信息进行身份分析和鉴别。并且,本发明示例实施例使得不同源的时空数据有效地融合,进而可大大提高数据分析的能力和效率。
本公开还提供了一种数据处理装置。参考图5所示,该数据处理装置可以包括第一处理模块510、样本生成模块520以及第一判断模块530。其中:
第一处理模块510可以用于对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合。
样本生成模块520可以用于根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量。
第一判断模块530可以用于根据所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
在本公开的一种示例实施例中,所述第一待处理数据中包括多个第一数据实体,所述第二待处理数据中包括多个第二数据实体。
其中,将第二待处理数据添加至各所述数据方格中得到多个相邻集合包括:根据所述第二待处理数据中的各所述第二数据实体与所述第一待处理数据中的各所述第一数据实体之间的关联关系,将各所述第二数据实体对应添加至各所述数据方格中得到多个所述相邻集合。
在本公开的一种示例实施例中,根据各所述相邻集合生成多个正样本以及多个负样本包括:
对各所述相邻集合中的第一数据实体以及第二数据实体进行排序得到多个序列,并将各所述序列作为所述正样本;其中,每一个所述序列中均包括所述第一数据实体以及所述第二数据实体;在任意两个不同的所述相邻集合中随机抽取多个所述第一数据实体以及多个所述第二数据实体,组成多个所述负样本。
在本公开的一种示例实施例中,根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量包括:
将各所述正样本以及各所述负样本输入至预设网络模型中,得到多个与所述第一待处理数据中包括的第一数据实体对应的第一向量,以及与所述第二待处理数据中包括的第二数据实体对应的第二向量。
在本公开的一种示例实施例中,根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度包括:
计算各所述第一向量以及第二向量之间的余弦值,并将所述余弦值作为各所述所述第一向量以及第二向量之间的相似度;根据各所述所述第一向量以及第二向量之间的相似度,得到与各所述第一向量以及第二向量对应的第一数据实体以及第二数据实体之间的相似度;根据各所述第一数据实体以及第二数据实体之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
在本公开的一种示例实施例中,所述数据处理装置还包括:
排序模块,可以用于根据各所述第一数据实体以及第二数据实体之间的相似度的大小,对由所述第一数据实体以及第二数据实体组成的实体对进行排序。
在本公开的一种示例实施例中,所述数据处理装置还包括:
第二判断模块,可以用于判断各所述第一数据实体以及第二数据实体之间的相似度是否大于预设阈值。
第三判断模块,可以用于在判断各所述第一数据实体以及第二数据实体之间的相似度大于预设阈值时,判断由该第一数据实体以及第二数据实体组成的实体对匹配成功。
在本公开的一种示例实施例中,其特征在于,所述数据处理装置还包括:
第二处理模块,可以用于根据排序结果计算匹配成功的实体对的数量。
第四判断模块,可以用于根据所述匹配成功的实体对的数量在所述实体对的总数量中所占的比例,判断所述第一待处理数据以及第二待处理数据是否匹配成功。
上述数据处理装置中各模块的具体细节已经在对应的数据处理方法中进行了详细的描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本发明中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图6来描述根据本发明的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:上述至少一个处理单元610、上述至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元610执行,使得所述处理单元610执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元610可以执行如图1中所示的步骤S110:对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合;步骤S120:根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量;步骤S130:根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器660通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
根据本发明的实施方式的用于实现上述方法的程序产品,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里发明的发明后,将容易想到本发明的其他实施例。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未发明的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由权利要求指出。
Claims (11)
1.一种数据处理方法,其特征在于,包括:
对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合;
根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量;
根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
2.根据权利要求1所述的数据处理方法,其特征在于,所述第一待处理数据中包括多个第一数据实体,所述第二待处理数据中包括多个第二数据实体;
其中,将第二待处理数据添加至各所述数据方格中得到多个相邻集合包括:
根据所述第二待处理数据中的各所述第二数据实体与所述第一待处理数据中的各所述第一数据实体之间的关联关系,将各所述第二数据实体对应添加至各所述数据方格中得到多个所述相邻集合。
3.根据权利要求2所述的数据处理方法,其特征在于,根据各所述相邻集合生成多个正样本以及多个负样本包括:
对各所述相邻集合中的第一数据实体以及第二数据实体进行排序得到多个序列,并将各所述序列作为所述正样本;其中,每一个所述序列中均包括所述第一数据实体以及所述第二数据实体;
在任意两个不同的所述相邻集合中随机抽取多个所述第一数据实体以及多个所述第二数据实体,组成多个所述负样本。
4.根据权利要求2所述的数据处理方法,其特征在于,根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量包括:
将各所述正样本以及各所述负样本输入至预设网络模型中,得到多个与所述第一待处理数据中包括的第一数据实体对应的第一向量,以及与所述第二待处理数据中包括的第二数据实体对应的第二向量。
5.根据权利要求4所述的数据处理方法,其特征在于,根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度包括:
计算各所述第一向量以及第二向量之间的余弦值,并将所述余弦值作为各所述所述第一向量以及第二向量之间的相似度;
根据各所述所述第一向量以及第二向量之间的相似度,得到与各所述第一向量以及第二向量对应的第一数据实体以及第二数据实体之间的相似度;
根据各所述第一数据实体以及第二数据实体之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
6.根据权利要求5所述的数据处理方法,其特征在于,在根据各所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度之后,所述数据处理方法还包括:
根据各所述第一数据实体以及第二数据实体之间的相似度的大小,对由所述第一数据实体以及第二数据实体组成的实体对进行排序。
7.根据权利要求6所述的数据处理方法,其特征在于,所述数据处理方法还包括:
判断各所述第一数据实体以及第二数据实体之间的相似度是否大于预设阈值;
在判断各所述第一数据实体以及第二数据实体之间的相似度大于预设阈值时,判断由该第一数据实体以及第二数据实体组成的实体对匹配成功。
8.根据权利要求7所述的数据处理方法,其特征在于,所述数据处理方法还包括:
根据排序结果计算匹配成功的实体对的数量;
根据所述匹配成功的实体对的数量在所述实体对的总数量中所占的比例,判断所述第一待处理数据以及第二待处理数据是否匹配成功。
9.一种数据处理装置,其特征在于,包括:
第一处理模块,用于对第一待处理数据进行处理得到多个数据方格,并将第二待处理数据添加至各所述数据方格中得到多个相邻集合;
样本生成模块,用于根据各所述相邻集合生成多个正样本以及多个负样本,并根据各所述正样本以及各所述负样本得到多个与所述第一待处理数据对应的第一向量以及与所述第二待处理数据对应的第二向量;
第一判断模块,用于根据所述第一向量以及第二向量之间的相似度,得到所述第一待处理数据以及第二待处理数据之间的相似度。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-8任一项所述的数据处理方法。
11.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-8任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910843934.4A CN110532304B (zh) | 2019-09-06 | 2019-09-06 | 数据处理方法及装置、计算机可读存储介质以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910843934.4A CN110532304B (zh) | 2019-09-06 | 2019-09-06 | 数据处理方法及装置、计算机可读存储介质以及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110532304A true CN110532304A (zh) | 2019-12-03 |
CN110532304B CN110532304B (zh) | 2020-11-24 |
Family
ID=68667424
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910843934.4A Active CN110532304B (zh) | 2019-09-06 | 2019-09-06 | 数据处理方法及装置、计算机可读存储介质以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110532304B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113538075A (zh) * | 2020-04-14 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 数据的处理方法、模型的训练方法、装置和设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110040764A1 (en) * | 2007-01-17 | 2011-02-17 | Aptima, Inc. | Method and system to compare data entities |
CN106127305A (zh) * | 2016-06-17 | 2016-11-16 | 中国科学院信息工程研究所 | 一种针对多源异构数据的异源间相似性度量方法 |
CN109739939A (zh) * | 2018-12-29 | 2019-05-10 | 颖投信息科技(上海)有限公司 | 知识图谱的数据融合方法和装置 |
CN109994200A (zh) * | 2019-03-08 | 2019-07-09 | 华南理工大学 | 一种基于相似度融合的多组学癌症数据整合分析方法 |
-
2019
- 2019-09-06 CN CN201910843934.4A patent/CN110532304B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110040764A1 (en) * | 2007-01-17 | 2011-02-17 | Aptima, Inc. | Method and system to compare data entities |
CN106127305A (zh) * | 2016-06-17 | 2016-11-16 | 中国科学院信息工程研究所 | 一种针对多源异构数据的异源间相似性度量方法 |
CN109739939A (zh) * | 2018-12-29 | 2019-05-10 | 颖投信息科技(上海)有限公司 | 知识图谱的数据融合方法和装置 |
CN109994200A (zh) * | 2019-03-08 | 2019-07-09 | 华南理工大学 | 一种基于相似度融合的多组学癌症数据整合分析方法 |
Non-Patent Citations (3)
Title |
---|
JIN CHENG.ETL: "Structural Optimization of a High-Speed Press Considering Multi-Source Uncertainties Based on a New Heterogeneous TOPSIS", 《APPLIED SCIENCES》 * |
侯笑宇等: "结合手机信令数据和地理空间数据的居民职住信息识", 《测绘通报》 * |
王凌阳等: "多源异构数据的实体匹配方法研究", 《计算机工程与应用》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113538075A (zh) * | 2020-04-14 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 数据的处理方法、模型的训练方法、装置和设备 |
Also Published As
Publication number | Publication date |
---|---|
CN110532304B (zh) | 2020-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109491801A (zh) | 微服务访问调度方法、装置、介质及电子设备 | |
CN107273531A (zh) | 电话号码分类识别方法、装置、设备及存储介质 | |
CN104798106A (zh) | 栅格到向量地图转换 | |
EP4138050A1 (en) | Table generating method and apparatus, electronic device, storage medium and product | |
CN109658033A (zh) | 货源路线相似度计算方法、系统、设备及存储介质 | |
CN109408583A (zh) | 数据处理方法及装置、计算机可读存储介质、电子设备 | |
CN113407850B (zh) | 一种虚拟形象的确定和获取方法、装置以及电子设备 | |
CN115455171B (zh) | 文本视频的互检索以及模型训练方法、装置、设备及介质 | |
CN110457339A (zh) | 数据搜索方法及装置、电子设备、存储介质 | |
CN115455161A (zh) | 对话处理方法、装置、电子设备及存储介质 | |
CN114792359A (zh) | 渲染网络训练和虚拟对象渲染方法、装置、设备及介质 | |
WO2019236278A1 (en) | Placing and solving constraints on a 3d environment | |
JP2023143742A (ja) | ポイントクラウド処理モデルのトレーニング方法、ポイントクラウドインスタンス分割方法および装置 | |
CN110135590A (zh) | 信息处理方法、装置、介质及电子设备 | |
CN109190919A (zh) | 零售关键业绩指标生成方法、系统、设备及存储介质 | |
CN112860993A (zh) | 兴趣点的分类方法、装置、设备、存储介质及程序产品 | |
CN110334005A (zh) | 图形数据库筛选方法与装置、存储介质、电子设备 | |
CN110110320A (zh) | 自动合同审查方法、装置、介质以及电子设备 | |
US20180307725A1 (en) | Non-transitory computer-readable storage medium, information output method, and information processing apparatus | |
CN115829058A (zh) | 训练样本处理方法、跨模态匹配方法、装置、设备和介质 | |
CN114360027A (zh) | 一种特征提取网络的训练方法、装置及电子设备 | |
CN110532304A (zh) | 数据处理方法及装置、计算机可读存储介质以及电子设备 | |
US20230217406A1 (en) | Signal processing method and apparatus, device, and storage medium | |
CN110348581B (zh) | 用户特征群中用户特征寻优方法、装置、介质及电子设备 | |
CN109471792A (zh) | 测试控制方法及装置、电子设备、介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |