CN114329236A - 一种数据处理方法及装置 - Google Patents
一种数据处理方法及装置 Download PDFInfo
- Publication number
- CN114329236A CN114329236A CN202011063679.0A CN202011063679A CN114329236A CN 114329236 A CN114329236 A CN 114329236A CN 202011063679 A CN202011063679 A CN 202011063679A CN 114329236 A CN114329236 A CN 114329236A
- Authority
- CN
- China
- Prior art keywords
- poi
- data
- sub
- vector
- name
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种数据处理方法,包括:获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。本申请可以提高POI父子关系识别的准确性。
Description
技术领域
本申请涉及人工智能领域,尤其涉及一种数据处理方法及装置。
背景技术
随着移动通信的发展,智能移动终端以及定位服务越来越普及,定位服务对于人、事物、事件均可通过相应的定位系统、传感网、互联网、通信网等泛在网络被赋予准确的时间和空间戳印,在实时动态获取位置坐标、位置属性、位置关系、位置时间特征等多源异构信息的基础上,通过信息融合等处理,建立语义关系一致、统一时空地理关联的位置服务地图,将在公众位置服务、政府部门决策、舆情态势感知、人群行为特性分析、流行病预测等方面发挥至关重要的作用。
在定位服务中,兴趣点(point of interest,POI)可以在地图中表达地理实体及其位置信息(例如位置坐标、以及地理实体之间的位置关系等)。POI父子关系表达了POI之间的从属关系,作为一种基础的属性关系其在终端电子地图具有重要意义。足够覆盖率的具有父子关系的POI数据不仅能够满足用户在终端检索POI的搜索诉求,并且能够基于父子关系信息优化POI点在终端电子地图的渲染显示效果、优化打车用户被导航精度,POI父子关系的充分挖掘,丰富数据连通性对于构建智慧城市探索也有重要数据意义。
地图厂商提供POI的数据在全量POI数据下具备父子关系的POI覆盖率极低。对于POI的父子关联关系识别在现有的实现中,通常采用字符串匹配,对POI的名称进行分词处理,结合POI的位置信息基于一定规则将POI点对进行匹配,判定规则较为粗糙,属性数据有效利用率低,使得最终POI的父子关联关系的识别结果准确率较低。
发明内容
第一方面,本申请提供了一种数据处理方法,所述方法包括:获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。
本申请实施例中,为了识别第一POI和第二POI之间是否具有POI父子关联关系,服务器可以获取到第一位置兴趣点POI的数据和第二POI的数据,在本申请实施例中,POI指的是电子地图上的某个地标、景点,用以标示出该地所代表的政府部门、各行各业之商业机构(如加油站、百货公司、超市、餐厅、酒店、便利商店、医院等)、旅游景点(如公园、公共厕所等)、古迹名胜、交通设施(如各式车站、停车场、超速照相机、限速标识)等处所。POI的数据则是表示与POI相关的数据,可以描述POI的一些特征(位置、名称、类别等等)。
本申请实施例中,所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式。
应理解,本申请中的“差异度”也可以理解为相似度,所述目标特征向量也可以表示所述第一POI的数据和第二POI的数据之间的相似度,若所述第一POI的数据和第二POI的数据之间的差异度越大,则所述第一POI的数据和第二POI的数据之间的相似度越小,若所述第一POI的数据和第二POI的数据之间的差异度越小,则所述第一POI的数据和第二POI的数据之间的相似度越大。
应理解,第一POI的数据包括的信息为与第一POI相关的信息,第二POI的数据包括的信息为与第二POI相关的信息。以第一POI的数据为例,第一POI的数据可以包括第一POI的名称、第一POI的类型、第一POI的位置信息以及第一POI相关的通讯方式。
本申请实施例中,POI的数据(第一POI的数据以及第二POI的数据)可以是从POI数据库中获取到的,或者是需要更新至POI数据库中的数据。POI名称可以直接从数据库中获取到。
其中,POI类型可以为表示该POI属性类别的信息,例如:教学楼、运动场、酒店、超市等等,本实施例中可以用唯一的标识来指示POI类别。
其中,POI的位置信息可以为地理坐标信息和/或方位角信息,其中地理坐标信息可以是经纬度坐标,方位角信息可以是相对于固定位置的方位角,本实施例中,可以基于POI的POI名称或地理位置信息中的方位角关键字,并基于POI的经纬度坐标计算POI点对相对位置,例如可以以正北作为零度角,据此得出POI的方位角。
其中,POI相关的通讯方式可以为电话号码、传真号码等等,本申请并不限定。
本申请实施例中,所述第一POI的数据和所述第二POI的数据包括相同类型的信息,示例性的,所述第一POI的数据可以包括POI名称、POI类型、POI位置信息以及POI相关的通讯方式,相应的,所述第二POI的数据可以包括POI名称、POI类型、POI位置信息以及POI相关的通讯方式。所述第一POI的数据可以包括POI名称、POI位置信息以及POI相关的通讯方式,相应的,所述第二POI的数据可以包括POI名称、POI位置信息以及POI相关的通讯方式。所述第一POI的数据可以包括POI名称、POI类型、POI位置信息,相应的,所述第二POI的数据可以包括POI名称、POI类型、POI位置信息。
本申请实施例提供了一种数据处理方法,包括:获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。通过上述方法,将POI名称、POI类型、POI位置信息以及POI相关的通讯方式作为入参,得到包含多维信息的目标特征向量,进而使得分类模型可以基于具有更高维度的目标特征向量来确定POI之间是否具有父子关系,提高了POI父子关系识别的准确性。
在一种可能的实现中,所述分类模型包括支持向量机SVM模型或反向传播BP分类模型。其中,对于线性可分,样本较少的情况下可以选择使用SVM模型,随着需要分类的数量的数据量扩大及复杂性提高,当SVM模型的分类效果满足不了需求,可以采用BP分类模型。
在一种可能的实现中,所述POI位置信息包括地理坐标信息和/或方位角信息。
在一种可能的实现中,所述目标特征向量包括多个子向量,其中,每个子向量用于表示所述第一POI的数据和所述第二POI的数据包括的一种类型的信息之间的差异度。
在一种可能的实现中,所述第一POI的数据包括第一POI名称,所述第二POI的数据包括第二POI名称,所述多个子向量包括第一子向量,所述第一子向量用于表示所述第一POI名称与所述第二POI名称之间的差异度;所述根据所述第一POI的数据和第二POI的数据,确定目标特征向量,包括:
通过Simhash算法确定所述第一POI名称和第二POI名称之间的第一差异度;或,确定所述第一POI名称和第二POI名称之间的字符编辑距离为所述第一POI名称和第二POI名称之间的第一差异度;
通过所述第一差异度,生成所述第一子向量。
在一种可能的实现中,所述第一POI的数据包括第一POI类型,所述第二POI的数据包括第二POI类型,所述多个子向量包括第二子向量,所述第二子向量用于表示所述第一POI类型与所述第二POI类型之间的差异度;所述根据所述第一POI的数据和第二POI的数据,确定目标特征向量,包括:
通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度;
通过所述第二差异度,生成所述第二子向量。
在一种可能的实现中,所述第一POI的数据包括第一POI位置信息,所述第二POI的数据包括第二POI位置信息,所述多个子向量包括第三子向量,所述第三子向量用于表示所述第一POI位置信息与所述第二POI位置信息之间的差异度;所述根据所述第一POI的数据和第二POI的数据,确定目标特征向量,包括:
通过距离度量算法和/或方位角度量算法确定所述第一POI位置信息和第二POI位置信息之间的第三差异度;
通过所述第三差异度,生成所述第三子向量。
在一种可能的实现中,所述分类结果包括表示所述第一POI与所述第二POI之间具有POI父子关系的置信度。
第二方面,本申请提供了一种数据处理装置,所述装置包括:
获取模块,用于获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;
特征向量确定模块,用于根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;
分类模块,用于通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。
在一种可能的实现中,所述分类模型包括支持向量机SVM模型或反向传播BP分类模型。
在一种可能的实现中,所述POI位置信息包括地理坐标信息和/或方位角信息。
在一种可能的实现中,所述目标特征向量包括多个子向量,其中,每个子向量用于表示所述第一POI的数据和所述第二POI的数据包括的一种类型的信息之间的差异度。
在一种可能的实现中,所述第一POI的数据包括第一POI名称,所述第二POI的数据包括第二POI名称,所述多个子向量包括第一子向量,所述第一子向量用于表示所述第一POI名称与所述第二POI名称之间的差异度;
所述特征向量确定模块,用于通过Simhash算法确定所述第一POI名称和第二POI名称之间的第一差异度;或,确定所述第一POI名称和第二POI名称之间的字符编辑距离为所述第一POI名称和第二POI名称之间的第一差异度;
通过所述第一差异度,生成所述第一子向量。
在一种可能的实现中,所述第一POI的数据包括第一POI类型,所述第二POI的数据包括第二POI类型,所述多个子向量包括第二子向量,所述第二子向量用于表示所述第一POI类型与所述第二POI类型之间的差异度;
所述特征向量确定模块,用于通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度;
通过所述第二差异度,生成所述第二子向量。
在一种可能的实现中,所述第一POI的数据包括第一POI位置信息,所述第二POI的数据包括第二POI位置信息,所述多个子向量包括第三子向量,所述第三子向量用于表示所述第一POI位置信息与所述第二POI位置信息之间的差异度;
所述特征向量确定模块,用于通过距离度量算法和/或方位角度量算法确定所述第一POI位置信息和第二POI位置信息之间的第三差异度;
通过所述第三差异度,生成所述第三子向量。
在一种可能的实现中,所述分类结果包括表示所述第一POI与所述第二POI之间具有POI父子关系的置信度。
第三方面,本申请实施例提供了一种数据处理装置,可以包括存储器、处理器以及总线系统,其中,存储器用于存储程序,处理器用于执行存储器中的程序,以执行如上述第一方面及其任一可选的方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,当其在计算机上运行时,使得计算机执行上述第一方面及其任一可选的方法。
第五方面,本申请实施例提供了一种计算机程序,当其在计算机上运行时,使得计算机执行上述第一方面及其任一可选的方法。
第六方面,本申请提供了一种芯片系统,该芯片系统包括处理器,用于支持执行设备或训练设备实现上述方面中所涉及的功能,例如,发送或处理上述方法中所涉及的数据;或,信息。在一种可能的设计中,所述芯片系统还包括存储器,所述存储器,用于保存执行设备或训练设备必要的程序指令和数据。该芯片系统,可以由芯片构成,也可以包括芯片和其他分立器件。
本申请实施例提供了一种数据处理方法,包括:获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。通过上述方法,将POI名称、POI类型、POI位置信息以及POI相关的通讯方式作为入参,得到包含多维信息的目标特征向量,进而使得分类模型可以基于具有更高维度的目标特征向量来确定POI之间是否具有父子关系,提高了POI父子关系识别的准确性。
附图说明
图1为本申请实施例提供的一种服务器的结构示意图;
图2a为本申请实施例提供的一种分类方法示意;
图2b为本申请实施例提供的一种分类方法示意;
图2c为本申请实施例提供的一种分类方法示意;
图3a为本申请实施例提供的一种BP分类模型示意;
图3b为本申请实施例提供的一种BP分类模型示意;
图4为本申请实施例提供的一种数据处理方法的流程示意;
图5为本申请实施例提供的一种相似度确定示意;
图6a为本申请实施例提供的一种POI父子关联关系识别示意;
图6b为本申请实施例提供的一种数据处理方法的流程示意;
图7为本申请实施例提供的一种数据处理装置的结构示意图;
图8为本申请实施例提供的执行设备的一种结构示意图;
图9为本申请实施例提供的训练设备一种结构示意图;
图10为本申请实施例提供的芯片的一种结构示意图。
具体实施方式
下面结合本发明实施例中的附图对本发明实施例进行描述。本发明的实施方式部分使用的术语仅用于对本发明的具体实施例进行解释,而非旨在限定本发明。
下面结合附图,对本申请的实施例进行描述。本领域普通技术人员可知,随着技术的发展和新场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换,这仅仅是描述本申请的实施例中对相同属性的对象在描述时所采用的区分方式。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,以便包含一系列单元的过程、方法、系统、产品或设备不必限于那些单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它单元。
在本申请实施例中的方法应用在在一台或多台数据处理装置中,该数据处理装置可以为终端或服务器,通过软件和/或硬件实现获取数据、数据训练和数据融合判断的过程。以服务器为例,请参考图1,是本申请实施例提供的一种服务器结构示意图,本申请实施例中由服务器所执行的步骤可以基于该图1所示的服务器结构。
该服务器100可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,CPU)122(例如,一个或一个以上处理器)和存储器132,一个或一个以上存储应用程序142或数据144的存储介质130(例如一个或一个以上海量存储设备)。其中,存储器132和存储介质130可以是短暂存储或持久存储。存储在存储介质130的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器122可以设置为与存储介质130通信,在服务器100上执行存储介质130中的一系列指令操作。
服务器100还可以包括一个或一个以上电源126,一个或一个以上有线或无线网络接口150,一个或一个以上输入输出接口158,和/或,一个或一个以上操作系统141,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
本申请实施例中,CPU122可以获取到存储介质130中的代码,以执行本申请实施例中的提供的数据处理方法。
由于本申请实施例涉及神经网络的应用,为了便于理解,下面先对本申请实施例涉及的相关术语及神经网络等相关概念进行介绍。
(1)神经网络
神经网络可以是由神经单元组成的,神经单元可以是指以xs和截距1为输入的运算单元,该运算单元的输出可以为:
其中,s=1、2、……n,n为大于1的自然数,Ws为xs的权重,b为神经单元的偏置。f为神经单元的激活函数(activation functions),用于将非线性特性引入神经网络中,来将神经单元中的输入信号转换为输出信号。该激活函数的输出信号可以作为下一层卷积层的输入,激活函数可以是sigmoid函数。神经网络是将多个上述单一的神经单元联结在一起形成的网络,即一个神经单元的输出可以是另一个神经单元的输入。每个神经单元的输入可以与前一层的局部接受域相连,来提取局部接受域的特征,局部接受域可以是由若干个神经单元组成的区域。
(2)支持向量机(support vector machine,SVM)模型
SVM是较为普遍的二分类算法,由于分割,分类时使用空间向量或者空间超平面,对维数较高的向量处理效果会比较好。其中,给定输入数据和学习目标:X={X1,X2…XN},Y={y1,y2},其中输入数据的每个样本都包含多个特征并由此构成特征空间,学习目标为二元变量Y={y1,y2},分别表示结果为正样本和负样本。
(3)线性可分:
如图2a,W·X+b=0表示一个超平面,其中X为超平面上的点,W表示垂直于超平面的一个向量,该超平面可以实现将正负样本完全分割,而与该超平面平行的面有无数个,从中选取两个超平面,分别是:
W·X+b=1;
W·X+b=-1;
这两个超平面到原平面距离相等,分居两边,在计算时,如果输入点计算结果,W·X+b>1,则判定为正样本,如果W·X+b<-1则判定为负样本。
(4)线性不可分
线性可分的情况下,直接用一条直线或者空间平面就可以对划分,而在实际分类过程中,空间点太多,总有一些点零星的分布的别的区域,这种情况一般使用曲线划分或者惩罚函数来解决,惩罚函数越小越好,尽量产生最少划分错误的点。如图2b所示,其示出了曲线划分的情况,图2c示出了惩罚函数引入的示意。
(5)空间映射
上述情况可以满足大部分分类需求,可仍有少部分特殊情况,数据分布非常没有规律,则需要引入空间映射,将x,y坐标平面映射到z坐标,即可实现划分,依次可以类推到多维平面。
(6)反向传播(back propagation,BP)分类模型
BP分类模型是一种多层前馈神经网络,该网络的主要特点是信号的前向传递的同时,误差反向传播,输入信号从输入层经隐含层逐层处理,一直到输出层,每一层的神经元状态只影响下一层神经元状态。如果输出层得到不同的期望输出,则进行反向传播,根据预测误差调整网络权值和阈值,这样不断进行测试训练,最终使得BP分类模型的测试输出无限逼近期望输出为止。BP分类模型的算法流程可以如图3a和图3b所示,其中,X1,X2,…Xn是BP分类模型的输入值,Y1,Y2,…Yn是BP分类模型的预测值,Wij,Wjk成为神经网络的权值或者阈值,图3b呈现的神经元层数为2,每层神经元个数分别为4和3。BP分类模型可以看成是一个非线性函数,网络的输入值和预测值分别为该函数的自变量和因变量,该系统不仅适用于二分类,更适用于多分类,并且对于离散杂乱数据,有很好的处理分类效果。隐含层逻辑为仿人类神经元结构,可以根据样本特征自动调整隐含层的层数和每层神经元个数,直到样本训练得到满意的结果为止。
随着移动通信的发展,智能移动终端以及定位服务越来越普及,定位服务对于人、事物、事件均可通过相应的定位系统、传感网、互联网、通信网等泛在网络被赋予准确的时间和空间戳印。在定位服务中,兴趣点POI在地图中表达地理实体及其位置信息(位置坐标、位置属性、位置关系、位置时间特征)。POI父子关联关系表达了POI之间的从属关系,作为一种基础的属性关系其在终端电子地图具有重要意义,具体的,POI父子关联关系是父POI和子POI之间的关联关系,父POI可以是一个建筑物或者是一个区域(例如学校、广场、商场、机场等等),子POI可以是位于父POI所在的区域之内的POI,用户在进行POI查询时,若在终端输入的为父POI,则终端可以展示父POI的数据以及与该父POI存在POI父子关联关系的子POI相关的数据,例如,父poi可以是北京大学,子POI可以是北京大学北门、北京大学第一食堂、北京大学第一教学楼等。
在一些场景中,地图已经将POI父子关系数据在电子地图终端应用,POI父子关联关系在电子地图场景的应用,可以明显提升用户体验,对于提高产品用户黏度有重要意义。为了识别POI之间是否具备POI父子关联关系,本申请提出了一种数据处理方法,可以提高POI父子关联关系的识别准确度。
本申请实施例提供的数据处理方法,具体可以应用于数据训练、机器学习、深度学习等数据处理方法,对训练数据进行符号化和形式化的智能信息建模、抽取、预处理、训练等,最终得到训练好的神经网络模型(例如分类模型);并且,本申请实施例提供的数据处理方法可以运用上述训练好的神经网络模型,将输入数据(如POI的数据)输入到所述训练好的神经网络模型中,得到输出数据(如分类结果)。需要说明的是,本申请实施例提供的神经网络的训练方法和数据处理方法是基于同一个构思产生的发明,也可以理解为一个系统中的两个部分,或一个整体流程的两个阶段:如模型训练阶段和模型应用阶段。
参照图4,图4为本申请实施例提供的一种数据处理方法的实施例示意,本申请实施例提供的一种数据处理方法可以应用在服务器或终端设备上,如图4示出的那样,本申请实施例提供的一种数据处理方法包括:
401、获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式。
本申请实施例中,为了识别第一POI和第二POI之间是否具有POI父子关联关系,服务器可以获取到第一位置兴趣点POI的数据和第二POI的数据,在本申请实施例中,POI指的是电子地图上的某个地标、景点,用以标示出该地所代表的政府部门、各行各业之商业机构(如加油站、百货公司、超市、餐厅、酒店、便利商店、医院等)、旅游景点(如公园、公共厕所等)、古迹名胜、交通设施(如各式车站、停车场、超速照相机、速限标示)等处所。POI的数据则是表示与POI相关的数据,可以描述POI的一些特征(位置、名称、类别等等)。
本申请实施例中,所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式。
应理解,第一POI的数据包括的信息为与第一POI相关的信息,第二POI的数据包括的信息为与第二POI相关的信息。以第一POI的数据为例,第一POI的数据可以包括第一POI的名称、第一POI的类型、第一POI的位置信息以及第一POI相关的通讯方式。
本申请实施例中,POI的数据(第一POI的数据以及第二POI的数据)可以是从POI数据库中获取到的,或者是需要更新至POI数据库中的数据。POI名称可以直接从数据库中获取到。
其中,POI类型可以为表示该POI属性类别的信息,例如:教学楼、运动场、酒店、超市等等,本实施例中可以用唯一的标识来指示POI类别。
其中,POI的位置信息可以为地理坐标信息和/或方位角信息,其中地理坐标信息可以是经纬度坐标,方位角信息可以是相对于固定位置的方位角,本实施例中,可以基于POI的POI名称或地理位置信息中的方位角关键字,并基于POI的经纬度坐标计算POI点对相对位置,例如可以以正北作为零度角,据此得出POI的方位角。
其中,POI相关的通讯方式可以为电话号码、传真号码等等,本申请并不限定。
本申请实施例中,所述第一POI的数据和所述第二POI的数据包括相同类型的信息,示例性的,所述第一POI的数据可以包括POI名称、POI类型、POI位置信息以及POI相关的通讯方式,相应的,所述第二POI的数据可以包括POI名称、POI类型、POI位置信息以及POI相关的通讯方式。所述第一POI的数据可以包括POI名称、POI位置信息以及POI相关的通讯方式,相应的,所述第二POI的数据可以包括POI名称、POI位置信息以及POI相关的通讯方式。所述第一POI的数据可以包括POI名称、POI类型、POI位置信息,相应的,所述第二POI的数据可以包括POI名称、POI类型、POI位置信息。
402、根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度。
本申请实施例中,服务器在获取到第一POI的数据和第二POI的数据之后,可以根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度。
本申请实施例中,服务器可以对第一POI的数据和第二POI的数据进行处理,将原始的POI的数据的文字信息,按照一定算法转换为一组特定维度的目标特征向量,具体的,可以通过度量公式,将原始的POI的数据转化为表征了POI点对相近程度的目标特征向量。
在一种可能的实现中,所述目标特征向量包括多个子向量,其中,每个子向量用于表示所述第一POI的数据和所述第二POI的数据包括的一种类型的信息之间的差异度。
在一种可能的实现中,所述第一POI的数据包括第一POI名称,所述第二POI的数据包括第二POI名称,所述多个子向量包括第一子向量,所述第一子向量用于表示所述第一POI名称与所述第二POI名称之间的差异度;服务器可以通过Simhash算法确定所述第一POI名称和第二POI名称之间的第一差异度;或,确定所述第一POI名称和第二POI名称之间的字符编辑距离为所述第一POI名称和第二POI名称之间的第一差异度,并通过所述第一差异度,生成所述第一子向量。
例如,第一POI名称为东莞安朴公寓,第二POI名称为公寓北门,则通过Simhash算法可以计算得到第一POI名称和第二POI名称之间的第一差异度为0.78。
在一种可能的实现中,所述第一POI的数据包括第一POI类型,所述第二POI的数据包括第二POI类型,所述多个子向量包括第二子向量,所述第二子向量用于表示所述第一POI类型与所述第二POI类型之间的差异度;进而,服务器可以通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度;通过所述第二差异度,生成所述第二子向量。
在一种实现中,类别相似度度量公式可以为:1-(type1–type2)/max(type1,type2),若通过位移的字符串指示一个POI类别,例如:第一POI的POI类别为type1:702002001,和第二POI的POI类别为type2:7020023000,则服务器可以通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度为1.0。
在一种可能的实现中,所述第一POI的数据包括第一POI位置信息,所述第二POI的数据包括第二POI位置信息,所述多个子向量包括第三子向量,所述第三子向量用于表示所述第一POI位置信息与所述第二POI位置信息之间的差异度;进而,服务器可以通过距离度量算法和/或方位角度量算法确定所述第一POI位置信息和第二POI位置信息之间的第三差异度,并通过所述第三差异度,生成所述第三子向量。
在一种实现中,POI位置信息可以为经纬度,服务器可以将经纬度转为曼哈顿距离,通过两个POI的曼哈顿距离来衡量POI之间的接近程度。例如:第一POI的经纬度为113.85955,22.88718,第二POI的经纬度为113.86103,22.88722,则通过曼哈顿距离度量算法得到第一POI位置信息和第二POI位置信息之间的第三差异度为0.152。
本申请实施例中,可以提取名字或地址中的方位角关键字;基于POI经纬度坐标数据计算POI点对相对位置,以正北作为零度角,据此得出POI点对偏转角度;联合提取到的方位角关键词及计算得到的方位角度基于规则得到归一化方位角度量值例如,第一POI的方位角为正北,第二POI的方位角为13°,则归一化方位角度量值为0.92。
示例性的,可以参照图5,针对于POI名称,可以得到第一相似度为0.78,进而转换为第一子向量为V1,针对于POI类型,可以得到第二相似度为1.0,进而转换为第二子向量为V2,针对于POI的地理位置坐标,可以得到第三相似度为0.152,进而转换为第三子向量为V3,针对于POI的方位角,可以得到第三相似度为0.92。
本申请实施例中以第一POI和第一POI作为一个POI对进行POI父子关联关系识别为例,若对多个POI进行POI父子关联关系识别时,可以将两个POI为一对进行POI父子关联关系识别。例如可以参照图6a,在对多个POI(包括POI1:poi1,poi2,poi3…)进行POI父子关联关系识别时,可以将其中的任两个POI为一对进行POI父子关联关系识别,例如可以得到POI1-poi1、POI1-poi2、POI1-poi3等多个POI对。
403、通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。
本申请实施例中,所述分类结果可以包括表示所述第一POI与所述第二POI之间具有POI父子关系的置信度,可以设置一个阈值,当置信度高于该阈值时,可以认为第一POI与所述第二POI之间具有POI父子关系,当置信度低于该阈值时,可以认为第一POI与所述第二POI之间不具有POI父子关系。
在一种可能的实现中,所述分类模型包括支持向量机SVM模型或反向传播BP分类模型。
接下来介绍一下如何训练分类模型。
在一种实现中,训练设备可以从原始POI的数据中提取潜在可能为父子关系POI数据,并从中提取有用的信息,例如POI名称,POI位置信息,POI类别、POI相关的通讯方式等属性,在获取的数据中,提取已有父子关系对的信息,加上人为标注的正负样本数据,形成最初的具有典型特征的训练集数据。训练设备可以将原始散乱并且独立的POI数据经过关联关系,两两配对,形成POI聚簇,每一组配对关系作为一条数据样例,由预测不同主POI配对的子POI多分类转化为预测无差异POI配对子POI分类问题。训练设备可以对提取的训练集数据进行处理,将原始的名称,地址,类型,经纬度坐标等文字信息,按照一定算法转换为一组特定维度的特征向量。
之后,训练设备可以使用生成的特征向量训练分类模型,分类模型可以是对线性支持较好的SVM模型和对复杂数据支撑较好的BP模型,并不断优化参数,直到训练结果达到一定指标为止,将生成的稳定的分类模型保存待用。
在结果评估上,训练设备可以采用机器评估和/或人工抽样评估。机器评估策略是将原始特定结果的数据集8:2(或者其他比例)分割,将80%作为训练集,20%作为测试集,来查看模型分类的精确度;人工抽样评估则是对结果未知的数据,采用人工抽样的方式,抽取数据评估结果准确率、精确率和召回率。
结果评估需要人为的参与,因为事先并不知道待判断的数据实际关系如何,在人为判断过程,可以综合所有属性来进行全局判断,由于数据量庞大,采用随机抽样的方式进行评估各种参数。在模型训练过程中,亦实现了机器自动评估,由于原始训练集进行了拆分,在已知结果的前提下进行机器评估,节省人力,并且参照评估结果不断优化训练模型。
以一个二分类问题为例,样本有正负两个类别。
那么模型预测的结果和真实标签的组合就有4种:如下表1所示。
表1预测及真实结果矩阵表
其中,TT实际为正样本预测为正样本,TF实际为正样本预测为负样本,FT实际为负样本预测为正样本,FF实际为负样本预测为负样本。
准确率作为一项全局指标,表示预测准确数占实际总数的比例,我们可以单独对正样本计算准确率,也可对负样本计算准确率,也可以计算全局的准确率,准确率计算公式可以为如下的公式:正样本准确率=TT/(TT+TF);负样本准确率=FF/(FF+FT);全局准确率=(TT+FF)/(TT+FT+FF+FT)。
精确率表示某一类数据预测正确数占预测总数的比例。正样本精确率=TT/(TT+FT);负样本精确率=FF/(FT+FF)。
召回率表示某一类型预测准确数和实际总数的比例。正样本召回率=TT/(TT+TF);负样本召回率=FF/(FT+FF)。
预测的结果能够投入使用,则必须要满足精确率为95%以上,召回率方面则是越高越好。
本申请实施例中,对于线性可分,样本较少的情况下可以选择使用SVM模型,随着需要分类的数量的数据量扩大及复杂性提高,当SVM模型的分类效果满足不了需求,可以采用BP分类模型。分类模型可以是SVM模型,SVM模型对二分类的支持效果较好,一旦寻找到最优超平面,即可对数据实现精准快速的分类。在一种实现中,还可以对SVM模型引入惩罚函数、多维空间映射等技术,来适应不同场景的需求。
本申请实施例中,分类模型可以是BP分类模型,BP分类模型对于线性不可分,属性特征比较杂乱的场景支撑较好,在实际训练过程中,会根据实际数据生成的特征值训练分析,输出结果,查看分类结果的各项参数指标,从而选择符合当前数据的最优分类器。在训练BP分类模型过程中,信息可以正向传播,而误差反向传播,并不停的训练,调整隐藏层神经元层数及每层神经元个数,调整隐藏层函数及其他参数,直到训练结果满意为止。
当训练结果达到满意水平之后,正常情况下,随着训练数据的增多,分类模型对数据预测结果越好,最终,将原始确定的数据集全部用来作为训练集使用,训练模型,然后输出稳定的分类模型。
本申请实施例中,将POI两两配对作为一个整体进行处理,将多分类问题转化为二分类问题,基于度量公式,对属性数据进行参数化提取形成多维度的特征向量,减少了训练收敛时间并提升了结果的精确度。
本申请实施例中,将POI父子关系的识别转换为二分类问题,并基于POI名称、POI类型、POI位置信息以及POI相关的通讯方式等多个属性生成多维度特征值,送入分类模型,更多维度的特征向量使得分类器模型能够更加稳定、更快收敛,减少训练数据量偏少带来的负向影响。
且相较于以往基于规则判断识别POI父子关系,得出POI父子关系是/否判定结果,本申请实施例通过置信度方式表征POI父子关系强弱程度,更有利于终端电子地图的渲染及搜索的效果优化。
本实施例中,在得到训练好的分类模型之后,可以通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。分类模型可以识别出第一POI的数据与第二POI的数据之间的相似度,在相似度较高(超过某一预先设定的阈值)时,分类模型输出的分类结果可以指示所述第一POI与所述第二POI之间具有POI父子关系,在相似度较低(未超过某一预先设定的阈值)时,分类模型输出的分类结果可以指示所述第一POI与所述第二POI之间不具有POI父子关系。
参照图6b,图6b为本申请实施例提供的一种数据处理方法的流程示意,如图6b所示,数据处理方法可以包括数据采集、数据处理、模型训练、数据预测、以及结果评估等多个模块。其中,数据采集模块可以从原始POI的数据中提取潜在可能为父子关系POI数据,并从中提取有用的信息,例如POI名称,POI位置信息,POI类别、POI相关的通讯方式等属性,在获取的数据中,提取已有父子关系对的信息,加上人为标注的正负样本数据,形成最初的具有典型特征的训练集数据。数据处理模块可以对数据采集模块采集到的POI数据进行属性信息分析,并选定属性度量的标准,计算度量值形成特征向量,具体可以参照步骤402中描述的关于目标特征向量的确定相关的描述,这里不再赘述。模型训练模块可以对数据处理模块生成的特征向量进行分类模型的训练,分类模型可以是对线性支持较好的SVM模型和对复杂数据支撑较好的BP模型,在训练得到稳定的分类模型之后,可以基于分类模型进行数据预测(或称之为数据分类),具体的,可以加载稳定模型,并将待分类的数据集和训练完成的稳定模型作为输入信息,之后进行属性信息分析、计算特征向量以及预测结果并输出。结果评估需要人为的参与,因为事先并不知道待判断的数据实际关系如何,在人为判断过程,需要综合所有属性来进行全局判断,由于数据量庞大,可以采用随机抽样的方式进行评估各种参数。在模型训练过程中,亦实现了机器自动评估,由于原始训练集进行了拆分,在已知结果的前提下进行机器评估,节省人力,并且参照评估结果不断优化分类模型。
本申请实施例提供了一种数据处理方法,包括:获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。通过上述方法,将POI名称、POI类型、POI位置信息以及POI相关的通讯方式作为入参,得到包含多维信息的目标特征向量,进而使得分类模型可以基于具有更高维度的目标特征向量来确定POI之间是否具有父子关系,提高了POI父子关系识别的准确性。
参照图7,图7为本申请实施例提供的一种数据处理装置700的示意,如图7中示出的那样,本申请提供的数据处理装置700包括:
获取模块701,用于获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;
特征向量确定模块702,用于根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;
分类模块703,用于通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。
在一种可能的实现中,所述分类模型包括支持向量机SVM模型或反向传播BP分类模型。
在一种可能的实现中,所述POI位置信息包括地理坐标信息和/或方位角信息。
在一种可能的实现中,所述目标特征向量包括多个子向量,其中,每个子向量用于表示所述第一POI的数据和所述第二POI的数据包括的一种类型的信息之间的差异度。
在一种可能的实现中,所述第一POI的数据包括第一POI名称,所述第二POI的数据包括第二POI名称,所述多个子向量包括第一子向量,所述第一子向量用于表示所述第一POI名称与所述第二POI名称之间的差异度;
所述特征向量确定模块,用于通过Simhash算法确定所述第一POI名称和第二POI名称之间的第一差异度;或,确定所述第一POI名称和第二POI名称之间的字符编辑距离为所述第一POI名称和第二POI名称之间的第一差异度;
通过所述第一差异度,生成所述第一子向量。
在一种可能的实现中,所述第一POI的数据包括第一POI类型,所述第二POI的数据包括第二POI类型,所述多个子向量包括第二子向量,所述第二子向量用于表示所述第一POI类型与所述第二POI类型之间的差异度;
所述特征向量确定模块,用于通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度;
通过所述第二差异度,生成所述第二子向量。
在一种可能的实现中,所述第一POI的数据包括第一POI位置信息,所述第二POI的数据包括第二POI位置信息,所述多个子向量包括第三子向量,所述第三子向量用于表示所述第一POI位置信息与所述第二POI位置信息之间的差异度;
所述特征向量确定模块,用于通过距离度量算法和/或方位角度量算法确定所述第一POI位置信息和第二POI位置信息之间的第三差异度;
通过所述第三差异度,生成所述第三子向量。
在一种可能的实现中,所述分类结果包括表示所述第一POI与所述第二POI之间具有POI父子关系的置信度。
接下来介绍本申请实施例提供的一种执行设备,请参阅图8,图8为本申请实施例提供的执行设备的一种结构示意图,执行设备800具体可以表现为手机、平板、笔记本电脑、智能穿戴设备、服务器等,此处不做限定。其中,执行设备800上可以部署有图10对应实施例中所描述的数据处理装置,用于实现图10对应实施例中数据处理的功能。具体的,执行设备800包括:接收器801、发射器802、处理器803和存储器804(其中执行设备800中的处理器803的数量可以一个或多个,图8中以一个处理器为例),其中,处理器803可以包括应用处理器8031和通信处理器8032。在本申请的一些实施例中,接收器801、发射器802、处理器803和存储器804可通过总线或其它方式连接。
存储器804可以包括只读存储器和随机存取存储器,并向处理器803提供指令和数据。存储器804的一部分还可以包括非易失性随机存取存储器(non-volatile randomaccess memory,NVRAM)。存储器804存储有处理器和操作指令、可执行模块或者数据结构,或者它们的子集,或者它们的扩展集,其中,操作指令可包括各种操作指令,用于实现各种操作。
处理器803控制执行设备的操作。具体的应用中,执行设备的各个组件通过总线系统耦合在一起,其中总线系统除包括数据总线之外,还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见,在图中将各种总线都称为总线系统。
上述本申请实施例揭示的方法可以应用于处理器803中,或者由处理器803实现。处理器803可以是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器803中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器803可以是通用处理器、数字信号处理器(digital signal processing,DSP)、微处理器或微控制器,还可进一步包括专用集成电路(application specific integratedcircuit,ASIC)、现场可编程门阵列(field-programmable gate array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。该处理器803可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器804,处理器803读取存储器804中的信息,结合其硬件完成上述方法的步骤。
接收器801可用于接收输入的数字或字符信息,以及产生与执行设备的相关设置以及功能控制有关的信号输入。发射器802可用于通过第一接口输出数字或字符信息;发射器802还可用于通过第一接口向磁盘组发送指令,以修改磁盘组中的数据;发射器802还可以包括显示屏等显示设备。
本申请实施例中,在一种情况下,处理器803,用于执行图4对应实施例中的服务器执行的数据处理方法。
本申请实施例还提供了一种训练设备,请参阅图9,图9是本申请实施例提供的训练设备一种结构示意图,具体的,训练设备900由一个或多个服务器实现,训练设备900可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(centralprocessing units,CPU)99(例如,一个或一个以上处理器)和存储器932,一个或一个以上存储应用程序942或数据944的存储介质930(例如一个或一个以上海量存储设备)。其中,存储器932和存储介质930可以是短暂存储或持久存储。存储在存储介质930的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对训练设备中的一系列指令操作。更进一步地,中央处理器99可以设置为与存储介质930通信,在训练设备900上执行存储介质930中的一系列指令操作。
训练设备900还可以包括一个或一个以上电源926,一个或一个以上有线或无线网络接口950,一个或一个以上输入输出接口958;或,一个或一个以上操作系统941,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
具体的,训练设备可以执行上述实施例中关于分类模型的训练方法。
本申请实施例中还提供一种包括计算机程序产品,当其在计算机上运行时,使得计算机执行如前述执行设备所执行的步骤,或者,使得计算机执行如前述训练设备所执行的步骤。
本申请实施例中还提供一种计算机可读存储介质,该计算机可读存储介质中存储有用于进行信号处理的程序,当其在计算机上运行时,使得计算机执行如前述执行设备所执行的步骤,或者,使得计算机执行如前述训练设备所执行的步骤。
本申请实施例提供的执行设备、训练设备或终端设备具体可以为芯片,芯片包括:处理单元和通信单元,所述处理单元例如可以是处理器,所述通信单元例如可以是输入/输出接口、管脚或电路等。该处理单元可执行存储单元存储的计算机执行指令,以使执行设备内的芯片执行上述实施例描述的数据处理方法,或者,以使训练设备内的芯片执行上述实施例描述的数据处理方法。可选地,所述存储单元为所述芯片内的存储单元,如寄存器、缓存等,所述存储单元还可以是所述无线接入设备端内的位于所述芯片外部的存储单元,如只读存储器(read-only memory,ROM)或可存储静态信息和指令的其他类型的静态存储设备,随机存取存储器(random access memory,RAM)等。
具体的,请参阅图10,图10为本申请实施例提供的芯片的一种结构示意图,所述芯片可以表现为神经网络处理器NPU 1000,NPU 1000作为协处理器挂载到主CPU(Host CPU)上,由Host CPU分配任务。NPU的核心部分为运算电路1003,通过控制器1004控制运算电路1003提取存储器中的矩阵数据并进行乘法运算。
在一些实现中,运算电路1003内部包括多个处理单元(Process Engine,PE)。在一些实现中,运算电路1003是二维脉动阵列。运算电路1003还可以是一维脉动阵列或者能够执行例如乘法和加法这样的数学运算的其它电子线路。在一些实现中,运算电路1003是通用的矩阵处理器。
举例来说,假设有输入矩阵A,权重矩阵B,输出矩阵C。运算电路从权重存储器1002中取矩阵B相应的数据,并缓存在运算电路中每一个PE上。运算电路从输入存储器1001中取矩阵A数据与矩阵B进行矩阵运算,得到的矩阵的部分结果或最终结果,保存在累加器(accumulator)1008中。
统一存储器1006用于存放输入数据以及输出数据。权重数据直接通过存储单元访问控制器(Direct Memory Access Controller,DMAC)1005,DMAC被搬运到权重存储器1002中。输入数据也通过DMAC被搬运到统一存储器1006中。
BIU为Bus Interface Unit即,总线接口单元1010,用于AXI总线与DMAC和取指存储器(Instruction Fetch Buffer,IFB)1009的交互。
总线接口单元1010(Bus Interface Unit,简称BIU),用于取指存储器1009从外部存储器获取指令,还用于存储单元访问控制器1005从外部存储器获取输入矩阵A或者权重矩阵B的原数据。
DMAC主要用于将外部存储器DDR中的输入数据搬运到统一存储器1006或将权重数据搬运到权重存储器1002中或将输入数据数据搬运到输入存储器1001中。
向量计算单元1007包括多个运算处理单元,在需要的情况下,对运算电路1003的输出做进一步处理,如向量乘,向量加,指数运算,对数运算,大小比较等等。主要用于神经网络中非卷积/全连接层网络计算,如Batch Normalization(批归一化),像素级求和,对特征平面进行上采样等。
在一些实现中,向量计算单元1007能将经处理的输出的向量存储到统一存储器1006。例如,向量计算单元1007可以将线性函数;或,非线性函数应用到运算电路1003的输出,例如对卷积层提取的特征平面进行线性插值,再例如累加值的向量,用以生成激活值。在一些实现中,向量计算单元1007生成归一化的值、像素级求和的值,或二者均有。在一些实现中,处理过的输出的向量能够用作到运算电路1003的激活输入,例如用于在神经网络中的后续层中的使用。
控制器1004连接的取指存储器(instruction fetch buffer)1009,用于存储控制器1004使用的指令;
统一存储器1006,输入存储器1001,权重存储器1002以及取指存储器1009均为On-Chip存储器。外部存储器私有于该NPU硬件架构。
其中,上述任一处提到的处理器,可以是一个通用中央处理器,微处理器,ASIC,或一个或多个用于控制上述程序执行的集成电路。
另外需说明的是,以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。另外,本申请提供的装置实施例附图中,模块之间的连接关系表示它们之间具有通信连接,具体可以实现为一条或多条通信总线或信号线。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件的方式来实现,当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现。一般情况下,凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现,而且,用来实现同一功能的具体硬件结构也可以是多种多样的,例如模拟电路、数字电路或专用电路等。但是,对本申请而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在可读取的存储介质中,如计算机的软盘、U盘、移动硬盘、ROM、RAM、磁碟或者光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,训练设备,或者网络设备等)执行本申请各个实施例所述的方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。
所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、训练设备或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、训练设备或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的训练设备、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘(Solid State Disk,SSD))等。
Claims (18)
1.一种数据处理方法,其特征在于,所述方法包括:
获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;
根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;
通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。
2.根据权利要求1所述的方法,其特征在于,所述分类模型包括支持向量机SVM模型或反向传播BP分类模型。
3.根据权利要求1或2所述的方法,其特征在于,所述POI位置信息包括地理坐标信息和/或方位角信息。
4.根据权利要求1至3任一所述的方法,其特征在于,所述目标特征向量包括多个子向量,其中,每个子向量用于表示所述第一POI的数据和所述第二POI的数据包括的一种类型的信息之间的差异度。
5.根据权利要求4所述的方法,其特征在于,所述第一POI的数据包括第一POI名称,所述第二POI的数据包括第二POI名称,所述多个子向量包括第一子向量,所述第一子向量用于表示所述第一POI名称与所述第二POI名称之间的差异度;所述根据所述第一POI的数据和第二POI的数据,确定目标特征向量,包括:
通过Simhash算法确定所述第一POI名称和第二POI名称之间的第一差异度;或,确定所述第一POI名称和第二POI名称之间的字符编辑距离为所述第一POI名称和第二POI名称之间的第一差异度;
通过所述第一差异度,生成所述第一子向量。
6.根据权利要求4或5所述的方法,其特征在于,所述第一POI的数据包括第一POI类型,所述第二POI的数据包括第二POI类型,所述多个子向量包括第二子向量,所述第二子向量用于表示所述第一POI类型与所述第二POI类型之间的差异度;所述根据所述第一POI的数据和第二POI的数据,确定目标特征向量,包括:
通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度;
通过所述第二差异度,生成所述第二子向量。
7.根据权利要求4至6任一所述的方法,其特征在于,所述第一POI的数据包括第一POI位置信息,所述第二POI的数据包括第二POI位置信息,所述多个子向量包括第三子向量,所述第三子向量用于表示所述第一POI位置信息与所述第二POI位置信息之间的差异度;所述根据所述第一POI的数据和第二POI的数据,确定目标特征向量,包括:
通过距离度量算法和/或方位角度量算法确定所述第一POI位置信息和第二POI位置信息之间的第三差异度;
通过所述第三差异度,生成所述第三子向量。
8.根据权利要求1至7任一所述的方法,其特征在于,所述分类结果包括表示所述第一POI与所述第二POI之间具有POI父子关系的置信度。
9.一种数据处理装置,其特征在于,所述装置包括:
获取模块,用于获取第一位置兴趣点POI的数据和第二POI的数据;所述第一POI的数据和所述第二POI的数据包括相同类型的信息,且所述第一POI的数据和所述第二POI的数据至少包括如下类型的信息的至少一种:POI名称、POI类型、POI位置信息以及POI相关的通讯方式;
特征向量确定模块,用于根据所述第一POI的数据和第二POI的数据,确定目标特征向量,所述目标特征向量用于表示所述第一POI的数据和第二POI的数据之间的差异度;
分类模块,用于通过预先训练好的分类模型对所述目标特征向量进行处理,以得到分类结果,所述分类结果用于指示所述第一POI与所述第二POI之间是否具有POI父子关系。
10.根据权利要求9所述的装置,其特征在于,所述分类模型包括支持向量机SVM模型或反向传播BP分类模型。
11.根据权利要求9或10所述的装置,其特征在于,所述POI位置信息包括地理坐标信息和/或方位角信息。
12.根据权利要求9至11任一所述的装置,其特征在于,所述目标特征向量包括多个子向量,其中,每个子向量用于表示所述第一POI的数据和所述第二POI的数据包括的一种类型的信息之间的差异度。
13.根据权利要求12所述的装置,其特征在于,所述第一POI的数据包括第一POI名称,所述第二POI的数据包括第二POI名称,所述多个子向量包括第一子向量,所述第一子向量用于表示所述第一POI名称与所述第二POI名称之间的差异度;
所述特征向量确定模块,用于通过Simhash算法确定所述第一POI名称和第二POI名称之间的第一差异度;或,确定所述第一POI名称和第二POI名称之间的字符编辑距离为所述第一POI名称和第二POI名称之间的第一差异度;
通过所述第一差异度,生成所述第一子向量。
14.根据权利要求12或13所述的装置,其特征在于,所述第一POI的数据包括第一POI类型,所述第二POI的数据包括第二POI类型,所述多个子向量包括第二子向量,所述第二子向量用于表示所述第一POI类型与所述第二POI类型之间的差异度;
所述特征向量确定模块,用于通过类别相似度度量算法确定所述第一POI类型和第二POI类型之间的第二差异度;
通过所述第二差异度,生成所述第二子向量。
15.根据权利要求12至14任一所述的装置,其特征在于,所述第一POI的数据包括第一POI位置信息,所述第二POI的数据包括第二POI位置信息,所述多个子向量包括第三子向量,所述第三子向量用于表示所述第一POI位置信息与所述第二POI位置信息之间的差异度;
所述特征向量确定模块,用于通过距离度量算法和/或方位角度量算法确定所述第一POI位置信息和第二POI位置信息之间的第三差异度;
通过所述第三差异度,生成所述第三子向量。
16.根据权利要求9至15任一所述的装置,其特征在于,所述分类结果包括表示所述第一POI与所述第二POI之间具有POI父子关系的置信度。
17.一种数据处理装置,其特征在于,所述装置包括存储器和处理器;所述存储器存储有代码,所述处理器被配置为获取所述代码,并执行如权利要求1至8任一所述的方法。
18.一种计算机存储介质,其特征在于,所述计算机存储介质存储有一个或多个指令,所述指令在由一个或多个计算机执行时使得所述一个或多个计算机实施权利要求1至8任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011063679.0A CN114329236A (zh) | 2020-09-30 | 2020-09-30 | 一种数据处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011063679.0A CN114329236A (zh) | 2020-09-30 | 2020-09-30 | 一种数据处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114329236A true CN114329236A (zh) | 2022-04-12 |
Family
ID=81032182
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011063679.0A Pending CN114329236A (zh) | 2020-09-30 | 2020-09-30 | 一种数据处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114329236A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114970741A (zh) * | 2022-06-15 | 2022-08-30 | 北京百度网讯科技有限公司 | 数据处理方法、装置及电子设备 |
CN114970741B (zh) * | 2022-06-15 | 2024-06-28 | 北京百度网讯科技有限公司 | 数据处理方法、装置及电子设备 |
-
2020
- 2020-09-30 CN CN202011063679.0A patent/CN114329236A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114970741A (zh) * | 2022-06-15 | 2022-08-30 | 北京百度网讯科技有限公司 | 数据处理方法、装置及电子设备 |
CN114970741B (zh) * | 2022-06-15 | 2024-06-28 | 北京百度网讯科技有限公司 | 数据处理方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109145219B (zh) | 基于互联网文本挖掘的兴趣点有效性判断方法和装置 | |
US11238065B1 (en) | Systems and methods for generating and implementing knowledge graphs for knowledge representation and analysis | |
CN111274811B (zh) | 地址文本相似度确定方法以及地址搜索方法 | |
US11698261B2 (en) | Method, apparatus, computer device and storage medium for determining POI alias | |
CN111782921A (zh) | 检索目标的方法和装置 | |
CN110795527B (zh) | 候选实体排序方法、训练方法及相关装置 | |
CN110147421B (zh) | 一种目标实体链接方法、装置、设备及存储介质 | |
US10068178B2 (en) | Methods and system for associating locations with annotations | |
CN111881377A (zh) | 位置兴趣点的处理方法及装置 | |
CN111666292B (zh) | 用于检索地理位置的相似度模型建立方法和装置 | |
CN111553279B (zh) | 兴趣点的表征学习、识别方法、装置、设备及存储介质 | |
US11893073B2 (en) | Method and apparatus for displaying map points of interest, and electronic device | |
CN113947147A (zh) | 目标地图模型的训练方法、定位方法及相关装置 | |
WO2023185925A1 (zh) | 一种数据处理方法及相关装置 | |
CN114579882A (zh) | 地址查询方法、获取地理编码预测模型的方法及对应装置 | |
CN110083677B (zh) | 联系人的搜索方法、装置、设备及存储介质 | |
CN110674208B (zh) | 用于确定用户的职住地信息的方法和装置 | |
Zhang et al. | Automatic latent street type discovery from web open data | |
CN113139110B (zh) | 区域特征处理方法、装置、设备、存储介质和程序产品 | |
CN112131884B (zh) | 用于实体分类的方法和装置、用于实体呈现的方法和装置 | |
JP2022541832A (ja) | 画像を検索するための方法及び装置 | |
CN111143534A (zh) | 基于人工智能的品牌名的提取方法、装置及存储介质 | |
CN112861474B (zh) | 一种信息标注方法、装置、设备及计算机可读存储介质 | |
CN107766881B (zh) | 一种基于基础分类器的寻路方法、设备及存储设备 | |
CN114925680A (zh) | 物流兴趣点信息生成方法、装置、设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |