CN110109917A - 一种数据的处理方法及装置 - Google Patents
一种数据的处理方法及装置 Download PDFInfo
- Publication number
- CN110109917A CN110109917A CN201810101953.5A CN201810101953A CN110109917A CN 110109917 A CN110109917 A CN 110109917A CN 201810101953 A CN201810101953 A CN 201810101953A CN 110109917 A CN110109917 A CN 110109917A
- Authority
- CN
- China
- Prior art keywords
- data
- scale
- index
- management
- analytical calculation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 26
- 238000003672 processing method Methods 0.000 title claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 183
- 238000004364 calculation method Methods 0.000 claims abstract description 138
- 238000007726 management method Methods 0.000 claims abstract description 78
- 238000004458 analytical method Methods 0.000 claims abstract description 64
- 238000003860 storage Methods 0.000 claims abstract description 44
- 238000013523 data management Methods 0.000 claims abstract description 38
- 230000005540 biological transmission Effects 0.000 claims abstract description 37
- 238000004141 dimensional analysis Methods 0.000 claims abstract description 22
- 238000013500 data storage Methods 0.000 claims abstract description 20
- 230000000750 progressive effect Effects 0.000 claims abstract description 17
- 238000007405 data analysis Methods 0.000 claims description 9
- 230000003321 amplification Effects 0.000 claims description 4
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 4
- 238000007621 cluster analysis Methods 0.000 claims description 3
- 235000013399 edible fruits Nutrition 0.000 claims description 3
- 238000010438 heat treatment Methods 0.000 claims description 3
- 108700002783 roundabout Proteins 0.000 claims description 3
- 241000208340 Araliaceae Species 0.000 claims 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims 1
- 235000003140 Panax quinquefolius Nutrition 0.000 claims 1
- 235000008434 ginseng Nutrition 0.000 claims 1
- 238000012732 spatial analysis Methods 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 210000003739 neck Anatomy 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000013439 planning Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
Abstract
本发明公开了数据的处理方法及装置,该方法包括:设定数据的尺度;根据所述的数据的尺度分析计算数据之间的相互关系;按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。根据不同的处理类型,公开了数据管理和存储的方法;建立索引和分析管理数据方法;依据索引的数据管理和存储的方法;数据显示的方法;数据分析计算的方法;数据渐进传输的方法。本发明实施例公开的数据的处理方法,有效地解决了海量数据的处理过程中服务器端、传输网络及客户端的数据的检索、读取、传输、显示和空间关系计算、空间分析等的性能瓶颈问题。通过索引解决了数据的有限与无限、宏观与微观、复杂与简单之间的统一,通过索引解决了数据的检索、存储、读取、传输、显示、分析计算、分布式管理与运算的功能和性能的问题。
Description
技术领域
本发明涉及空间信息技术、计算机图形学、虚拟现实技术和计算机操作系统等领域,尤其涉及数据的处理方法及装置。
背景技术
宏观与微观是互为对应的概念,通常用尺度来表示。数据的尺度分为客观存在的本征尺度与主观设定的非本征尺度。例如,地理研究对象的微观与宏观,以地理本征时空尺度为基础;地理研究视野的微观与宏观,以地理非本征时空尺度为基础。在GIS里体现为空间数据所反映的是客观存在的本征的宏观与微观,电子地图的显示、空间分析计算所反映的是主观设定的非本征的宏观与微观。现有的方法在数据的组织、存储、索引、空间关系的分析计算等方面,一直不能解决客观存在的本征尺度与主观设定的非本征尺度之间的统一的问题,比如地图和数据之间、地图和数据的坐标点之间、甚至是和坐标点的数据位之间的对立统一,地图在不同的比例尺下,需要的数据不同,需要的数据的坐标点,以及坐标点的数据位都是不一样的,现有的方法一直解决不了这些问题。为了解决海量空间数据对服务器、传输、显示造成的压力,最终不得不采用服务器对空间数据进行预处理,先按照特定的专题样式渲染成一张地图图片,再按照金字塔结构的格网将地图切割成不同层级的栅格图片,对每个层级的切片进行编码,确定切片所具有的唯一索引值。当客户端通过放大、缩小来浏览空间数据时,客户端可以根据当前显示范围的坐标,按照相应的切片索引标准,直接计算出相应的切片索引并发送给服务器,服务器将相应的切片数据传输到客户端进行显示。虽然解决了地图显示时客观存在的本征尺度与主观设定的非本征尺度之间的部分统一,解决了地图显示的性能瓶颈,但是让系统的其他功能都不能实现了,反而制造了更多的、新的瓶颈问题。
分辨率,泛指量测或显示系统对细节的分辨能力。全国科学技术名词审定委员会审定公布的分辨率的定义是:分辨物理量细节的能力。
随着科学技术的不断进步,空间技术的快速发展和广泛应用,计算机图形学、虚拟现实、城市规划、文物修复、动画游戏、计算机辅助设计、地理信息系统、医学图形等以空间实体为基础的应用领域得到快速发展,数据呈爆炸式增长,海量数据的压缩、传输、显示、分析已经成了制约这些行业发展的主要的技术瓶颈。
从屏幕的数据显示的角度来看,屏幕的尺度、像素的尺度都是有限的,数据显示在电子屏幕的像素上,能看到的像素的个数是有限的,而每个像素在某一时刻只能显示一个数据,也就是说某个屏幕上能显示出来的数据的最大值是不变的,和有多么无限的数据无关,只和屏幕的分辨率有关。
(1)绘制,只将能最终被看到的数据进行绘制,则解决了显示效率同数据量之间的矛盾。
(2)传输,只将这些数据通过网络传输到前端,则解决了网络带宽同数据量之间的矛盾。
(3)读取,只读这些数据,并且这些数据集中在一个文件中存储,则解决了磁盘读取的压力。
(4)查询,只读这些数据的关键是索引只查出了这些数据,而且是请求数据的客户端自己根据索引进行查询检索,数据在服务器端根据索引的索引项进行分布式存储,客户端通过索引就已经检索出所要读取的数据文件中的数据块,对服务器没有数据查询的压力。而且索引的数据量要足够小,并且不能随着数据量的增长而成比例的增长,否则到了一定的数据量,索引的网络传输就是瓶颈。
所有的问题统一为索引的问题,只要把索引的问题解决了其他的瓶颈问题就可以迎刃而解,而上述索引所要解决的问题是要有切片索引的所有优点,但是能将数据根据空间关系分开进行分布式存储,而不是将数据切开后分布式存储,通过索引实现简单和复杂的统一,即以简单的索引关系来实现任意复杂的空间数据的组织、管理、存储、查询、传输、显示和分析。
索引通过非本征尺度和本征尺度的统一,解决数据读取、传输、显示、分析计算等用户在不同尺度下(非本征尺度)查看部分与整体、宏观与微观的数据,在不同尺度下对数据进行分析计算的性能问题,解决有限与无限之间的对立,即数据的本征尺度和主观设定的非本征尺度融合,从宏观的数据集的数据,到组成数据最小的数据位的数据都能反映主观设定的非本征尺和数据本征尺度的统一。
索引通过尺度实现数据之间空间关系的简单与复杂的统一,解决数据的存储、读取、分析计算的功能(功能能否实现的问题,如实现将数据分开而不是先有技术的切开存储)和性能的问题。不同的尺度下数据之间的空间关系呈现出简单与复杂,比如在大尺度下数据之间的空间关系简单到只需要考虑重合与不重合,然后确定哪些数据放在索引的索引项中建立子索引进行管理,小尺度下数据之间的空间关系表现为包含、相交、相切等复杂的空间关系,则将这些数据可以放在索引的数据项中直接管理,不再建立子索引管理,索引中不同的数据项作为数据管理的数据块、数据库管理的数据记录、文件等存储于内存、硬盘等各种存储设备之中。
索引通过尺度将数据中对应于不同尺度的数据进行统一进行查询、管理、存储、分析计算,比如对宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据都通过索引中不同的尺度进行统一管理、分析、运算等等。
发明内容
有鉴于此,本发明提供一种数据的处理方法及装置。其具体方案如下:
一种数据的处理方法,包括:
设定数据的尺度;
根据所述的数据的尺度分析计算数据之间的相互关系;
按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。
优选的,所述设定数据的尺度的过程包括:
所述的数据包括但不限于宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据;
所述数据的尺度是表示数据的宏观与微观的变量,对于数据,尺度越大相对于尺度小而言就越宏观,尺度越小相对于尺度大而言就越微观。
优选的,所述设定数据的尺度的过程包括:
所述数据的尺度包括但不限于数据本身的空间尺度、时间尺度。
优选的,所述设定数据的尺度的过程包括:
所述数据的尺度包括但不限于观察数据的尺度,如空间数据进行计算机显示时的放大比例;
空间数据的尺度包括但不限于空间数据的分辨率。
优选的,所述设定数据的尺度的过程包括:
所述的设定数据的尺度包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度。
优选的,所述根据所述的数据的尺度分析计算数据之间的相互关系的过程包括:
所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。
优选的,所述按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据的过程包括:
所述根据所述的相互关系处理所述数据包括但不限于:
依据不同尺度下数据之间的相互关系来处理数据的索引建立、存储、读取、传输、显示、数据的分析等;
依据不同尺度和数据之间的相互关系来处理所述数据的索引的存储、读取、传输、显示、数据的分析等。
一种建立索引和分析管理数据的方法,其特征在于,包括:
设定数据的尺度;
根据所述的数据的尺度分析计算数据之间的相互关系;
根据分析计算获得的数据之间的相互关系建立索引和分析管理数据。
优选的,所述设定数据的尺度的过程包括:
所述设定数据的尺度,包括预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
根据所述的设定数据的尺度确定索引的层次;
根据所述确定的索引的层次管理和检索数据。
优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
根据具体情况确定设定建立索引的条件;
根据预先设定的建立索引的条件,将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引;
将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据不再建立下一级索引。
优选的,所述根据具体情况确定设定建立索引的条件的过程包括:
所述根据具体情况确定设定建立索引的条件包括有条件和无条件,如给组成坐标数据的各个数据位的数据建立索引可以不设定建立索引的条件。
优选的、所述根据具体情况确定设定建立索引的条件的过程包括:
所述根据具体情况确定设定建立索引的条件包括但不限于一定的数据范围、数据量、数据个数中的一个或者多个指标的组合作为建立索引的条件。
优选的、所述数据范围包括:
所述的数据范围包括但不限于数据本身的范围,根据所述设定的数据的尺度计算出来的范围。
优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
所述将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引,将所述的下一级索引用索引的管理索引的索引项进行管理,通过所述管理索引的索引项,可以检索到所管理的索引;
所述将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据用索引的管理数据的索引项进行管理,通过所述管理数据的索引项,可以检索到数据。
优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
将符合建立索引条件和根据所述设定的数据尺度分析计算数据之间的关系为重合的数据继续建立下一级索引;
所述下一级索引对应于下一级的数据的尺度;
所述下一级的数据的尺度的设定包括但不限于由本级尺度计算获得、外部赋值等直接或者间接的方法设定。
优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
将符合建立索引条件和根据所述设定的数据尺度分析计算组成空间数据的坐标点重合为一个点的数据继续建立下一级索引。
优选的,所述建立索引和分析管理数据的方法的过程包括:
根据所述设定数据的尺度,对包括但不限于宏观的数据集合的数据、描述或表达对象的数据、直到微观的数据位的数据等建立统一的索引。
优选的,一种数据管理和存储的方法,其特征在于,包括:
根据所述建立的索引管理和存储数据。
优选的,所述根据所述建立的索引管理和存储数据的过程包括:
根据所述索引的管理数据的索引项作为管理和存储数据的单元,所述管理和存储数据的单元包括但不限于作为存储数据块、存储记录、存储文件等各种形式的数据管理和存储。
一种数据管理和存储的方法,其特征在于,包括:
设定数据的尺度;
根据所述的数据的尺度分析计算数据之间的相互关系;
根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。
优选的,所述设定数据的尺度的过程包括:
根据不同尺度下数据之间关系的简单程度来设定数据管理的初始尺度。
优选的,所述设定数据的尺度的过程包括:
将使数据重合的尺度设定为数据管理的初始尺度;
所述数据重合包括但不限于所有数据形成一个重合、数据形成多个重合、一个数据的多个坐标点形成重合等各种重合形式。
优选的,所述根据分析计算获得的数据之间的相互关系来进行数据的管理和存储的过程包括:
将所述数据之间相互关系为重合的数据作为一个数据管理单元;
根据所述数据管理的初始尺度设定新的数据尺度;
根据所述新的数据尺度分析计算数据之间的相互关系,如果数据之间关系不只是重合关系,还包括但不限于相交、相切等复杂的相互关系的数据作为这个尺度下的数据存储单元;对于符合数据管理条件并且数据之间仍然重合的数据作为这个尺度下的数据管理单元,设定新的数据尺度重复上述过程;
所述符合数据管理条件包括但不限于数据个数、数据量、数据范围等其中的一个或者多个的组合;
所述数据范围包括但不限于数据在所述新的数据尺度下的数据显示范围。
一种数据显示的方法,其特征在于,包括:
根据显示数据的尺度确定对应于数据的尺度;
根据所述数据的尺度通过数据的索引检索需要显示的数据;
读取所述需要显示的数据用于数据显示。
优选的,所述根据显示数据的尺度确定对应于数据的尺度的过程包括:
所述数据的索引是根据不同的尺度建立的,所述的不同的尺度反映了数据本身的宏观与微观的情况;
所述数据显示的尺度反映的也是数据的宏观与微观的情况;
根据所述数据显示的尺度可以直接对应或者通过计算对应到具体的数据的尺度。
优选的,所述根据所述数据的尺度通过数据的索引检索需要显示的数据的过程包括:
根据所述数据的尺度通过数据的索引检索需要显示的数据包括以下一种或者几种数据:
(1)用检索到的管理索引的索引项作为显示数据进行显示,即在所述数据显示尺度对应的所述数据的尺度下,所述索引项管理的数据都显示为一个点;
(2)用检索到的数据中所述数据的尺度所对应的部分数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据能够显示出来,其它数据因为数据之间的重合关系显示不出来,只将能够显示出来的这部分数据作为显示数据;
(3)用检索到的数据中所述数据的尺度所对应的部分数据位上的数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据位的数据能够显示出来,只将能够显示出来的这部分数据位的数据作为显示数据;
(4)用检索到的数据作为显示数据进行显示;
(5)用检索到的数据中的一个或者多个代替其它具有重合关系的数据作为显示数据,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,因为数据之间的重合关系只有一部分数据能显示出来,只将能够显示出来的数据作为显示数据。
一种数据分析计算的方法,其特征在于,包括:
根据数据所对应的索引进行分析计算;
通过数据中不同的尺度所对应的数据进行分析计算。
优选的,所述的分析计算的过程包括:
所述的分析计算包括和尺度有关的分析计算、和尺度无关的分析计算;
所述的分析计算包括但不限于数据的空间关系计算、聚集性分析、热力图分析等等。
优选的,所述的分析计算的过程包括:
所述和尺度有关的分析计算通过尺度所对应的索引和数据进行分析计算。
优选的,所述根据索引进行数据的分析计算的过程包括:
根据数据在所述索引中不同的尺度所对应的索引数据的空间关系来分析计算。
优选的,所述根据数据所对应的索引进行分析计算的过程包括:
通过索引的分析计算确定数据之间包括但不限于肯定具有某种空间关系、可能具有某种空间关系。
优选的,所述通过数据中不同的尺度所对应的数据进行分析计算的过程包括:
通过数据中不同的尺度所对应的数据进行分析计算,首先使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果所述分析计算所要求的是数据之间具有确定的关系,那么所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算的结果中如果存在可能具有某种关系的情况,需要使用所述可能具有某种关系对应的数据中某个尺度下(即更微观的尺度)对应更多的数据进行进一步分析计算,直到分析计算出数据之间确定具有某种空间关系为止。
优选的,所述分析计算的过程包括:
所述分析计算包括但不限于在客户端、服务器端等系统的各个部分的一个或者多个协同进行分析计算。
优选的,所述分析计算的过程包括:
所述分析计算包括但不限于在客户端部分、系统的边缘部分等非数据服务端使用索引、宏观尺度对应的数据进行分析计算,在数据存储端、数据服务端使用微观尺度对应的数据、原始数据进行分析计算。
一种数据渐进传输的方法,其特征在于,包括:
当需要请求增量数据时,发送增量数据请求,所述请求中包含请求尺度参数;
接收依据所述请求尺度参数和索引的尺度进行分析后获得的增量数据,所述增量数据为索引的增量数据;
接收依据所述请求尺度参数和数据的尺度进行分析后获得的增量数据,所述增量数据为数据的增量数据。
优选的,请求发送端缓存有在先缓存的数据的情况,具体步骤包括:
所述在先缓存的数据包括在先缓存的索引中相应尺度对应的索引数据、在先缓存的数据中相应尺度对应的数据。
优选的,请求发送端缓存有在先缓存的数据的情况,具体步骤包括:
确定当前的尺度参数;
获得在先缓存的数据所对应的最高级别的尺度参数;
判断所述在先缓存的数据所对应的最高级别的尺度参数和所述当前的尺度参数之间的关系,确定是否需要请求数据,若是,则继续执行后续的步骤,若否,则结束;
发送增量数据请求,所述请求中包含但不限于所述当前的尺度参数、在先缓存的数据中所对应的最高级别的尺度参数,称之为请求尺度参数;
接收依据所述请求尺度参数和索引的尺度参数进行分析后获得的增量数据,所述增量数据为索引的增量数据;
接收依据所述请求尺度参数和数据的尺度参数进行分析后获得的增量数据,所述增量数据为数据的增量数据;
将所述接收的增量数据插入到所述在先缓存的数据中。
优选的,所述尺度参数的确定的过程包括:
在索引中索引所管理的越精细、越微观的数据的索引项所对应的尺度参数的级别越高;
数据中的分辨率越高、越精细的数据所对应的尺度参数的级别越高。
一种数据渐进传输的方法,其特征在于,包括:
接收请求发送端发送的增量数据请求,所述增量数据请求中包含请求尺度参数;
依据所述请求尺度参数和索引中的尺度进行分析处理,确定索引中符合增量条件的索引数据为增量数据;
依据所述请求尺度参数和数据中的尺度进行分析处理,确定数据中符合增量条件的数据为增量数据;
发送所述增量数据到所述请求发送端。
优选的,当请求发送端存储有在先缓存的索引和数据时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的数据所对应尺度参数。
优选的,获得请求发送端所需要的增量数据过程包括:
接收请求发送端发送的增量数据请求,所述请求中包含请求尺度参数;
依据请求尺度参数中的当前的尺度参数对索引和数据进行分析处理,得到当前分析结果;
如果所述请求尺度参数中含有在先缓存尺度参数,其过程包括:
依据请求尺度参数中在先缓存的尺度参数对索引和数据进行分析处理,得到在先分析结果;
确定所述当前分析结果中符合增量条件的数据为增量数据,该步骤的具体过程包括:
确定在所述当前分析结果中,且不在所述在先分析结果中的数据为增量数据;
如果所述请求尺度参数中没有在先缓存尺度参数,其过程包括:
将当前分析结果的数据作为增量数据;
将所述当前尺度参数作为增量数据的当前最高级别的尺度参数;
发送所述增量数据到请求发送端。
一种数据的处理装置,包括:
设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;
数据处理单元,用于按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。
一种建立索引和分析管理数据的装置,其特征在于,包括:
设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;
索引生成单元,用于根据分析计算获得的数据之间的相互关系建立索引和分析管理数据;
分析管理单元,用于根据索引对数据进行存储、显示、分析计算、渐进传输的分析管理。
一种数据管理和存储的装置,其特征在于,包括:
设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;
管理和存储单元,用于根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。
从上述的技术方案可以看出,本发明公开的数据的处理方法,有效地解决了海量数据的处理过程中服务器端、传输网络及客户端的数据的检索、读取、传输、显示和空间关系计算、空间分析等的性能瓶颈问题。通过索引解决了数据的有限与无限、宏观与微观、复杂与简单之间的统一,通过索引解决了数据的检索、存储、读取、传输、显示、分析计算、分布式管理与运算的功能和性能的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1 为本发明实施例公开的一种数据处理方法的流程图。
图2为本发明实施例公开的一种数据管理和存储的方法的流程图。
图3为本发明实施例公开的一种建立索引和分析管理数据方法的流程图。
图4为本发明实施例公开的一种数据显示的方法的流程图。
图5为本发明实施例公开的一种数据分析计算的方法的流程图。
图6为本发明实施例公开的一种数据渐进传输的方法的流程图。
图7为本发明实施例公开的又一种数据渐进传输的方法的流程图。
图8为本发明实施例公开的一种数据的处理装置的结构示意图。
图9为本发明实施例公开的一种建立索引和分析管理数据装置的结构示意图。
图10为本发明实施例公开的一种数据管理和存储的装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
现实或者虚拟的对象都是通过数据来表达和描述的,这种表达和描述都存在着不同的尺度的,比如数据显示的放大和缩小,屏幕的分辨率,电子屏幕(视图窗口)是有不同的分辨率的,当数据在视图窗口中显示时,由于视图窗口的分辨率是有限的,当数据在视图窗口上绘制的图形比较小时,会有表现数据细节部分的数据会绘制在相同的像素上,当数据在视图窗口上绘制的图形比较大时,细节部分才能显示出来,也就是说,数据填充(绘制)的像素个数多,数据的分辨率就高尺度也就小,填充(绘制)的显示个数少,数据的分辨率就低尺度就大,因此,数据显示时,具有多尺度、多分辨率的特性。但目前的索引、数据管理、存储,没有记录数据的多尺度特性,在读取、传输和显示的时候全部传输和显示,制造了网络传输瓶颈和数据绘制显示的瓶颈,如果对数据进行自适应化简,又给服务器造成了计算瓶颈,数据的分析计算同样如此。因此本发明通过索引来解决上述技术瓶颈问题。
数据包括但不限于二维数据、三维数据以及多维数据等所有意义上的数据。
本发明实施例公开的一种数据处理方法的流程如图1所示,包括:
步骤S11、设定数据的尺度;
所述的数据包括但不限于宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据;
所述数据的尺度包括但不限于数据本身的空间尺度、时间尺度。
所述数据的尺度是表示数据的宏观与微观的变量,对于数据,尺度越大相对于尺度小而言就越宏观,尺度越小相对于尺度大而言就越微观。
所述数据的尺度包括但不限于观察数据的尺度,如空间数据进行计算机显示时的放大比例。
空间数据的尺度包括但不限于空间数据的分辨率。
所述的设定数据的尺度包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度。
步骤S12、根据所述的数据的尺度分析计算数据之间的相互关系;
所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。
不同的尺度下数据之间的空间关系呈现出简单与复杂的特性,比如在大尺度下数据之间的空间关系简单到只需要考虑重合与不重合,而不重合的数据也只有相邻、相离等简单的空间关系。
步骤S13、按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。
所述根据所述的相互关系处理所述数据包括但不限于:
依据不同尺度下数据之间的相互关系来处理数据的索引建立、存储、读取、传输、显示、数据的分析等问题;
依据不同尺度和数据之间的相互关系来处理所述数据的索引的存储、读取、传输、显示、数据的分析等。
本发明实施例公开的一种数据管理和存储的方法的流程如图2所示,包括:
步骤S21、设定数据的尺度;
根据不同尺度下数据之间关系的简单程度来设定数据管理的初始尺度。
将使数据重合的尺度设定为数据管理的初始尺度;
所述数据重合包括但不限于所有数据形成一个重合、数据形成多个重合、一个数据的多个坐标点形成重合等各种重合形式。
步骤S22、根据所述的数据的尺度分析计算数据之间的相互关系;
所述的相互关系包括但不限于重合、包含、相交、相切、分离等各种关系。
步骤S23、根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。
将所述数据之间相互关系为重合的数据作为数据管理单元;
根据所述数据管理的初始尺度设定新的数据尺度;
根据所述新的数据尺度分析计算数据之间的相互关系,如果数据之间关系不只是重合关系,还包括但不限于相交、相切等复杂的相互关系的数据作为这个尺度下的数据存储单元;
对于符合数据管理条件并且数据之间仍然重合的数据作为所述新的数据尺度下的数据管理单元,再设定新的数据尺度重复上述过程;
所述符合数据管理条件包括但不限于数据个数、数据量、数据范围等其中的一个或者多个的组合;
所述数据范围包括但不限于数据在所述新的数据尺度下的数据显示范围。
本发明实施例公开的一种建立索引和分析管理数据的方法的流程如图3所示,包括:
步骤S31、设定数据的尺度;
所述设定数据的尺度,包括预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
根据所述的设定数据的尺度确定索引的层次;
根据所述确定的索引的层次管理和检索数据。
步骤S32、根据所述的数据的尺度分析计算数据之间的相互关系;
所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。
不同的尺度下数据之间的空间关系呈现出简单与复杂的特性,比如在大尺度下数据之间的空间关系简单到只需要考虑重合与不重合,而不重合的数据也只有相邻、相离等简单的空间关系。
步骤S33、根据分析计算获得的数据之间的相互关系建立索引和分析管理数据。
根据具体情况确定设定建立索引的条件:
所述根据具体情况确定设定建立索引的条件包括有条件和无条件,如给组成坐标数据的各个数据位的数据建立索引可以不设定建立索引的条件;
所述的建立索引的条件包括但不限于一定的数据范围、数据量、数据个数中的一个或者多个指标的组合作为建立索引的条件;
所述的数据范围包括但不限于数据本身的范围,根据所述设定的数据的尺度计算出来的范围。
根据预先设定的建立索引的条件,将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引;
将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据不再建立下一级索引。
将符合建立索引条件和根据所述设定的数据尺度分析计算数据之间的关系为重合的数据继续建立下一级索引;
所述下一级索引对应于下一级的数据的尺度;
所述下一级的数据的尺度的设定包括但不限于由本级尺度计算获得、外部赋值等直接或者间接的方法设定。
所述将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引,将所述的下一级索引用索引的管理索引的索引项进行管理,通过所述管理索引的索引项,可以检索到所管理的索引;
所述将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据用索引的管理数据的索引项进行管理,通过所述管理数据的索引项,可以检索到数据。
将符合建立索引条件和根据所述设定的数据尺度分析计算组成空间数据的坐标点重合为一个点的数据继续建立下一级索引。
所述设定数据的尺度,对包括但不限于宏观的数据集合的数据、描述或表达对象的数据、直到微观的数据位的数据(如21.345,其中的4为小数点后第二个数据位的数据)等建立统一的索引。
根据尺度分析计算数据之间的相互关系,通过尺度对应的数据之间的相互关系建立索引,然后通过索引来分析管理数据,包括解决数据的存储、传输、显示、分析等等功能和性能上的技术问题,以下是本发明实施例公开的一种通过建立的索引管理和存储数据的方法,包括:
步骤S41、根据所述建立的索引管理和存储数据。
具体的过程包括:
步骤S51、根据所述索引的管理数据的索引项作为管理和存储数据的单元,所述管理和存储数据的单元包括但不限于作为存储数据块、存储记录、存储文件等各种形式的数据管理和存储。
本发明实施例公开的一种数据显示的方法的流程如图4所示,包括:
步骤S61、根据显示数据的尺度确定对应于数据的尺度;
所述数据的索引是根据不同的尺度建立的,所述的不同的尺度反映了数据本身的宏观与微观的情况;
所述显示数据的尺度反映的也是数据的宏观与微观的情况;
根据所述显示数据的尺度可以直接对应或者通过计算对应到具体的数据的尺度。
步骤S62、根据所述数据的尺度通过数据的索引检索需要显示的数据;
根据所述数据的尺度通过数据的索引检索需要显示的数据包括以下一种或者几种数据:
(1)用检索到的管理索引的索引项作为显示数据进行显示,即在所述数据显示尺度对应的所述数据的尺度下,所述索引项管理的数据都显示为一个点;
(2)用检索到的数据中所述数据的尺度所对应的部分数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据能够显示出来,其它数据因为数据之间的重合关系显示不出来,只将能够显示出来的这部分数据作为显示数据;
(3)用检索到的数据中所述数据的尺度所对应的部分数据位上的数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据位的数据能够显示出来,只将能够显示出来的这部分数据位的数据作为显示数据;
(4)用检索到的数据作为显示数据进行显示;
(5)用检索到的数据中的一个或者多个代替其它具有重合关系的数据作为显示数据,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,因为数据之间的重合关系只有一部分数据能显示出来,只将能够显示出来的数据作为显示数据。
步骤63、读取所述需要显示的数据用于数据显示。
所述读取包括从内存、硬盘等任何数据的存储设备上读取;
根据步骤S62,读取需要能够代替数据显示的索引数据和对应尺度下能够显示出来的数据用于显示。
本发明实施例公开的一种数据分析计算的方法的流程如图5所示,包括:
所述的分析计算包括和尺度有关的分析计算、和尺度无关的分析计算;
所述的分析计算包括但不限于数据的空间关系计算、聚集性分析、热力图分析等等。
所述和尺度有关的分析计算通过尺度所对应的索引和数据进行分析计算。
步骤S71、根据数据所对应的索引进行分析计算;
根据数据在所述索引中不同的尺度所对应的索引数据的空间关系来分析计算。
通过索引的分析计算确定数据之间包括但不限于肯定具有某种空间关系、肯定不具有某种空间关系、可能具有某种空间关系。
通过索引的分析计算数据之间具有相离、包含、相交的空间关系,那么数据之间肯定具有相离、包含、相交的空间关系;
通过索引的分析计算数据之间具有重合、相切的空间关系,那么数据之间可能具有重合、相切、相离、包含等空间关系,需要更精细的数据进一步分析计算确认数据之间的关系。
所述分析计算包括但不限于在客户端、服务器端等系统的各个部分的一个或者多个协同进行分析计算。
所述分析计算包括但不限于在客户端部分、系统的边缘部分等非数据服务端使用索引、宏观尺度对应的数据进行分析计算,在数据存储端、数据服务端使用微观尺度对应的数据、原始数据进行分析计算。
步骤S72、通过数据中不同的尺度所对应的数据进行分析计算。
通过数据中不同的尺度所对应的数据进行分析计算,首先使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果所述分析计算所要求的是数据之间具有确定的关系,那么所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算的结果中如果存在可能具有某种关系的情况,需要使用所述可能具有某种关系对应的数据中某个尺度下(即更微观的尺度)对应更多的数据进行进一步分析计算,直到分析计算出数据之间确定具有某种空间关系为止。
所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果分析计算的结果为:数据之间具有相离、包含、相交的空间关系,那么数据之间肯定具有相离、包含、相交的空间关系;
所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果分析计算的结果为:数据之间具有重合、相切的空间关系,那么数据之间可能具有重合、相切、相离、包含等空间关系,需要更精细的数据进一步分析计算确认数据之间的关系。
本发明公开一种数据渐进传输的方法,其流程如图6所示,包括:
步骤S81、当需要请求增量数据时,发送增量数据请求,所述请求中包含尺度参数;
本实施例中的数据渐进传输方法适用于请求发送端,当请求发送端判断出需要请求增量数据时,向请求接收端发送增量数据请求,在请求中包含尺度参数。
当请求发送端存储没有在先缓存的索引时,所述请求尺度参数包括但不限于:当前的尺度参数;
当请求发送端存储有在先缓存的索引时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的索引数据所对应尺度参数;
当请求发送端存储有在先缓存的索引和数据时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的数据所对应尺度参数。
在索引中索引所管理的越精细、越微观的数据的索引项所对应的尺度参数的级别越高;
数据中的分辨率越高、越精细的数据所对应的尺度参数的级别越高。
请求发送端缓存有在先缓存的数据的情况,具体步骤包括:
确定当前的尺度参数;
获得在先缓存的数据所对应的最高级别的尺度参数;
判断所述在先缓存的数据所对应的最高级别的尺度参数和所述当前的尺度参数之间的关系,确定是否需要请求数据,若是,则继续执行后续的步骤,若否,则结束;
发送增量数据请求,所述请求中包含但不限于所述当前的尺度参数、在先缓存的数据中所对应的最高级别的尺度参数,称之为请求尺度参数;
所述在先缓存的数据包括在先缓存的索引中相应尺度对应的索引数据、在先缓存的数据中相应尺度对应的数据。
步骤S82、接收依据所述请求尺度参数和索引的尺度进行分析后获得的增量数据,所述增量数据为索引的增量数据;
接收依据所述请求尺度参数和索引的尺度参数进行分析后获得的增量数据,所述增量数据为索引的增量数据,如果有在先缓存的索引数据,将所述接收的增量数据插入到所述在先缓存的索引数据中,否则将所述接收的增量数据存为缓存数据。
步骤S83、接收依据所述请求尺度参数和数据的尺度进行分析后获得的增量数据,所述增量数据为数据的增量数据。
接收依据所述请求尺度参数和数据的尺度参数进行分析后获得的增量数据,所述增量数据为数据的增量数据,如果有在先缓存的数据,将所述接收的增量数据插入到所述在先缓存的数据中,否则将所述接收的增量数据存为缓存数据。
本实施例公开的数据渐进传输方法中,请求发送端在发送增量数据请求时,在请求中携带有当请求尺度参数,使得请求接收端可以依据所述请求尺度参数分析得到增量数据,保证了得到的增量数据能够无损显示,同时减小了数据传输量,提高了数据传输效率。
本发明公开的又一数据渐进传输方法流程如图7所示,包括:
步骤S91、接收请求发送端发送的增量数据请求,所述请求中包含请求尺度参数;
如果所述请求中包含的请求尺度参数中含有在先缓存尺度参数则说明所述请求发送端有在先缓存的数据。
步骤S92、依据请求尺度参数中的当前的尺度参数对索引和数据进行分析处理,得到当前分析结果;
根据所述当前的尺度参数将索引中所对应的尺度所包含的数据作为当前分析结果;
根据所述当前的尺度参数将数据中所对应的尺度所包含的数据作为当前分析结果。
如果所述请求尺度参数中含有在先缓存尺度参数,则执行步骤S93,否则执行步骤S94。
步骤S93、依据请求尺度参数中在先缓存的尺度参数对索引和数据进行分析处理,得到在先分析结果;
确定所述当前分析结果中符合增量条件的数据为增量数据,该步骤的具体过程包括:
确定在所述当前分析结果中,且不在所述在先分析结果中的数据为增量数据。
步骤S94、将当前分析结果的数据作为增量数据;
如果所述请求尺度参数中没有在先缓存尺度参数,其过程包括:
将当前分析结果的数据作为增量数据。
步骤S95、发送所述增量数据到请求发送端。
将所述当前尺度参数作为增量数据的当前最高级别的尺度参数;
发送所述增量数据到请求发送端。
如果请求发送端缓存有在先缓存的数据,需要将接收的增量数据插入到在先缓存的数据中去,实现数据重建,重建后的数据作为当前缓存的数据。
如果请求发送端没有缓存数据时,请求接收端在接收到增量数据请求后,依据请求尺度参数对数据按照当前的尺度参数进行分析,得到的数据即为增量数据。请求发送端接收到增量数据后,将增量数据缓存,以便于以此作为在先缓存数据,进行后续的渐进传输处理。
本发明同时公开了一种数据的处理装置,其结构如图8所示,包括:
设定尺度单元101,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元102,用于根据所述的数据的尺度分析计算数据之间的相互关系;
数据处理单元103,用于按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。
本实施例只是公开了其较优的实现方式,其具体工作过程请参考图1-7中任意一幅所示流程,在此不在赘述。
本发明还公开了一种建立索引和分析管理数据的装置,其结构如图9所示,包括:
设定尺度单元111,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元112,用于根据所述的数据的尺度分析计算数据之间的相互关系;
索引生成单元113,用于根据分析计算获得的数据之间的相互关系建立索引和分析管理数据;
分析管理单元114,用于根据索引对数据进行存储、显示、分析计算、渐进传输的分析管理。
本实施例只是公开了其较优的实现方式,其具体工作过程请参考图3-7中任意一幅所示流程,在此不在赘述。
本发明还公开了一种数据管理和存储的装置,其结构如图10所示,包括:
设定尺度单元121,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元122,用于根据所述的数据的尺度分析计算数据之间的相互关系;
管理和存储单元123,用于根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。
本实施例只是公开了其较优的实现方式,其具体工作过程请参考图2所示流程,在此不在赘述。
本发明公开的一种数据处理方法及装置可以设置在计算机内,也可以设置在手机或其他设备内。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (44)
1.一种数据的处理方法,其特征在于,包括:
设定数据的尺度;
根据所述的数据的尺度分析计算数据之间的相互关系;
按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。
2.根据权利要求1所述的方法,其特征在于,所述设定数据的尺度的过程包括:
所述的数据包括但不限于宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据;
所述数据的尺度是表示数据的宏观与微观的变量,对于数据,尺度越大相对于尺度小而言就越宏观,尺度越小相对于尺度大而言就越微观。
3.根据权利要求1所述的方法,其特征在于,所述设定数据的尺度的过程包括:
所述数据的尺度包括但不限于数据本身的空间尺度、时间尺度。
4.根据权利要求1所述的方法,其特征在于,所述设定数据的尺度的过程包括:
所述数据的尺度包括但不限于观察数据的尺度,如空间数据进行计算机显示时的放大比例;
空间数据的尺度包括但不限于空间数据的分辨率。
5.根据权利要求1所述的方法,其特征在于,所述设定数据的尺度的过程包括:
所述的设定数据的尺度包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度。
6.根据权利要求1所述的方法,其特征在于,所述根据所述的数据的尺度分析计算数据之间的相互关系的过程包括:
所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。
7.根据权利要求1所述的方法,其特征在于,所述按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据的过程包括:
所述根据所述的相互关系处理所述数据包括但不限于:
依据不同尺度下数据之间的相互关系来处理数据的索引建立、存储、读取、传输、显示、数据的分析等;
依据不同尺度和数据之间的相互关系来处理所述数据的索引的存储、读取、传输、显示、数据的分析等。
8.根据权利要求1所述的方法,一种建立索引和分析管理数据的方法,其特征在于,包括:
设定数据的尺度;
根据所述的数据的尺度分析计算数据之间的相互关系;
根据分析计算获得的数据之间的相互关系建立索引和分析管理数据。
9.根据权利要求8所述的方法,其特征在于,所述设定数据的尺度的过程包括:
所述设定数据的尺度,包括预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
根据所述的设定数据的尺度确定索引的层次;
根据所述确定的索引的层次管理和检索数据。
10.根据权利要求8所述的方法,其特征在于,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
根据具体情况确定设定建立索引的条件;
根据预先设定的建立索引的条件,将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引;
将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据不再建立下一级索引。
11.根据权利要求10所述的方法,其特征在于,所述根据具体情况确定设定建立索引的条件的过程包括:
所述根据具体情况确定设定建立索引的条件包括有条件和无条件,如给组成坐标数据的各个数据位的数据建立索引可以不设定建立索引的条件。
12.根据权利要求10所述的方法,其特征在于,所述根据具体情况确定设定建立索引的条件的过程包括:
所述根据具体情况确定设定建立索引的条件包括但不限于一定的数据范围、数据量、数据个数中的一个或者多个指标的组合作为建立索引的条件。
13.根据权利要求12所述的方法,其特征在于,所述数据范围包括:
所述的数据范围包括但不限于数据本身的范围,根据所述设定的数据的尺度计算出来的范围。
14.根据权利要求10所述的方法,其特征在于,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
所述将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引,将所述的下一级索引用索引的管理索引的索引项进行管理,通过所述管理索引的索引项,可以检索到所管理的索引;
所述将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据用索引的管理数据的索引项进行管理,通过所述管理数据的索引项,可以检索到数据。
15.根据权利要求10所述的方法,其特征在于,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
将符合建立索引条件和根据所述设定的数据尺度分析计算数据之间的关系为重合的数据继续建立下一级索引;
所述下一级索引对应于下一级的数据的尺度;
所述下一级的数据的尺度的设定包括但不限于由本级尺度计算获得、外部赋值等直接或者间接的方法设定。
16.根据权利要求15所述的方法,其特征在于,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:
将符合建立索引条件和根据所述设定的数据尺度分析计算组成空间数据的坐标点重合为一个点的数据继续建立下一级索引。
17.根据权利要求8所述的方法,其特征在于,所述建立索引和分析管理数据的方法的过程包括:
根据所述设定数据的尺度,对包括但不限于宏观的数据集合的数据、描述或表达对象的数据、直到微观的数据位的数据等建立统一的索引。
18.根据权利要求8所述的方法,一种数据管理和存储的方法,其特征在于,包括:
根据所述建立的索引管理和存储数据。
19.根据权利要求18所述的方法,其特征在于,所述根据所述建立的索引管理和存储数据的过程包括:
根据所述索引的管理数据的索引项作为管理和存储数据的单元,所述管理和存储数据的单元包括但不限于作为存储数据块、存储记录、存储文件等各种形式的数据管理和存储。
20.根据权利要求1所述的方法,一种数据管理和存储的方法,其特征在于,包括:
设定数据的尺度;
根据所述的数据的尺度分析计算数据之间的相互关系;
根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。
21.根据权利要求20所述的方法,其特征在于,所述设定数据的尺度的过程包括:
根据不同尺度下数据之间关系的简单程度来设定数据管理的初始尺度。
22.根据权利要求21所述的方法,其特征在于,所述设定数据的尺度的过程包括:
将使数据重合的尺度设定为数据管理的初始尺度;
所述数据重合包括但不限于所有数据形成一个重合、数据形成多个重合、一个数据的多个坐标点形成重合等各种重合形式。
23.根据权利要求22所述的方法,其特征在于,所述根据分析计算获得的数据之间的相互关系来进行数据的管理和存储的过程包括:
将所述数据之间相互关系为重合的数据作为一个数据管理单元;
根据所述数据管理的初始尺度设定新的数据尺度;
根据所述新的数据尺度分析计算数据之间的相互关系,如果数据之间关系不只是重合关系,还包括但不限于相交、相切等复杂的相互关系的数据作为这个尺度下的数据存储单元;对于符合数据管理条件并且数据之间仍然重合的数据作为这个尺度下的数据管理单元,设定新的数据尺度重复上述过程;
所述符合数据管理条件包括但不限于数据个数、数据量、数据范围等其中的一个或者多个的组合;
所述数据范围包括但不限于数据在所述新的数据尺度下的数据显示范围。
24.根据权利要求8所述的方法,一种数据显示的方法,其特征在于,包括:
根据显示数据的尺度确定对应于数据的尺度;
根据所述数据的尺度通过数据的索引检索需要显示的数据;
读取所述需要显示的数据用于数据显示。
25.根据权利要求24所述的方法,其特征在于,所述根据显示数据的尺度确定对应于数据的尺度的过程包括:
所述数据的索引是根据不同的尺度建立的,所述的不同的尺度反映了数据本身的宏观与微观的情况;
所述数据显示的尺度反映的也是数据的宏观与微观的情况;
根据所述数据显示的尺度可以直接对应或者通过计算对应到具体的数据的尺度。
26.根据权利要求24所述的方法,其特征在于,所述根据所述数据的尺度通过数据的索引检索需要显示的数据的过程包括:
根据所述数据的尺度通过数据的索引检索需要显示的数据包括以下一种或者几种数据:
(1)用检索到的管理索引的索引项作为显示数据进行显示,即在所述数据显示尺度对应的所述数据的尺度下,所述索引项管理的数据都显示为一个点;
(2)用检索到的数据中所述数据的尺度所对应的部分数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据能够显示出来,其它数据因为数据之间的重合关系显示不出来,只将能够显示出来的这部分数据作为显示数据;
(3)用检索到的数据中所述数据的尺度所对应的部分数据位上的数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据位的数据能够显示出来,只将能够显示出来的这部分数据位的数据作为显示数据;
(4)用检索到的数据作为显示数据进行显示;
(5)用检索到的数据中的一个或者多个代替其它具有重合关系的数据作为显示数据,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,因为数据之间的重合关系只有一部分数据能显示出来,只将能够显示出来的数据作为显示数据。
27.根据权利要求8所述的方法,一种数据分析计算的方法,其特征在于,包括:
根据数据所对应的索引进行分析计算;
通过数据中不同的尺度所对应的数据进行分析计算。
28.根据权利要求27所述的方法,其特征在于,所述的分析计算的过程包括:
所述的分析计算包括和尺度有关的分析计算、和尺度无关的分析计算;
所述的分析计算包括但不限于数据的空间关系计算、聚集性分析、热力图分析等等。
29.根据权利要求28所述的方法,其特征在于,所述的分析计算的过程包括:
所述和尺度有关的分析计算通过尺度所对应的索引和数据进行分析计算。
30.根据权利要求27所述的方法,其特征在于,所述根据索引进行数据的分析计算的过程包括:
根据数据在所述索引中不同的尺度所对应的索引数据的空间关系来分析计算。
31.根据权利要求30所述的方法,其特征在于,所述根据数据所对应的索引进行分析计算的过程包括:
通过索引的分析计算确定数据之间包括但不限于肯定具有某种空间关系、可能具有某种空间关系。
32.根据权利要求27所述的方法,其特征在于,所述通过数据中不同的尺度所对应的数据进行分析计算的过程包括:
通过数据中不同的尺度所对应的数据进行分析计算,首先使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果所述分析计算所要求的是数据之间具有确定的关系,那么所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算的结果中如果存在可能具有某种关系的情况,需要使用所述可能具有某种关系对应的数据中某个尺度下(即更微观的尺度)对应更多的数据进行进一步分析计算,直到分析计算出数据之间确定具有某种空间关系为止。
33.根据权利要求27所述的方法,其特征在于,所述分析计算的过程包括:
所述分析计算包括但不限于在客户端、服务器端等系统的各个部分的一个或者多个协同进行分析计算。
34.根据权利要求33所述的方法,其特征在于,所述分析计算的过程包括:
所述分析计算包括但不限于在客户端部分、系统的边缘部分等非数据服务端使用索引、宏观尺度对应的数据进行分析计算,在数据存储端、数据服务端使用微观尺度对应的数据、原始数据进行分析计算。
35.根据权利要求8所述的方法,一种数据渐进传输的方法,其特征在于,包括:
当需要请求增量数据时,发送增量数据请求,所述请求中包含请求尺度参数;
接收依据所述请求尺度参数和索引的尺度进行分析后获得的增量数据,所述增量数据为索引的增量数据;
接收依据所述请求尺度参数和数据的尺度进行分析后获得的增量数据,所述增量数据为数据的增量数据。
36.根据权利要求35所述的方法,其特征在于,请求发送端缓存有在先缓存的数据的情况,具体步骤包括:
所述在先缓存的数据包括在先缓存的索引中相应尺度对应的索引数据、在先缓存的数据中相应尺度对应的数据。
37.根据权利要求36所述的方法,其特征在于,请求发送端缓存有在先缓存的数据的情况,具体步骤包括:
确定当前的尺度参数;
获得在先缓存的数据所对应的最高级别的尺度参数;
判断所述在先缓存的数据所对应的最高级别的尺度参数和所述当前的尺度参数之间的关系,确定是否需要请求数据,若是,则继续执行后续的步骤,若否,则结束;
发送增量数据请求,所述请求中包含但不限于所述当前的尺度参数、在先缓存的数据中所对应的最高级别的尺度参数,称之为请求尺度参数;
接收依据所述请求尺度参数和索引的尺度参数进行分析后获得的增量数据,所述增量数据为索引的增量数据;
接收依据所述请求尺度参数和数据的尺度参数进行分析后获得的增量数据,所述增量数据为数据的增量数据;
将所述接收的增量数据插入到所述在先缓存的数据中。
38.根据权利要求37所述的方法,其特征在于,所述尺度参数的确定的过程包括:
在索引中索引所管理的越精细、越微观的数据的索引项所对应的尺度参数的级别越高;
数据中的分辨率越高、越精细的数据所对应的尺度参数的级别越高。
39.根据权利要求8所述的方法,一种数据渐进传输的方法,其特征在于,包括:
接收请求发送端发送的增量数据请求,所述增量数据请求中包含请求尺度参数;
依据所述请求尺度参数和索引中的尺度进行分析处理,确定索引中符合增量条件的索引数据为增量数据;
依据所述请求尺度参数和数据中的尺度进行分析处理,确定数据中符合增量条件的数据为增量数据;
发送所述增量数据到所述请求发送端。
40.根据权利要求39所述的方法,其特征在于,当请求发送端存储有在先缓存的索引和数据时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的数据所对应尺度参数。
41.根据权利要求39所述的方法,其特征在于,获得请求发送端所需要的增量数据过程包括:
接收请求发送端发送的增量数据请求,所述请求中包含请求尺度参数;
依据请求尺度参数中的当前的尺度参数对索引和数据进行分析处理,得到当前分析结果;
如果所述请求尺度参数中含有在先缓存尺度参数,其过程包括:
依据请求尺度参数中在先缓存的尺度参数对索引和数据进行分析处理,得到在先分析结果;
确定所述当前分析结果中符合增量条件的数据为增量数据,该步骤的具体过程包括:
确定在所述当前分析结果中,且不在所述在先分析结果中的数据为增量数据;
如果所述请求尺度参数中没有在先缓存尺度参数,其过程包括:
将当前分析结果的数据作为增量数据;
将所述当前尺度参数作为增量数据的当前最高级别的尺度参数;
发送所述增量数据到请求发送端。
42.一种数据的处理装置,其特征在于,包括:
设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;
数据处理单元,用于按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。
43.一种建立索引和分析管理数据的装置,其特征在于,包括:
设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;
索引生成单元,用于根据分析计算获得的数据之间的相互关系建立索引和分析管理数据;
分析管理单元,用于根据索引对数据进行存储、显示、分析计算、渐进传输的分析管理。
44.一种数据管理和存储的装置,其特征在于,包括:
设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;
数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;
管理和存储单元,用于根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810101953.5A CN110109917A (zh) | 2018-02-01 | 2018-02-01 | 一种数据的处理方法及装置 |
PCT/CN2019/073814 WO2019149204A1 (zh) | 2018-02-01 | 2019-01-30 | 一种数据的处理方法及装置 |
JP2020541650A JP2021513146A (ja) | 2018-02-01 | 2019-01-30 | データの処理方法及び装置 |
US16/965,278 US11860843B2 (en) | 2018-02-01 | 2019-01-30 | Data processing method and device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810101953.5A CN110109917A (zh) | 2018-02-01 | 2018-02-01 | 一种数据的处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110109917A true CN110109917A (zh) | 2019-08-09 |
Family
ID=67479573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810101953.5A Pending CN110109917A (zh) | 2018-02-01 | 2018-02-01 | 一种数据的处理方法及装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11860843B2 (zh) |
JP (1) | JP2021513146A (zh) |
CN (1) | CN110109917A (zh) |
WO (1) | WO2019149204A1 (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050165788A1 (en) * | 2003-11-19 | 2005-07-28 | Chaowei Yang | Geographic information system |
CN101246597A (zh) * | 2007-11-30 | 2008-08-20 | 北京师范大学 | 大规模矢量地图数据渐进传输和动态重建的方法 |
JP4352156B1 (ja) * | 2008-08-25 | 2009-10-28 | 兵庫県 | 地図情報処理装置、ナビゲーションシステム、およびプログラム |
CN101582077A (zh) * | 2009-06-24 | 2009-11-18 | 上海可鲁系统软件有限公司 | 一种二维矢量图形的空间索引方法及装置 |
CN101916301A (zh) * | 2010-09-01 | 2010-12-15 | 中国地质大学(武汉) | 基于空间关系的三维空间数据自适应预调度方法 |
CN101996242A (zh) * | 2010-11-02 | 2011-03-30 | 江西师范大学 | 基于三维r树索引扩展结构的三维城市模型自适应方法 |
CN102110137A (zh) * | 2011-01-04 | 2011-06-29 | 北京大学 | 一种多尺度矢量地图一致性检测方法和装置 |
CN102682083A (zh) * | 2011-04-14 | 2012-09-19 | 董福田 | 空间数据处理、化简与渐进传输的方法与装置 |
CN104063893A (zh) * | 2014-04-14 | 2014-09-24 | 北京师范大学 | 基于格式塔心理学准则和多标签图割最小化的城市建筑可视化的方法 |
CN105160005A (zh) * | 2015-09-17 | 2015-12-16 | 西安未来国际信息股份有限公司 | 一种基于Web浏览器的海量POI地图数据显示方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5682441A (en) | 1995-11-08 | 1997-10-28 | Storm Technology, Inc. | Method and format for storing and selectively retrieving image data |
JP4095844B2 (ja) * | 2002-06-27 | 2008-06-04 | 株式会社ゼンリン | 電子地図データにおける経路探索用データと経路誘導用データのデータ構造、およびこれらの利用 |
JP4926891B2 (ja) * | 2007-08-30 | 2012-05-09 | 株式会社日立製作所 | 地理情報システム及び地理情報管理方法 |
JP5390840B2 (ja) * | 2008-11-27 | 2014-01-15 | 株式会社日立製作所 | 情報分析装置 |
JP5375217B2 (ja) * | 2009-03-10 | 2013-12-25 | 大日本印刷株式会社 | 地図サービスサーバおよび地図サービス方法 |
JP4798240B2 (ja) * | 2009-03-19 | 2011-10-19 | 株式会社デンソー | 地図表示装置 |
JP2011053695A (ja) * | 2010-09-29 | 2011-03-17 | Pioneer Electronic Corp | 情報表示装置、その方法、そのプログラム、および、そのプログラムを記録した記録媒体 |
US9996807B2 (en) * | 2011-08-17 | 2018-06-12 | Roundhouse One Llc | Multidimensional digital platform for building integration and analysis |
US20160259826A1 (en) * | 2015-03-02 | 2016-09-08 | International Business Machines Corporation | Parallelized Hybrid Sparse Matrix Representations for Performing Personalized Content Ranking |
JP2017032654A (ja) * | 2015-07-29 | 2017-02-09 | アイシン・エィ・ダブリュ株式会社 | 情報案内システム、情報案内方法及びコンピュータプログラム |
CN105808756B (zh) * | 2016-03-15 | 2019-05-24 | 佛山市网冠金属制品有限公司 | 一种地图检索方法及其系统 |
US10642883B2 (en) * | 2016-06-27 | 2020-05-05 | Google Llc | System and method for generating a geographic information card map |
-
2018
- 2018-02-01 CN CN201810101953.5A patent/CN110109917A/zh active Pending
-
2019
- 2019-01-30 JP JP2020541650A patent/JP2021513146A/ja active Pending
- 2019-01-30 WO PCT/CN2019/073814 patent/WO2019149204A1/zh active Application Filing
- 2019-01-30 US US16/965,278 patent/US11860843B2/en active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050165788A1 (en) * | 2003-11-19 | 2005-07-28 | Chaowei Yang | Geographic information system |
CN101246597A (zh) * | 2007-11-30 | 2008-08-20 | 北京师范大学 | 大规模矢量地图数据渐进传输和动态重建的方法 |
JP4352156B1 (ja) * | 2008-08-25 | 2009-10-28 | 兵庫県 | 地図情報処理装置、ナビゲーションシステム、およびプログラム |
CN101582077A (zh) * | 2009-06-24 | 2009-11-18 | 上海可鲁系统软件有限公司 | 一种二维矢量图形的空间索引方法及装置 |
CN101916301A (zh) * | 2010-09-01 | 2010-12-15 | 中国地质大学(武汉) | 基于空间关系的三维空间数据自适应预调度方法 |
CN101996242A (zh) * | 2010-11-02 | 2011-03-30 | 江西师范大学 | 基于三维r树索引扩展结构的三维城市模型自适应方法 |
CN102110137A (zh) * | 2011-01-04 | 2011-06-29 | 北京大学 | 一种多尺度矢量地图一致性检测方法和装置 |
CN102682083A (zh) * | 2011-04-14 | 2012-09-19 | 董福田 | 空间数据处理、化简与渐进传输的方法与装置 |
CN104063893A (zh) * | 2014-04-14 | 2014-09-24 | 北京师范大学 | 基于格式塔心理学准则和多标签图割最小化的城市建筑可视化的方法 |
CN105160005A (zh) * | 2015-09-17 | 2015-12-16 | 西安未来国际信息股份有限公司 | 一种基于Web浏览器的海量POI地图数据显示方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2019149204A1 (zh) | 2019-08-08 |
JP2021513146A (ja) | 2021-05-20 |
US11860843B2 (en) | 2024-01-02 |
US20210073194A1 (en) | 2021-03-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101546703B1 (ko) | 대용량 건물 bim데이터의 시각화 시스템 | |
CN104469395B (zh) | 图像传输方法和装置 | |
JP4336583B2 (ja) | サーバとクライアント端末との間でオブジェクトを送信する方法 | |
KR101546705B1 (ko) | Bim데이터 처리단말 장치의 건물내부 bim데이터 가시화 방법 | |
CN101082934A (zh) | 网络环境下超大规模空间数据的三维可视化方法 | |
CN101370025A (zh) | 地理信息数据的存储方法、调度方法及管理系统 | |
WO2010013854A1 (en) | Three dimensional geographical information client apparatus, server apparatus and three dimensional geographical information system having the same | |
AU2018213401B2 (en) | Digital earth framework and indexing schema to extend any "surface" Discrete Global Grid System to construct interoperable "volumetric" Discrete Global Grid Systems | |
CN102255930A (zh) | 用于提供虚拟世界的场景数据的方法和系统 | |
CN111354084A (zh) | 一种基于三维模型瓦片的网络地理信息服务系统 | |
US20200118330A1 (en) | Dynamic frontend-driven generation of an hlod tree | |
Wang et al. | Interactive level-of-detail selection using image-based quality metric for large volume visualization | |
US20080270529A1 (en) | Method for the Transmission of Content Visualization Data Between a Server and at Least One Client Terminal, Corresponding Terminal and Computer Program | |
JP2013248375A (ja) | コンピュータシステム、医用画像診断装置、画像表示方法、及び画像表示プログラム | |
Gao et al. | Visibility culling using plenoptic opacity functions for large volume visualization | |
CN109145225B (zh) | 一种数据处理方法及装置 | |
CN106502611B (zh) | 一种矢量数据的处理方法及装置 | |
CN110109917A (zh) | 一种数据的处理方法及装置 | |
CN110837540A (zh) | 一种空间位置数据的处理方法及系统 | |
CN115718824A (zh) | 一种通过空间距离判定设备位置自动推送设备信息的方法 | |
CN113495933A (zh) | 一种矢量瓦片显示方法及系统 | |
KR20010100609A (ko) | 지리정보 시스템의 지도정보 제공방법 | |
Cheng et al. | Feature extraction on 3-D TexMesh using scale-space analysis and perceptual evaluation | |
Zhang et al. | Effective solutions to a global 3D visual system in networking environments | |
CN113495935A (zh) | 一种基于不规则三角化网格剖分的地形切片方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20220927 Address after: Room 410, No. 262, Dongping Street, Suzhou Industrial Park, Suzhou Area, China (Jiangsu) Pilot Free Trade Zone, Suzhou City, Jiangsu Province, 215000 Applicant after: Suzhou Zhihe Health Biotechnology Co.,Ltd. Address before: 262 Dongping street, Suzhou Industrial Park, Jiangsu Province Applicant before: Dong Futian |
|
TA01 | Transfer of patent application right |