CN103731447A - 一种数据查询方法及系统 - Google Patents
一种数据查询方法及系统 Download PDFInfo
- Publication number
- CN103731447A CN103731447A CN201210384514.2A CN201210384514A CN103731447A CN 103731447 A CN103731447 A CN 103731447A CN 201210384514 A CN201210384514 A CN 201210384514A CN 103731447 A CN103731447 A CN 103731447A
- Authority
- CN
- China
- Prior art keywords
- data
- shared drive
- full dose
- acquisition request
- proxy server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000013507 mapping Methods 0.000 claims description 16
- 230000000977 initiatory effect Effects 0.000 claims description 11
- 238000013144 data compression Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 claims description 2
- 230000003993 interaction Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000007726 management method Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/2895—Intermediate processing functionally located close to the data provider application, e.g. reverse proxies
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/167—Interprocessor communication using a common memory, e.g. mailbox
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/2876—Pairs of inter-processing entities at each side of the network, e.g. split proxies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/289—Intermediate processing functionally located close to the data consumer application, e.g. in same machine, in same home or in same sub-network
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种数据查询系统,所述系统包括:代理服务器和至少一个代理客户端,其中,所述代理服务器设置于作为数据提供方的服务端,用于为所述代理客户端提供数据下发服务;所述代理客户端设置于作为数据使用方的客户端,用于从代理服务器获取数据并保存,以及提供数据查询服务。相应的,本发明还公开了一种数据查询方法,不仅结构简单,而且数据更新快、部署成本低、节省带宽资源和服务性能高。
Description
技术领域
本发明涉及数据查询技术,尤其涉及一种数据查询方法及系统。
背景技术
现有技术中,客户端进行IP数据查询主要通过如图1所示的网络结构实现,其中,包含有IP库推送系统和客户端,所述IP库推送系统可以包括由多个查询服务器组成的查询服务器机群、用于控制和管理各查询服务器的查询控制机、由多个接口服务器组成的接口服务器机群和用于控制和管理各接口服务器的接口控制机。
现有用于IP数据查询的IP库推送系统和IP数据查询方法,存在如下缺陷:
第一,IP库推送系统中,一次IP数据查询需要通过接口服务器和数据查询服务器来共同完成,并且还需要配置用于控制各查询服务器的查询控制机和用于控制各接口服务器的接口控制机,结构复杂,此外,由于每台查询服务器的单机数据查找能力(表示一台服务器对外提供的每秒查询次数)有限,因此,需要部署大量的服务器才能提供海量的数据查询服务,部署成本高,而且业务开发中需要大量时间进行协议调试,服务性能低下;
第二,现有的IP数据查询中,一次IP数据查询中需要进行大量查询请求和查询结果的传输,需要消耗大量带宽资源;缺乏回滚机制:如果计算系统发生错误,推送了错误数据,应用方会直接应用错误数据,无法回滚。
第三,客户端进行IP数据查询时,需要本地开发相应的查询工具和用于将IP库推送系统返回的查询结果中IP数据导入本地数据库的工具,需要进行大量的重复性开发,不仅会造成资源浪费,而且会增加IP数据查询的部署成本。
发明内容
有鉴于此,本发明的主要目的在于提供一种数据查询方法及系统,以解决现有IP数据查询中系统结构复杂、部署成本高、服务性能低下以及消耗大量资源的问题。
为达到上述目的,本发明的技术方案是这样实现的:
一种数据查询系统,所述系统包括:代理服务器和至少一个代理客户端,其中,
所述代理服务器设置于作为数据提供方的服务端,用于为所述代理客户端提供数据下发服务;
所述代理客户端设置于作为数据使用方的客户端,用于从代理服务器获取数据并保存,以及提供数据查询服务。
所述代理服务器包括:数据下载模块、数据服务模块和第一共享内存;其中,
数据下载模块,用于从外部获取数据文件,并将所述数据文件中的数据写入所述第一共享内存;
所述数据服务模块,用于接收所述代理客户端发起的数据获取请求,根据所述数据获取请求从所述第一共享内存中查询指定的数据,并通过网络将所述指定的数据返回给所述代理客户端;
所述第一共享内存,用于存储所述数据下载模块写入的数据,并供所述数据服务模块查询。
所述代理客户端包括:数据获取模块、数据查询模块和第二共享内存;其中,
数据获取模块,用于向所述代理服务器发起用于获取指定数据的数据获取请求,接收所述代理服务器返回的指定数据,并将所述指定数据写入所述第二共享内存;
数据查询模块,用于从所述第二共享内存中查询应用方指定的数据并返回给所述应用方;
所述第二共享内存,用于存储所述数据获取模块写入的数据,并供所述数据查询模块查询。
所述数据查询模块,用于通过用户数据报协议UDP包查询方式和/或应用程序编程接口API调用方式从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
所述数据查询模块包括第一数据查询子模块和/或第二数据查询子模块,其中,
第一数据查询子模块,用于接收应用方通过网络发送过来的UDP查询包,根据所述UDP查询包从所述第二共享内存中查找相应的数据,得到查询结果,并通过UDP包将所述查询结果返回给应用方;
第二数据查询子模块,用于接受应用方对自身的调用,根据应用方提供的查询条件从第二共享内存中查询相应的数据,生成查询结果并返回给所述应用方。
所述第二共享内存均包含索引段和数据段,所述索引段用于保存数据的版本信息和索引号;所述数据段用于保存数据,以及采用数据键值共享的数据压缩技术对所保存的数据进行压缩处理。
所述数据获取模块,用于向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;以及,接收所述数据服务模块返回的全量数据,并将所述全量数据写入所述第二共享内存;
所述数据服务模块,用于根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述数据获取模块。
所述数据获取模块,用于向所述代理服务器发起数据获取请求,并在所述数据获取请求中携带需获取数据的索引号范围和需获取数据在第二共享内存中的版本信息;以及,接收所述数据服务模块返回的增量数据或全量数据,将所述全量数据直接写入所述第二共享内存,或将所述增量数据与第二共享内存中相应的全量数据合并,生成最新版本的全量数据,并将所述最新版本的全量数据写入所述第二共享内存;
所述数据服务模块,用于接收所述数据获取请求,查询所述数据获取请求的索引号范围中的数据在所述第一共享内存中的版本信息,判断所述数据获取请求中的版本信息与从第一共享内存查询到的版本信息之间的时间差是否大于预设的版本阈值,如果不是,则从所述第一共享内存中查询版本信息不低于所述数据获取请求中版本信息、且索引号在所述索引号范围中的增量数据,并返回给所述数据获取模块,如果是,则从所述第一共享内存中查询最新版本的全量数据并返回给所述数据获取模块。
所述代理服务器的数据服务模块,还用于向所述代理客户端发送指示强制更新数据的数据重置消息,通知所述代理客户端更新全量数据;以及,根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;
所述代理客户端的数据获取模块,还用于接收所述指示强制更新数据的数据重置消息,向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;以及,接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
所述数据为表示IP地址到地理信息之间映射关系的IP数据、或表示媒体访问介质MAC地址到地理信息之间映射关系的MAC数据、或表示手机号码到地理信息之间映射关系的手机号码数据、或GPS定位数据。
所述代理服务器与代理客户端之间通过通用数据请求(Ask)协议通信。
一种数据查询方法,所述数据查询方法通过如下的数据查询系统来实现;
所述数据查询系统包括:代理服务器和至少一个代理客户端,其中,
所述代理服务器设置于作为数据提供方的服务端,为所述代理客户端提供数据下发服务;
所述代理客户端设置于作为数据使用方的客户端,从代理服务器获取数据并保存,以及提供数据查询服务。
所述方法包括:代理客户端的数据获取模块向所述代理服务器发起用于获取指定数据的数据获取请求,接收所述代理服务器返回的指定数据,并将所述指定数据写入所述第二共享内存;代理客户端的数据查询模块从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
所述代理客户端的数据查询模块通过用户数据报协议UDP包查询方式和/或应用程序编程接口API调用方式从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
所述数据查询模块接收应用方通过网络发送过来的UDP查询包,根据所述UDP查询包从所述第二共享内存中查找相应的数据,得到查询结果,并通过UDP包将所述查询结果返回给应用方;
和/或,所述数据查询模块接受应用方对自身的调用,根据应用方提供的查询条件从第二共享内存中查询相应的数据,生成查询结果并返回给所述应用方。
所述方法包括:代理服务器的数据下载模块从外部获取数据文件,并将所述数据文件中的数据写入第一共享内存;代理服务器的数据服务模块接收所述代理客户端发起的数据获取请求,根据所述数据获取请求从所述第一共享内存中查询指定的数据,并通过网络将所述指定的数据返回给所述代理客户端。
所述代理客户端的数据获取模块向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;
所述代理服务器的数据服务模块根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;
所述代理客户端的数据获取模块接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
所述代理客户端的数据获取模块向所述代理服务器发起数据获取请求,并在所述数据获取请求中携带需获取数据的索引号范围和需获取数据在第二共享内存中的版本信息;
所述代理服务器的数据服务模块接收所述数据获取请求,查询所述数据获取请求的索引号范围中的数据在所述第一共享内存中的版本信息,判断所述数据获取请求中的版本信息与从第一共享内存查询到的版本信息之间的时间差是否大于预设的版本阈值,如果不是,则从所述第一共享内存中查询版本信息不低于所述数据获取请求中版本信息、且索引号在所述索引号范围中的增量数据,并返回给所述数据获取模块,如果是,则从所述第一共享内存中查询最新版本的全量数据并返回给所述代理客户端;
所述代理客户端的数据获取模块接收所述代理服务器返回的增量数据或全量数据,将所述全量数据直接写入所述第二共享内存,或将所述增量数据与第二共享内存中相应的全量数据合并,生成最新版本的全量数据,并将所述最新版本的全量数据写入所述第二共享内存。
所述代理服务器的数据服务模块向所述代理客户端发送指示强制更新数据的数据重置消息,通知所述代理客户端更新全量数据;
所述代理客户端的数据获取模块接收所述指示强制更新数据的数据重置消息,向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;
所述代理服务器的数据服务模块根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;
所述代理客户端的数据获取模块接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
所述数据为表示IP地址到地理信息之间映射关系的IP数据、或表示MAC地址到地理信息之间映射关系的MAC数据、或表示手机号码到地理信息之间映射关系的手机号码数据、或GPS数据。
本发明的数据查询系统及方法,在作为数据提供方设置代理服务器,在作为数据使用方的客户端设置至少一个代理客户端,代理服务器为所述代理客户端提供数据下发服务,所述代理客户端从代理服务器获取数据并保存,以及提供数据查询服务。本发明的数据查询系统只需要代理服务器和代理客户端,且代理客户端可以与代理服务器直接交互数据,不仅结构简单,而且数据更新快;本发明中,客户端的应用方需要查询数据时,只需要通过代理客户端查询本地保存的数据即可,因此,可以避免网络异常和网络带宽对数据查询的影响和数据传输过程中的带宽浪费,节省带宽资源,并能突破网络带宽的瓶颈限制;而且,不需要在应用方再开发新的查询服务工具,部署成本低;本发明中代理服务器和代理客户端之间可以交互海量数据,服务性能高。
此外,本发明的数据查询系统还具备数据回滚功能,能够在数据发生错误时及时更新客户端的数据,避免应用方查询和应用错误的数据。
附图说明
图1为现有技术中IP数据查询的网络结构示意图;
图2为本发明数据查询系统的组成结构示意图;
图3为本发明数据查询系统的具体组成结构示意图;
图4为本发明数据查询方法的流程图;
图5为本发明查询方法应用于IP数据查询的实现过程的流程图。
具体实施方式
本发明的基本思想是:提供一种数据查询系统,该系统包括代理服务器和至少一个代理客户端,代理服务器位于作为提供方的服务器端,用于提供数据下发等服务,代理客户端位于作为应用方的客户端侧,用于向代理服务器获取指定数据并向应用方提供数据查询服务。
本发明的一种数据查询系统,其组成结构如图2所示,主要可以包括:代理服务器和至少一个代理客户端,所述代理服务器设置于作为数据提供方的服务端,用于为所述代理客户端提供数据下发服务;所述代理客户端设置于作为数据使用方的客户端,用于从代理服务器获取数据并保存,以及提供数据查询服务。这里,所述代理服务器与代理客户端之间通过通用数据请求(Ask)协议交互数据。
具体地,如图3所示,所述代理服务器可以包括:数据下载(load_data)模块、数据服务模块和第一共享内存,所述数据下载模块用于从外部(如IP数据计算系统等能够得到数据文件的数据计算系统)获取数据文件,并将所述数据文件中的数据写入所述第一共享内存,所述第一共享内存用于存储所述数据下载模块写入的数据,并供所述数据服务模块查询;数据服务模块用于接收代理客户端发起的数据获取请求,并根据所述数据获取请求从所述第一共享内存中读取指定的数据,再通过网络将所述指定的数据发送给代理客户端。
其中,第一共享内存包含索引段和数据段两部分,所述索引段用于保存数据的版本信息和索引号(Seq),所述数据段用于保存数据。这里,数据下载模块从数据计算系统获取到数据文件后,根据所述数据文件的版本信息和索引号(Seq)改写第一共享内存中的索引段,并将所述数据文件中的数据写入到所述第一共享内存的数据段中。
实际应用中,数据下载模块可以主动从数据计算系统中读取数据文件,或者可以由数据计算系统主动下发数据文件给数据下载模块。
具体地,如图3所示,所述代理客户端可以包括:数据查询模块、数据获取模块和第二共享内存,其中,数据获取模块用于向所述代理服务器发起用于获取指定数据的数据获取请求,接收所述代理服务器返回的指定数据,并将所述指定数据写入所述第二共享内存;数据查询模块,用于从所述第二共享内存中查询应用方指定的数据并返回给所述应用方;所述第二共享内存,用于存储所述数据获取模块写入的数据,并供所述数据查询模块查询。
这里,所述第二共享内存与所述第一共享内存相同,也包含索引段和数据段两部分,索引段用于保存数据的版本信息和索引号,数据段用于保存数据。第二共享内存还可以通过数据键值共享的数据压缩技术对所保存的数据进行压缩处理,例如,对于IP数据,可以将对应同一地理信息的多条IP数据合并为一个IP段,如果IP1、IP2、IP3连续的且对应相同的地理信息则可以合并为一条IP1_IP3的IP段;对于地理信息,可以通过将地理信息ID化保存,例如,中国可以保存为代码“1”,美国可以保存代码“2”等。这样,压缩后,数据量可以压缩至原始数据的10%,不仅能够降低对客户端内存的使用成本,而且能够实现海量数据在客户端的存储。这里,数据获取模块将指定数据写入到所述第二共享内存的过程可以包括:根据所述指定数据的版本信息和索引号改写第二共享内存中的索引段,并将所述指定数据写入到所述第二共享内存的数据段中。
这里,所述数据获取模块与所述数据服务模块可以通过Ask协议交互数据。这里,Ask协议是基于用户数据报协议(UDP,User Datagram Protocol)的应用层私有协议,用于数据请求,主要分重置(reset)、请求(ask)、数据(data)三种包,Reset用来强制客户端获取指定版本的数据,ask用来说明客户端请求的数据版本和索引号,Data是服务端下发的具体数据,客户端和服务端之间的心跳通过ask包进行。实际应用中,数据获取模块可以在线模式和离线模式下工作,具体地,数据获取模块通过一次心跳联系从数据服务模块获取数据之后,保持为在线模块,通过Ask协议定时与数据服务模块之间进行心跳联系,通过该心跳联系定时从数据服务模块获取最新版本的数据;数据获取模块通过一次心跳联系从数据服务模块获取数据之后,置为离线模式,不再与数据服务模块保持心跳联系,在需要时调整为在线模块再从数据服务模块获取数据。
实际应用中,如果是第一次获取数据,则数据获取模块向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;以及,接收所述数据服务模块返回的全量数据,并将所述全量数据写入所述第二共享内存;相应的,数据服务模块根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述数据获取模块;
如果是第二次获取数据,则数据获取模块向所述代理服务器发起数据获取请求,并在所述数据获取请求中携带需获取数据的索引号范围和需获取数据在第二共享内存中的版本信息;以及,接收所述数据服务模块返回的增量数据或全量数据,将所述增量数据与所述第二共享内存中相应的全量数据合并(这里的相应全量数据为数据获取模块所携带版本信息对应的全量数据),生成最新版本的全量数据,再将所述最新版本的全量数据写入到第二共享内存中,对于全量数据,或者可以直接将所述数据服务模块返回的全量数据写入到第二共享内存中;相应的,数据服务模块接收所述数据获取请求,查询所述数据获取请求的索引号范围中的数据在所述第一共享内存中的版本信息,判断所述数据获取请求中的版本信息与从第一共享内存查询到的版本信息之间的时间差是否大于预设的版本阈值,如果不是,则从所述第一共享内存中查询版本信息不低于所述数据获取请求中版本信息、且索引号在所述索引号范围中的增量数据,并返回给所述数据获取模块,如果是,则从所述第一共享内存中查询最新版本的全量数据并返回给所述数据获取模块。例如,如果数据服务模块判断所述数据获取请求中的版本信息与本地最新的版本信息之间的时间差超过一个月,则查询最新版本的全量数据并返回给所述数据获取模块,如果数据服务模块判断所述数据获取请求中的版本信息与本地最新的版本信息之间的时间差不超过一个月,则查询版本信息不低于所述数据获取请求中版本信息的增量数据并返回给所述数据获取模块。其中,增量数据表示更新前的全量数据与更新后的全量数据相比所变化的数据。
这里,本发明还可以实现强制数据回滚。具体地,在数据提供方发现数据有错误时,由代理服务器的数据服务模块向所述代理客户端发送指示强制更新数据的数据重置消息(reset消息),通知所述代理客户端更新全量数据;所述代理客户端的数据获取模块接收所述指示强制更新数据的数据重置消息,向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;然后,代理服务器的数据服务模块再根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;最后,代理客户端的数据获取模块接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。如此,在发现数据错误(如数据计算系统发生错误或者传输了错误数据)时,可以及时进行数据的全量回滚,从而立即恢复客户端的数据到最新版本的全量数据,避免应用方查询和使用了错误的数据。其中,所述指示强制更新数据的数据重置消息中可以包含需更新数据的版本信息和索引号范围。
具体地,数据查询模块具体用于通过UDP包查询方式或API调用方式从第二共享内存中查询应用方指定的数据并返回给应用方。这样,通过客户端本地的内存访问,就能实现数据查询,能够突破网络带宽的瓶颈限制,数据查询能力也能够提高一个数量级,并且当客户端与服务端之间的网络不可用时,客户端依然能够正常获取稳定高效的查询服务。
这里,所述数据查询模块可以包括第一数据查询子模块和/或第二数据查询子模块,第一数据查询子模块用于向应用方提供UDP包查询服务,即接收应用方通过网络发送过来的UDP查询包(如查询IP包),并根据所述查询包从所述第二共享内存中查找相应的数据(如包含IP地址和地理信息之间映射关系的IP数据),得到查询结果,并通过UDP包将所述查询结果返回给应用方;第二数据查询子模块,用于向应用方提供应用程序编程接口(API)调用的查询服务,即接受应用方对自身的调用,根据应用方提供的查询条件从第二共享内存中查询相应的数据,生成查询结果并返回给所述应用方。
实际应用中,第二数据查询子模块具体可以是一个用于向第二共享内存查询指定数据的API函数,应用方可以在代码中调用该API函数,来查询所需数据,这样可以为应用方提供高频、低延时的数据访问,效率比传统的网络模式高一个量级。
实际应用中,所述代理服务器可以是安装在服务端一台硬件设备(如服务器)上的软件,所述代理客户端是安装在客户端一台硬件设备(如服务器、PC机等)上的软件,在客户端的应用方需要数据查询服务时,只需要在客户端上安装所述代理客户端,便能够与服务端交互数据获取数据并进行数据查询。
相应的,本发明还提供了一种通过上述数据查询系统实现的数据查询方法,如图4所示,所述方法主要可以包括如下步骤:
步骤401:代理客户端的数据获取模块向代理服务器发起用于获取指定数据的数据获取请求,接收所述代理服务器返回的指定数据,并将所述指定数据写入所述第二共享内存;
步骤402:代理客户端的数据查询模块从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
在步骤401之前,所述方法还可以包括:代理服务器的数据下载模块从外部获取数据文件,并将所述数据文件中的数据写入第一共享内存;代理服务器的数据服务模块接收所述代理客户端发起的数据获取请求,根据所述数据获取请求从所述第一共享内存中查询指定的数据,并通过网络将所述指定的数据返回给所述代理客户端。
如图5所示,通过本发明的数据查询系统,实现IP数据(即IP地址到地理信息的映射数据)查询的过程具体可以包括如下步骤:
步骤501:代理服务器的数据下载模块从外部的IP数据计算系统中获取到数据文件,并将所述数据文件中的数据写入第一共享内存;
具体地,IP数据计算系统计算得到包含有IP数据的数据文件后,代理服务器的数据下载模块访问所述IP数据计算系统,从所述IP数据计算系统中获取所述数据文件,并将所述数据文件中的IP数据写入到所述第一共享内存的数据段区域中,将所述数据文件的版本信息和各IP数据的索引号写入所述第一共享内存的索引段区域中。
步骤502:代理客户端的数据获取模块向所述代理服务器发起数据获取请求,请求获取指定的数据;
具体地,如果代理客户端是第一次请求获取数据,则所述数据获取请求指示请求获取指定索引号范围内的全量数据;如果代理客户端不是第一次请求获取数据,则向所述代理服务器发起的数据获取请求中携带需获取数据的索引号范围和版本信息。
步骤503:代理服务器的数据服务模块接收所述数据获取请求,从所述第一共享内存中查询所述数据获取请求所指定的IP数据,读取查询到的IP数据并通过网络返回给所述代理客户端;
具体地,如果所述数据获取请求指示请求获取指定索引号范围内的全量IP数据,则数据服务模块从所述第一共享内存中查询指定索引号范围内的最新版本全量IP数据,读取所述最新版本全量IP数据并返回给所述代理客户端;如果所述数据获取请求中携带需获取IP数据的索引号范围和版本信息,则数据服务模块需获取IP数据的索引号范围从第一共享内存中查询到相应的版本信息,判断所述数据获取请求中的版本信息和查询到的版本信息之间的时间差是否在预设的版本阈值内,如果是,数据服务模块从所述第一共享内存中查询版本信息不低于所述数据获取请求中版本信息、且索引号在所述索引号范围中的增量IP数据,读取查询到的增量IP数据并返回给所述代理客户端,如果不是,则从所述第一共享内存中查询所述数据获取请求中索引号范围内最新版本的全量IP数据,读取查询到的全量IP数据并返回给所述代理客户端。
步骤504:代理客户端的数据获取模块接收所述代理服务器返回的IP数据,并将所述IP数据写入第二共享内存;
具体地,代理客户端的数据获取模块将所述IP数据写入到所述第二共享内存的数据段区域中,将所述IP数据的版本信息和索引号写入所述第二共享内存的索引段区域中。
这里,如果代理服务器返回的是全量IP数据,则代理客户端直接将所述全量IP数据写入到第二共享内存中,并更新其版本信息和索引号;如果代理服务器返回的是增量IP数据,则代理客户端将所述增量IP数据与第二共享内存中相应的全量IP数据合并,生成最新版本的全量IP数据,再将该全量IP数据写入到第二共享内存中,并更新其版本信息和索引号。
步骤505:代理客户端的数据查询模块接收应用方发起的查询请求,根据所述查询请求从第二共享内存中查询相应的IP数据,读取查询到的IP数据并将所述IP数据返回给所述应用方。
具体地,代理客户端的数据查询模块接收应用方发起的查询请求,通过UDP包查询方式和/或应用程序编程接口API调用方式从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
在接收到应用方通过网络发送过来的UDP查询包时,根据所述UDP查询包从所述第二共享内存中查找相应的IP数据,得到包含有所查询到IP数据的查询结果,并通过UDP包将所述查询结果返回给应用方。
应用方在代码中输入查询条件(即查询请求后),接受应用方对自身的调用,根据应用方提供的查询条件从第二共享内存中查询相应的IP数据,生成包含有所查询到IP数据的查询结果并返回给所述应用方。
这里,如果发现错误数据,在上述IP数据的查询流程中还可以包括如下数据回滚的流程,具体可以包括如下步骤(未在图5中示出):
步骤a1:所述代理服务器的数据服务模块向所述代理客户端发送指示强制更新数据的数据重置消息,通知所述代理客户端更新全量数据;
步骤a2:所述代理客户端的数据获取模块接收所述指示强制更新数据的数据重置消息,向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;
步骤a3:所述代理服务器的数据服务模块根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,读取所述全量数据并将所述全量数据返回给所述代理客户端;
步骤a4:所述代理客户端的数据获取模块接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
需要说明的是,本发明的上述数据查询系统及数据查询方法可以应用于媒体接入控制(MAC,Media Access Control)数据(表示MAC地址到地理信息之间映射关系)、全球定位系统(GPS,Global Positioning System)数据和手机号码数据(表示手机号码到地理信息之间映射关系)等数据查询中,例如,可以应用于GPS定位、手机归属地查询等业务中。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。
Claims (20)
1.一种数据查询系统,其特征在于,所述系统包括:代理服务器和至少一个代理客户端,其中,
所述代理服务器设置于作为数据提供方的服务端,用于为所述代理客户端提供数据下发服务;
所述代理客户端设置于作为数据使用方的客户端,用于从代理服务器获取数据并保存,以及提供数据查询服务。
2.根据权利要求1所述的数据查询系统,其特征在于,所述代理服务器包括:数据下载模块、数据服务模块和第一共享内存;其中,
数据下载模块,用于从外部获取数据文件,并将所述数据文件中的数据写入所述第一共享内存;
所述数据服务模块,用于接收所述代理客户端发起的数据获取请求,根据所述数据获取请求从所述第一共享内存中查询指定的数据,并通过网络将所述指定的数据返回给所述代理客户端;
所述第一共享内存,用于存储所述数据下载模块写入的数据,并供所述数据服务模块查询。
3.根据权利要求1所述的数据查询系统,其特征在于,所述代理客户端包括:数据获取模块、数据查询模块和第二共享内存;其中,
数据获取模块,用于向所述代理服务器发起用于获取指定数据的数据获取请求,接收所述代理服务器返回的指定数据,并将所述指定数据写入所述第二共享内存;
数据查询模块,用于从所述第二共享内存中查询应用方指定的数据并返回给所述应用方;
所述第二共享内存,用于存储所述数据获取模块写入的数据,并供所述数据查询模块查询。
4.根据权利要求3所述的数据查询系统,其特征在于,所述数据查询模块,用于通过用户数据报协议UDP包查询方式和/或应用程序编程接口API调用方式从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
5.根据权利要求4所述的数据查询系统,其特征在于,所述数据查询模块包括第一数据查询子模块和/或第二数据查询子模块,其中,
第一数据查询子模块,用于接收应用方通过网络发送过来的UDP查询包,根据所述UDP查询包从所述第二共享内存中查找相应的数据,得到查询结果,并通过UDP包将所述查询结果返回给应用方;
第二数据查询子模块,用于接受应用方对自身的调用,根据应用方提供的查询条件从第二共享内存中查询相应的数据,生成查询结果并返回给所述应用方。
6.根据权利要求2或3所述的数据查询系统,其特征在于,所述第二共享内存均包含索引段和数据段,所述索引段用于保存数据的版本信息和索引号;所述数据段用于保存数据,以及采用数据键值共享的数据压缩技术对所保存的数据进行压缩处理。
7.根据权利要求6所述的数据查询系统,其特征在于,
所述数据获取模块,用于向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;以及,接收所述数据服务模块返回的全量数据,并将所述全量数据写入所述第二共享内存;
所述数据服务模块,用于根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述数据获取模块。
8.根据权利要求6所述的数据查询系统,其特征在于,
所述数据获取模块,用于向所述代理服务器发起数据获取请求,并在所述数据获取请求中携带需获取数据的索引号范围和需获取数据在第二共享内存中的版本信息;以及,接收所述数据服务模块返回的增量数据或全量数据,将所述全量数据直接写入所述第二共享内存,或将所述增量数据与第二共享内存中相应的全量数据合并,生成最新版本的全量数据,并将所述最新版本的全量数据写入所述第二共享内存;
所述数据服务模块,用于接收所述数据获取请求,查询所述数据获取请求的索引号范围中的数据在所述第一共享内存中的版本信息,判断所述数据获取请求中的版本信息与从第一共享内存查询到的版本信息之间的时间差是否大于预设的版本阈值,如果不是,则从所述第一共享内存中查询版本信息不低于所述数据获取请求中版本信息、且索引号在所述索引号范围中的增量数据,并返回给所述数据获取模块,如果是,则从所述第一共享内存中查询最新版本的全量数据并返回给所述数据获取模块。
9.根据权利要求6所述的数据查询系统,其特征在于,
所述代理服务器的数据服务模块,还用于向所述代理客户端发送指示强制更新数据的数据重置消息,通知所述代理客户端更新全量数据;以及,根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;
所述代理客户端的数据获取模块,还用于接收所述指示强制更新数据的数据重置消息,向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;以及,接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
10.根据权利要求1至5任一项所述的数据查询系统,其特征在于,所述数据为表示IP地址到地理信息之间映射关系的IP数据、或表示媒体访问介质MAC地址到地理信息之间映射关系的MAC数据、或表示手机号码到地理信息之间映射关系的手机号码数据、或GPS定位数据。
11.根据权利要求1至5任一项所述的数据查询系统,其特征在于,所述代理服务器与代理客户端之间通过通用数据请求(Ask)协议通信。
12.一种数据查询方法,其特征在于,所述数据查询方法通过如下的数据查询系统来实现;
所述数据查询系统包括:代理服务器和至少一个代理客户端,其中,
所述代理服务器设置于作为数据提供方的服务端,为所述代理客户端提供数据下发服务;
所述代理客户端设置于作为数据使用方的客户端,从代理服务器获取数据并保存,以及提供数据查询服务。
13.根据权利要求12所述的数据查询方法,其特征在于,所述方法包括:
代理客户端的数据获取模块向所述代理服务器发起用于获取指定数据的数据获取请求,接收所述代理服务器返回的指定数据,并将所述指定数据写入所述第二共享内存;
代理客户端的数据查询模块从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
14.根据权利要求13所述的数据查询方法,其特征在于,所述代理客户端的数据查询模块通过用户数据报协议UDP包查询方式和/或应用程序编程接口API调用方式从所述第二共享内存中查询应用方指定的数据并返回给所述应用方。
15.根据权利要求14所述的数据查询方法,其特征在于,
所述数据查询模块接收应用方通过网络发送过来的UDP查询包,根据所述UDP查询包从所述第二共享内存中查找相应的数据,得到查询结果,并通过UDP包将所述查询结果返回给应用方;
和/或,所述数据查询模块接受应用方对自身的调用,根据应用方提供的查询条件从第二共享内存中查询相应的数据,生成查询结果并返回给所述应用方。
16.根据权利要求12所述的数据查询方法,其特征在于,所述方法包括:
代理服务器的数据下载模块从外部获取数据文件,并将所述数据文件中的数据写入第一共享内存;
代理服务器的数据服务模块接收所述代理客户端发起的数据获取请求,根据所述数据获取请求从所述第一共享内存中查询指定的数据,并通过网络将所述指定的数据返回给所述代理客户端。
17.根据权利要求12至16任一项所述的数据查询方法,其特征在于,
所述代理客户端的数据获取模块向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;
所述代理服务器的数据服务模块根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;
所述代理客户端的数据获取模块接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
18.根据权利要求12至16任一项所述的数据查询方法,其特征在于,
所述代理客户端的数据获取模块向所述代理服务器发起数据获取请求,并在所述数据获取请求中携带需获取数据的索引号范围和需获取数据在第二共享内存中的版本信息;
所述代理服务器的数据服务模块接收所述数据获取请求,查询所述数据获取请求的索引号范围中的数据在所述第一共享内存中的版本信息,判断所述数据获取请求中的版本信息与从第一共享内存查询到的版本信息之间的时间差是否大于预设的版本阈值,如果不是,则从所述第一共享内存中查询版本信息不低于所述数据获取请求中版本信息、且索引号在所述索引号范围中的增量数据,并返回给所述数据获取模块,如果是,则从所述第一共享内存中查询最新版本的全量数据并返回给所述代理客户端;
所述代理客户端的数据获取模块接收所述代理服务器返回的增量数据或全量数据,将所述全量数据直接写入所述第二共享内存,或将所述增量数据与第二共享内存中相应的全量数据合并,生成最新版本的全量数据,并将所述最新版本的全量数据写入所述第二共享内存。
19.根据权利要求12至16任一项所述的数据查询方法,其特征在于,
所述代理服务器的数据服务模块向所述代理客户端发送指示强制更新数据的数据重置消息,通知所述代理客户端更新全量数据;
所述代理客户端的数据获取模块接收所述指示强制更新数据的数据重置消息,向所述代理服务器发起数据获取请求,并在所述数据获取请求中指示请求获取最新版本的全量数据;
所述代理服务器的数据服务模块根据所述指示请求获取最新版本全量数据的数据获取请求,从所述第一共享内存中查询最新版本的全量数据,并将所述全量数据返回给所述代理客户端;
所述代理客户端的数据获取模块接收所述代理服务器返回的全量数据,并将所述全量数据写入所述第二共享内存。
20.根据权利要求12至16任一项所述的数据查询方法,其特征在于,
所述数据为表示IP地址到地理信息之间映射关系的IP数据、或表示MAC地址到地理信息之间映射关系的MAC数据、或表示手机号码到地理信息之间映射关系的手机号码数据、或GPS数据。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210384514.2A CN103731447B (zh) | 2012-10-11 | 2012-10-11 | 一种数据查询方法及系统 |
PCT/CN2013/082082 WO2014056356A1 (zh) | 2012-10-11 | 2013-08-22 | 一种数据查询方法、系统及存储介质 |
US14/681,284 US20150213134A1 (en) | 2012-10-11 | 2015-04-08 | Data query method and system and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210384514.2A CN103731447B (zh) | 2012-10-11 | 2012-10-11 | 一种数据查询方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103731447A true CN103731447A (zh) | 2014-04-16 |
CN103731447B CN103731447B (zh) | 2019-03-26 |
Family
ID=50455374
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210384514.2A Active CN103731447B (zh) | 2012-10-11 | 2012-10-11 | 一种数据查询方法及系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20150213134A1 (zh) |
CN (1) | CN103731447B (zh) |
WO (1) | WO2014056356A1 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105138376A (zh) * | 2015-09-01 | 2015-12-09 | 北京皮尔布莱尼软件有限公司 | 混合模式应用、其网页资源升级方法、移动终端以及系统 |
CN107093132A (zh) * | 2017-04-24 | 2017-08-25 | 上海者信息科技有限公司 | 一种语料交易方法及系统 |
CN108564250A (zh) * | 2018-03-07 | 2018-09-21 | 中国平安人寿保险股份有限公司 | 转发记录实时查看系统、方法、计算机设备及存储介质 |
CN108632300A (zh) * | 2017-03-15 | 2018-10-09 | 阿里巴巴集团控股有限公司 | 数据同步系统、方法、服务器、客户端及电子设备 |
CN113360166A (zh) * | 2021-05-31 | 2021-09-07 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
Families Citing this family (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8930331B2 (en) | 2007-02-21 | 2015-01-06 | Palantir Technologies | Providing unique views of data based on changes or rules |
US8429194B2 (en) | 2008-09-15 | 2013-04-23 | Palantir Technologies, Inc. | Document-based workflows |
US8799240B2 (en) | 2011-06-23 | 2014-08-05 | Palantir Technologies, Inc. | System and method for investigating large amounts of data |
US9547693B1 (en) | 2011-06-23 | 2017-01-17 | Palantir Technologies Inc. | Periodic database search manager for multiple data sources |
US9092482B2 (en) | 2013-03-14 | 2015-07-28 | Palantir Technologies, Inc. | Fair scheduling for mixed-query loads |
US8504542B2 (en) | 2011-09-02 | 2013-08-06 | Palantir Technologies, Inc. | Multi-row transactions |
US9116975B2 (en) | 2013-10-18 | 2015-08-25 | Palantir Technologies Inc. | Systems and user interfaces for dynamic and interactive simultaneous querying of multiple data stores |
CN105099866B (zh) * | 2014-05-23 | 2019-04-12 | 腾讯科技(北京)有限公司 | 数据显示的控制方法及装置 |
US9619557B2 (en) | 2014-06-30 | 2017-04-11 | Palantir Technologies, Inc. | Systems and methods for key phrase characterization of documents |
US9535974B1 (en) | 2014-06-30 | 2017-01-03 | Palantir Technologies Inc. | Systems and methods for identifying key phrase clusters within documents |
US9229952B1 (en) | 2014-11-05 | 2016-01-05 | Palantir Technologies, Inc. | History preserving data pipeline system and method |
US10552994B2 (en) | 2014-12-22 | 2020-02-04 | Palantir Technologies Inc. | Systems and interactive user interfaces for dynamic retrieval, analysis, and triage of data items |
US9348920B1 (en) | 2014-12-22 | 2016-05-24 | Palantir Technologies Inc. | Concept indexing among database of documents using machine learning techniques |
US10452651B1 (en) | 2014-12-23 | 2019-10-22 | Palantir Technologies Inc. | Searching charts |
US9817563B1 (en) | 2014-12-29 | 2017-11-14 | Palantir Technologies Inc. | System and method of generating data points from one or more data stores of data items for chart creation and manipulation |
US9672257B2 (en) | 2015-06-05 | 2017-06-06 | Palantir Technologies Inc. | Time-series data storage and processing database system |
US9384203B1 (en) | 2015-06-09 | 2016-07-05 | Palantir Technologies Inc. | Systems and methods for indexing and aggregating data records |
US9996595B2 (en) | 2015-08-03 | 2018-06-12 | Palantir Technologies, Inc. | Providing full data provenance visualization for versioned datasets |
US9454564B1 (en) | 2015-09-09 | 2016-09-27 | Palantir Technologies Inc. | Data integrity checks |
US9576015B1 (en) | 2015-09-09 | 2017-02-21 | Palantir Technologies, Inc. | Domain-specific language for dataset transformations |
US9542446B1 (en) | 2015-12-17 | 2017-01-10 | Palantir Technologies, Inc. | Automatic generation of composite datasets based on hierarchical fields |
US10007674B2 (en) | 2016-06-13 | 2018-06-26 | Palantir Technologies Inc. | Data revision control in large-scale data analytic systems |
US10885009B1 (en) * | 2016-06-14 | 2021-01-05 | Amazon Technologies, Inc. | Generating aggregate views for data indices |
US9753935B1 (en) | 2016-08-02 | 2017-09-05 | Palantir Technologies Inc. | Time-series data storage and processing database system |
US10133588B1 (en) | 2016-10-20 | 2018-11-20 | Palantir Technologies Inc. | Transforming instructions for collaborative updates |
US10318630B1 (en) | 2016-11-21 | 2019-06-11 | Palantir Technologies Inc. | Analysis of large bodies of textual data |
US10884875B2 (en) | 2016-12-15 | 2021-01-05 | Palantir Technologies Inc. | Incremental backup of computer data files |
US10223099B2 (en) | 2016-12-21 | 2019-03-05 | Palantir Technologies Inc. | Systems and methods for peer-to-peer build sharing |
US10896097B1 (en) | 2017-05-25 | 2021-01-19 | Palantir Technologies Inc. | Approaches for backup and restoration of integrated databases |
GB201708818D0 (en) | 2017-06-02 | 2017-07-19 | Palantir Technologies Inc | Systems and methods for retrieving and processing data |
US10956406B2 (en) | 2017-06-12 | 2021-03-23 | Palantir Technologies Inc. | Propagated deletion of database records and derived data |
US11334552B2 (en) | 2017-07-31 | 2022-05-17 | Palantir Technologies Inc. | Lightweight redundancy tool for performing transactions |
US10417224B2 (en) | 2017-08-14 | 2019-09-17 | Palantir Technologies Inc. | Time series database processing system |
US10216695B1 (en) | 2017-09-21 | 2019-02-26 | Palantir Technologies Inc. | Database system for time series data storage, processing, and analysis |
US11157568B2 (en) * | 2017-11-01 | 2021-10-26 | Sap Se | Offline mode for mobile application |
US11281726B2 (en) | 2017-12-01 | 2022-03-22 | Palantir Technologies Inc. | System and methods for faster processor comparisons of visual graph features |
US10614069B2 (en) | 2017-12-01 | 2020-04-07 | Palantir Technologies Inc. | Workflow driven database partitioning |
US11016986B2 (en) | 2017-12-04 | 2021-05-25 | Palantir Technologies Inc. | Query-based time-series data display and processing system |
US10754822B1 (en) | 2018-04-18 | 2020-08-25 | Palantir Technologies Inc. | Systems and methods for ontology migration |
GB201807534D0 (en) | 2018-05-09 | 2018-06-20 | Palantir Technologies Inc | Systems and methods for indexing and searching |
US11468175B2 (en) * | 2019-07-31 | 2022-10-11 | Salesforce, Inc. | Caching for high-performance web applications |
CN110674421A (zh) * | 2019-08-30 | 2020-01-10 | 视联动力信息技术股份有限公司 | 一种视频会议的数据查询方法及系统 |
KR102197329B1 (ko) * | 2020-01-09 | 2020-12-31 | 주식회사 카카오뱅크 | 스크래핑 기반 서비스 제공 방법 및 이를 수행하는 어플리케이션 |
CN112100152A (zh) * | 2020-09-14 | 2020-12-18 | 广州华多网络科技有限公司 | 业务数据处理方法、系统、服务器和可读存储介质 |
US11693837B2 (en) * | 2020-09-18 | 2023-07-04 | Databricks, Inc. | Model ML registry and model serving |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1011244A2 (en) * | 1998-12-16 | 2000-06-21 | Lucent Technologies Inc. | Method and apparatus for transparently directing requests for web objects to proxy caches |
CN1526227A (zh) * | 2001-07-06 | 2004-09-01 | ض� | 用于对等服务的方法和装备 |
CN101325611A (zh) * | 2008-07-30 | 2008-12-17 | 金蝶软件(中国)有限公司 | 一种点对点下载的方法及装置 |
CN101662503A (zh) * | 2009-09-14 | 2010-03-03 | 金蝶软件(中国)有限公司 | 网络中的信息传输方法、代理服务器和服务系统 |
CN102073494A (zh) * | 2010-12-30 | 2011-05-25 | 用友软件股份有限公司 | 缓存数据管理方法和装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7120862B1 (en) * | 1998-12-01 | 2006-10-10 | Lucent Technologies Inc. | Method and apparatus for persistent access to Web resources using variable time-stamps |
US6947440B2 (en) * | 2000-02-15 | 2005-09-20 | Gilat Satellite Networks, Ltd. | System and method for internet page acceleration including multicast transmissions |
US7562112B2 (en) * | 2001-07-06 | 2009-07-14 | Intel Corporation | Method and apparatus for peer-to-peer services for efficient transfer of information between networks |
US6944634B2 (en) * | 2002-04-24 | 2005-09-13 | Hewlett-Packard Development Company, L.P. | File caching method and apparatus |
US7222305B2 (en) * | 2003-03-13 | 2007-05-22 | Oracle International Corp. | Method of sharing a desktop with attendees of a real-time collaboration |
US7506010B2 (en) * | 2005-02-08 | 2009-03-17 | Pro Softnet Corporation | Storing and retrieving computer data files using an encrypted network drive file system |
US9208453B2 (en) * | 2009-02-13 | 2015-12-08 | Paypal, Inc. | Targeted multi-dimension data extraction for real-time analysis |
-
2012
- 2012-10-11 CN CN201210384514.2A patent/CN103731447B/zh active Active
-
2013
- 2013-08-22 WO PCT/CN2013/082082 patent/WO2014056356A1/zh active Application Filing
-
2015
- 2015-04-08 US US14/681,284 patent/US20150213134A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1011244A2 (en) * | 1998-12-16 | 2000-06-21 | Lucent Technologies Inc. | Method and apparatus for transparently directing requests for web objects to proxy caches |
CN1526227A (zh) * | 2001-07-06 | 2004-09-01 | ض� | 用于对等服务的方法和装备 |
CN101325611A (zh) * | 2008-07-30 | 2008-12-17 | 金蝶软件(中国)有限公司 | 一种点对点下载的方法及装置 |
CN101662503A (zh) * | 2009-09-14 | 2010-03-03 | 金蝶软件(中国)有限公司 | 网络中的信息传输方法、代理服务器和服务系统 |
CN102073494A (zh) * | 2010-12-30 | 2011-05-25 | 用友软件股份有限公司 | 缓存数据管理方法和装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105138376A (zh) * | 2015-09-01 | 2015-12-09 | 北京皮尔布莱尼软件有限公司 | 混合模式应用、其网页资源升级方法、移动终端以及系统 |
CN108632300A (zh) * | 2017-03-15 | 2018-10-09 | 阿里巴巴集团控股有限公司 | 数据同步系统、方法、服务器、客户端及电子设备 |
CN107093132A (zh) * | 2017-04-24 | 2017-08-25 | 上海者信息科技有限公司 | 一种语料交易方法及系统 |
CN108564250A (zh) * | 2018-03-07 | 2018-09-21 | 中国平安人寿保险股份有限公司 | 转发记录实时查看系统、方法、计算机设备及存储介质 |
CN113360166A (zh) * | 2021-05-31 | 2021-09-07 | 珠海大横琴科技发展有限公司 | 一种数据处理的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
US20150213134A1 (en) | 2015-07-30 |
WO2014056356A1 (zh) | 2014-04-17 |
CN103731447B (zh) | 2019-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103731447A (zh) | 一种数据查询方法及系统 | |
WO2021121370A1 (zh) | 用于消息队列的消息丢失检测方法和装置 | |
US8554887B2 (en) | System and method for efficient transfer of applications and data during device swap | |
CN100411341C (zh) | 一种并行下载方法和终端 | |
CN107317830B (zh) | 一种服务发现的处理方法及装置 | |
CN101316226B (zh) | 一种获取资源的方法、装置及系统 | |
CN102571940B (zh) | 应用程序远程安装系统、方法、智能终端、应用服务器 | |
CN103023857B (zh) | 一种信息资源远程部署的方法及系统 | |
EP1940107A1 (en) | A method for processing data synchronization and client terminal, server and data synchronization system thereof | |
CN105095022B (zh) | 一种数据备份方法及装置 | |
EP2214372B1 (en) | Method and apparatus for tracking device management data changes | |
CN104156225A (zh) | 一种安装包的下载方法、系统及服务器 | |
CN103440142A (zh) | 基于gprs远程升级及动态加载方法 | |
JP2019535060A (ja) | ソフトウェアアップデートシステム、ファームウェアオーバーザエアーアップデートシステム、及び、クライアントデバイスをアップデートする方法 | |
CN105246054A (zh) | 一种适用于android智能手机的消息推送方法 | |
WO2012035461A2 (en) | Device management using a restful interface | |
CN101192936A (zh) | 一种建立数据访问连接的方法、系统及用户终端 | |
CN111367685B (zh) | 接口调用的方法及装置、计算机设备、存储介质 | |
CN104301352B (zh) | 双卡终端的适配方法和装置 | |
CN106534049B (zh) | 基于服务器的数据下发方法、客户端、服务器及系统 | |
KR100884543B1 (ko) | 자료 동기화 방법 및 그에 따른 자료 동기화 게이트웨이 | |
CN101883419A (zh) | 客户端信息的同步方法和系统 | |
JPH11345179A (ja) | データ管理方法、データ管理システム及び構成装置、記録媒体 | |
CN102812690B (zh) | 获取数据类型定义的方法和装置 | |
CN108111329A (zh) | 基于tcp长链接的海量用户接入方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |