CN111651453A - 用户历史行为查询方法、装置、电子设备及存储介质 - Google Patents
用户历史行为查询方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111651453A CN111651453A CN202010370029.4A CN202010370029A CN111651453A CN 111651453 A CN111651453 A CN 111651453A CN 202010370029 A CN202010370029 A CN 202010370029A CN 111651453 A CN111651453 A CN 111651453A
- Authority
- CN
- China
- Prior art keywords
- data
- query
- user
- historical behavior
- event detail
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000006399 behavior Effects 0.000 claims description 120
- 238000005192 partition Methods 0.000 claims description 8
- 238000000638 solvent extraction Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000004048 modification Effects 0.000 description 15
- 238000012986 modification Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 10
- 230000001360 synchronised effect Effects 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 239000000446 fuel Substances 0.000 description 4
- 238000013500 data storage Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 239000002699 waste material Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000011068 loading method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及一种大数据,揭露了一种用户历史行为查询方法,包括:获取用户的历史行为数据集中每个历史行为的基础数据表;将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;对用户输入的查询内容进行解析,转化为符合所述搜索服务器的搜索语法的查询字符串,根据所述查询字符串在所述搜索服务器中查询,得到查询结果;根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。本发明还涉及区块链技术,所述用户的历史行为数据集可存储于区块链中。本发明可以实现在海量数据中快速查询具有多种查询条件的数据的功能。
Description
技术领域
本发明涉及大数据查询领域,尤其涉及一种用户历史行为查询的方法、装置及计算机可读存储介质。
背景技术
传统数据库的存储量较小,很难支持海量的数据量,而在大数据时代下,Hive数仓虽然能支撑海量数据的存储,但是无法做到快速查询,Hbase是一个高可靠性、高性能、面向列和可扩展的分布式存储系统,适合各种结构化和半结构化的数据存储,同时提供了高效的读写性能,但是Hbase却仅支持基于单一行键的查询,无法满足多种查询条件的搜索,实现对用户历史行为轨迹的挖掘。
发明内容
本发明提供一种用户历史行为查询方法、装置及计算机可读存储介质,其主要目的在于解决传统数据库不能在海量数据中快速查询具有多种查询条件的数据的问题。
为实现上述目的,本发明提供的一种用户历史行为查询方法,包括:
获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表;
将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;
对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果;
根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
可选地,所述预设数据库为区块链中的一个存储节点,所述将所述基础数据表同步到预设数据库中得到事件详情表,包括:
在所述数据库中创建空白数据表,将所述空白数据表进行预分区;
将所述基础数据表的事件详情数据写入所述空白数据表的分区中,得到事件详情表;
在所述基础数据表数据的数据更新时,利用预构建的数据更新程序,对所述事件详情表进行同步更新。
可选地,所述预设搜索服务器为区块链中的一个服务器节点,所述将所述基础数据表同步到预设搜索服务器中得到一级索引表,包括:
获取所述基础数据表包括的字段信息,将所述字段信息作为搜索条件数据写入所述搜索服务器中;
通过所述搜索条件数据查询所述事件详情表内的对应数据,并将所述对应数据的主键作为自定义ID写入所述搜索服务器中,得到与所述事件详情表对应的一级索引表。
可选地,所述根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为,包括:
根据所述查询结果获取对应的所述事件详情表的主键;
根据所述主键,在所述事件详情表中查询符合所述查询内容的事件详情信息,得到需要查询的用户的历史行为数据。
可选地,所述方法还包括:
在所述搜索服务器中,新增多个一个或者多个二级索引表,用于保存与所述一级索引表不同内容;
将所述二级索引表与所述一级索引表进行联接,得到索引库。
为了解决上述问题,本发明还提供一种用户历史行为查询装置,所述装置包括:
数据整理模块,用于获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表;
数据同步模块,用于将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;
索引查询模块,用于对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果;
数据查询模块,用于根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
可选地,在将所述基础数据表同步到预设数据库中得到事件详情表时,所述数据同步模块执行下述操作:
在所述数据库中创建空白数据表,将所述空白数据表进行预分区;
将所述基础数据表的事件详情数据写入所述空白数据表的分区中,得到事件详情表;
在所述基础数据表数据的数据更新时,利用预构建的数据更新程序,对所述事件详情表进行同步更新。
可选地,在将所述基础数据表同步到预设搜索服务器中得到一级索引表时,所述数据同步模块执行下述操作:
获取所述基础数据表包括的字段信息,将所述字段信息作为搜索条件数据写入所述搜索服务器中;
通过所述搜索条件数据查询所述事件详情表内的对应数据,并将所述对应数据的主键作为自定义ID写入所述搜索服务器中,得到与所述详情表对应的一级索引表。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的用户历史行为查询方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述所述的用户历史行为查询方法。
本发明获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表,对所述历史行为数据集进行划分,可以提高后续数据处理的效率;将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表,能够满足多种查询条件的数据查询;通过对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果,降低系统的数据处理量,提高了数据查询效率;根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为,利用索引查询结果返回事件详情数据,减少计算机资源的占用与浪费,快速得到所需用户历史行为。因此本发明提出的用户历史行为查询装置及计算机可读存储介质,可以实现在海量数据中快速查询具有多种查询条件的数据的功能。
附图说明
图1为本发明一实施例提供的用户历史行为查询方法的流程示意图;
图2为本发明一实施例提供的同步事件详情表方法的流程示意图;
图3为本发明一实施例提供的索引查询方法的流程示意图;
图4为本发明一实施例提供的用户历史行为查询装置的模块示意图;
图5为本发明一实施例提供的实现用户历史行为查询方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明提供一种用户历史行为查询方法。参照图1所示,为本发明一实施例提供的用户历史行为查询方法的流程示意图。该方法可以由一个装置执行,该装置可以由软件和/或硬件实现。
在本实施例中,所述用户历史行为查询方法包括:
S1、获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表。
本发明较佳实施例中,所述历史行为数据集包含多个用户的各种历史行为的数据。需要强调的是,为进一步保证上述历史行为数据集的私密和安全性,上述历史行为数据集还可以存储于一区块链的节点中。
进一步地,所述预设的搜索条件是组成各历史行为详细内容数据的基本元素,例如时间、人物、内容、途径、地址等。
较佳地,本发明实施例按照所述预设的搜索条件对所述历史行为数据集中每个历史行为的内容数据进行细划分,得到所述基础数据表。
详细地,所述基础数据表是包括人物ID,事件名称,事件时间,事件详情等字段信息的数据库表,其中所述人物ID能够唯一确定一个用户,即为所述基础数据表的主键,所述事件详情是该事件下的所有详细信息。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
S2、将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表。
较佳地,本发明实施例中所述预设数据库可以是区块链中的一个存储节点,是一个高可靠性、高性能、面向列和可扩展的分布式存储系统,适合各种结构化和半结构化的海量数据存储,同时提供了高效的读写性能,如Hbase。
优选地,所述预设搜索服务器可以是区块链中的一个服务器节点,如一个基于全文检索引擎的搜索服务器,并包括一个分布式多用户能力的全文搜索引擎,所述搜索服务器可以是当前流行的企业级搜索引擎,具有实时搜索,稳定,可靠,快速,安装使用方便等优点,如ElasticSearch。
详细地,如图2所示,将所述基础数据表同步到预设数据库中,包括:
S21、在所述数据库中创建空白数据表,将所述空白数据表进行预分区。
详细地,在本发明较佳实施例使用16进制算法生成空白数据表的预分区,其方式为:create'staff2','info','partition2',{NUMREGIONS=>15,SPLITALGO=>'HexStringSplit'}。通过对数据库表进行预分区,可以有效防止数据库表中存储区域的频繁分裂,实现负载均衡。
S22、利用目前已公开的数据加载方法,如Bulkload方法,将所述基础数据表的事件详情数据写入所述空白数据表的分区中,得到事件详情表。
其中,所述事件详情表包括所述基础数据表的事件详情字段数据,即每个历史行为详细内容的数据表,并将所述事件详情表的主键设定为所述基础数据表的事件名称、人物、时间的MD5哈希值的组合值,所述主键是一条数据的唯一确定标识,并可以通过所述主键快速找到具体数据的信息;
S23、在所述基础数据表数据的数据更新时,利用预构建的数据更新程序,对所述事件详情表进行同步更新。
其中,所述利用预构建的数据更新程序,对所述事件详情表进行同步更新的具体流程如下:
将所述基础数据表的更新操作记录至修改表中,其中修改表为泛指,需要对所有有更新行为的数据表都新建修改表;
读取所述修改表,并将所述修改表中的数据与所述基础数据表中的数据进行比较,判断所述修改表的数据是否已经同步至所述数据库中;
若所述修改表并未同步至所述数据库中,则将所述修改表的数据写入至所述事件详情表中。
进一步地,将所述基础数据表同步到预设搜索服务器中,包括:
获取所述基础数据表包括的字段信息,如人物ID、实践名称、事件时间等,将所述字段信息作为搜索条件数据写入所述搜索服务器中;
通过所述搜索条件数据查询所述事件详情表内的对应数据,并将所述对应数据的主键作为自定义ID,即所述一级索引表的主键,写入所述搜索服务器中,得到与所述事件详情表对应的一级索引表。
本发明实施例中,当所述基础数据表数据更新时,需要向所述搜索服务器写入更新数据,在所述更新数据的自定义ID与所述一级索引表中的自定义ID相同时,用所述更新数据覆盖所述一级索引表中的原数据。
较佳地,本发明实施例中,所述基础数据表的事件详情并不写入搜索服务器中,即所述搜索服务器只保存每个历史行为详细内容中可以用来查询的搜索条件,通过查询所述搜索条件,可以快速找到对应保存在所述事件详情表中的主键,从而找到所述搜索条件对应的具体详情。
进一步地,为查询更多维度的场景,即在查询条件更加精细,更加复杂时,本发明实施例新增多个具有与所述一级索引表不同内容的二级索引表,所述二级索引表是包括所述一级索引表中没有,所述事件详情表的补充内容的数据表,比如新增另一张索引表保存用户姓名,证件类型,证件号,车牌号等信息,并将多张索引表与所述一级索引表之间进行联接,得到所述事件详情表的索引库。
S3、对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果。
较佳地,所述查询内容可以是包含多个查询条件的综合查询语句,如需要查询在19年3月份内某个用户的车辆每日耗油记录,并按照耗油量从大到小进行排序。
详细地,如图3所示,所述S3包括:
S31、对所述查询内容进行解析,得到所述查询内容的数据检索意图;
S32、提取所述数据检索意图中存在排序要求的内容,即提取排序依据的字段,并转化为符合所述搜索服务器中排序语法的查询字符串;
S33、提取所述数据检索意图中的分组查询的内容,即提取分组依据的字段,并转化为符合所述搜索服务器的分组查询语法的查询字符串;
S34、提取所述数据检索意图的数据范围要求的内容,即提取符合要求数据的范围信息,转化为符合所述搜索服务器的查询范围语法的查询字符串;
S35、合并上述各查询字符串,得到与所述查询内容一致,并符合所述搜索服务器的搜索语法的最终查询字符串;
S36、利用所述最终查询字符串,查询所述一级索引表,得到查询结果。
详细地,所述查询结果是在所述一级索引表中与所述查询内容一致的数据,包括各搜索条件字段和对应的在所述事件详情表中的主键。
S4、根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
详细地,所述根据所述查询结果,返回所述事件详情表中的对应数据,包括:
根据所述查询结果获取对应的所述事件详情表的主键;
根据所述主键,在所述事件详情表中查询符合所述查询内容的事件详情信息,得到用户的历史行为数据;
将所述用户的历史行为数据返回给用户。
本发明实施例将用户的历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表,对所述历史行为数据集进行划分,可以提高后续数据处理的效率;将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表,能够满足多种查询条件的数据查询;通过对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果,降低系统的数据处理量,提高了数据查询效率;根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为,利用索引查询结果返回事件详情数据,减少计算机资源的占用与浪费,快速得到所需用户历史行为。因此本发明提出的用户历史行为查询装置及计算机可读存储介质,可以实现在海量数据中快速查询具有多种查询条件的数据的功能。
如图4所示,是本发明用户历史行为查询装置的功能模块图。
本发明所述用户历史行为查询装置100可以安装于电子设备中。根据实现的功能,所述用户历史行为查询装置可以包括数据整理模块101、数据同步模块102、索引查询模块103和数据查询模块104。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述数据整理模块101,用于获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表;
所述数据同步模块102,用于将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;
所述索引查询模块103,用于对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果;
所述数据查询模块104,用于根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
详细地,所述用户历史行为查询装置各模块的具体实施步骤如下:
所述数据整理模块101,用于获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表。
本发明较佳实施例中,所述历史行为数据集包含多个用户的各种历史行为的数据。需要强调的是,为进一步保证上述历史行为数据集的私密和安全性,上述历史行为数据集还可以存储于一区块链的节点中。
进一步地,所述预设的搜索条件是组成各历史行为详细内容数据的基本元素,例如时间、人物、内容、途径、地址等。
较佳地,本发明实施例按照所述预设的搜索条件对所述历史行为数据集中每个历史行为的内容数据进行细划分,得到所述基础数据表。
详细地,所述基础数据表是包括人物ID,事件名称,事件时间,事件详情等字段信息的数据库表,其中所述人物ID能够唯一确定一个用户,即为所述基础数据表的主键,所述事件详情是该事件下的所有详细信息。
所述数据同步模块102,用于将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到和一级索引表。
较佳地,本发明实施例中所述预设数据库为区块链中的一个存储节点,是一个高可靠性、高性能、面向列和可扩展的分布式存储系统,适合各种结构化和半结构化的海量数据存储,同时提供了高效的读写性能,如Hbase。
优选地,所述预设搜索服务器为区块链中的一个服务器节点,是一个基于全文检索引擎的搜索服务器,并包括一个分布式多用户能力的全文搜索引擎,所述搜索服务器可以是当前流行的企业级搜索引擎,具有实时搜索,稳定,可靠,快速,安装使用方便等优点,如ElasticSearch。
详细地,将所述基础数据表同步到预设数据库中,包括:
步骤一、在所述数据库中创建空白数据表,将所述空白数据表进行预分区。
详细地,在本发明较佳实施例使用16进制算法生成空白数据表的预分区,其方式为:create'staff2','info','partition2',{NUMREGIONS=>15,SPLITALGO=>'HexStringSplit'}。通过对数据库表进行预分区,可以有效防止数据库表中存储区域的频繁分裂,实现负载均衡。
步骤二、利用目前已公开的数据加载方法,如Bulkload方法,将所述基础数据表的事件详情数据写入所述空白数据表的分区中,得到事件详情表。
其中,所述事件详情表包括所述基础数据表的事件详情字段数据,即每个历史行为详细内容的数据表,并将所述事件详情表的主键设定为所述基础数据表的事件名称、人物、时间的MD5哈希值的组合值,所述主键是一条数据的唯一确定标识,并可以通过所述主键快速找到具体数据的信息;
步骤三、在所述基础数据表数据的数据更新时,利用预构建的数据更新程序,对所述事件详情表进行同步更新。
其中,所述利用预构建的数据更新程序,对所述事件详情表进行同步更新的具体流程如下:
将所述基础数据表的更新操作记录至修改表中,其中修改表为泛指,需要对所有有更新行为的数据表都新建修改表;
读取所述修改表,并将所述修改表中的数据与所述基础数据表中的数据进行比较,判断所述修改表的数据是否已经同步至所述数据库中;
若所述修改表并未同步至所述数据库中,则将所述修改表的数据写入至所述事件详情表中。
进一步地,将所述基础数据表同步到预设搜索服务器中,包括:
获取所述基础数据表包括的字段信息,如人物ID、实践名称、事件时间等,将所述字段信息作为搜索条件数据写入所述搜索服务器中;
通过所述搜索条件数据查询所述事件详情表内的对应数据,并将所述对应数据的主键作为自定义ID,即所述一级索引表的主键,写入所述搜索服务器中,得到与所述事件详情表对应的一级索引表。
本发明实施例中,当所述基础数据表数据更新时,需要向所述搜索服务器写入更新数据,在所述更新数据的自定义ID与所述一级索引表中的自定义ID相同时,用所述更新数据覆盖所述一级索引表中的原数据。
较佳地,本发明实施例中,所述基础数据表的事件详情并不写入搜索服务器中,即所述搜索服务器只保存每个历史行为详细内容中可以用来查询的搜索条件,通过查询所述搜索条件,可以快速找到对应保存在所述事件详情表中的主键,从而找到所述搜索条件对应的具体详情。
进一步地,为查询更多维度的场景,即在查询条件更加精细,更加复杂时,本发明实施例新增多个具有与所述一级索引表不同内容的二级索引表,所述二级索引表是包括所述一级索引表中没有,所述事件详情表的补充内容的数据表,比如新增另一张索引表保存用户姓名,证件类型,证件号,车牌号等信息,并将多张索引表与所述一级索引表之间进行联接,得到所述事件详情表的索引库。
所述索引查询模块103,用于对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果。
较佳地,所述查询内容可以是包含多个查询条件的综合查询语句,如需要查询在19年3月份内某个用户的车辆每日耗油记录,并按照耗油量从大到小进行排序。
详细地,所述索引查询模块103具体用于:
对所述查询内容进行解析,得到所述查询内容的数据检索意图;
提取所述数据检索意图中存在排序要求的内容,即提取排序依据的字段,并转化为符合所述搜索服务器中排序语法的查询字符串;
提取所述数据检索意图中的分组查询的内容,即提取分组依据的字段,并转化为符合所述搜索服务器的分组查询语法的查询字符串;
提取所述数据检索意图的数据范围要求的内容,即提取符合要求数据的范围信息,转化为符合所述搜索服务器的查询范围语法的查询字符串;
合并上述各查询字符串,得到与所述查询内容一致,并符合所述搜索服务器的搜索语法的最终查询字符串;
利用所述最终查询字符串,查询所述一级索引表,得到查询结果。
详细地,所述查询结果是在所述一级索引表中与所述查询内容一致的数据,包括各搜索条件字段和对应的在所述事件详情表中的主键。
所述数据查询模块104,用于根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
详细地,所述根据所述查询结果,返回所述事件详情表中的对应数据,包括:
根据所述查询结果获取对应的所述事件详情表的主键;
根据所述主键,在所述事件详情表中查询符合所述查询内容的事件详情信息,得到用户的历史行为数据;
将所述用户的历史行为数据返回给用户。
如图5所示,是本发明实现用户历史行为查询方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如用户历史行为查询程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如用户历史行为查询程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行用户历史行为查询程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
本发明实施例将用户的历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表,对所述历史行为数据集进行划分,可以提高后续数据处理的效率;将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表,能够满足多种查询条件的数据查询;通过对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果,降低系统的数据处理量,提高了数据查询效率;根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为,利用索引查询结果返回事件详情数据,减少计算机资源的占用与浪费,快速得到所需用户历史行为。因此本发明提出的用户历史行为查询装置及计算机可读存储介质,可以实现在海量数据中快速查询具有多种查询条件的数据的功能。
图5仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图5示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-EmittingDiode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的用户历史行为查询程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表;
将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;
对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果;
根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
进一步地,所述计算机可用存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图表记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种用户历史行为查询方法,其特征在于,所述方法包括:
获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表;
将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;
对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果;
根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
2.如权利要求1所述的用户历史行为查询方法,其特征在于,所述预设数据库为区块链中的一个存储节点,所述将所述基础数据表同步到预设数据库中得到事件详情表,包括:
在所述数据库中创建空白数据表,将所述空白数据表进行预分区;
将所述基础数据表的事件详情数据写入所述空白数据表的分区中,得到事件详情表;
在所述基础数据表数据的数据更新时,利用预构建的数据更新程序,对所述事件详情表进行同步更新。
3.如权利要求1所述的用户历史行为查询方法,其特征在于,所述搜索服务器为区块链中的一个服务器节点,所述将所述基础数据表同步到预设搜索服务器中得到一级索引表,包括:
获取所述基础数据表包括的字段信息,将所述字段信息作为搜索条件数据写入所述搜索服务器中;
通过所述搜索条件数据查询所述事件详情表内的对应数据,并将所述对应数据的主键作为自定义ID写入所述搜索服务器中,得到与所述事件详情表对应的一级索引表。
4.如权利要求3所述的用户历史行为查询方法,其特征在于,所述根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为,包括:
根据所述查询结果获取对应的所述事件详情表的主键;
根据所述主键,在所述事件详情表中查询符合所述查询内容的事件详情信息,得到需要查询的用户的历史行为数据。
5.如权利要求1至4中任意一项所述的用户历史行为查询方法,其特征在于,所述方法还包括:
在所述搜索服务器中,新增多个一个或者多个二级索引表,用于保存与所述一级索引表不同内容;
将所述二级索引表与所述一级索引表进行联接,得到索引库。
6.一种用户历史行为查询装置,其特征在于,所述装置包括:
数据整理模块,用于获取用户的历史行为数据集,将所述历史行为数据集中每个历史行为的内容数据按照预设的搜索条件进行划分整理,得到每个历史行为的基础数据表;
数据同步模块,用于将所述基础数据表同步到预设数据库中得到事件详情表,及将所述基础数据表同步到预设搜索服务器中得到一级索引表;
索引查询模块,用于对用户输入的查询内容进行解析,将所述查询内容转化为符合所述搜索服务器的搜索语法的查询字符串,利用所述查询字符串在所述搜索服务器中查询,得到查询结果;
数据查询模块,用于根据所述查询结果,返回所述事件详情表中的对应数据,得到需要查询的用户的历史行为。
7.如权利要求6所述的用户历史行为查询装置,其特征在于,在将所述基础数据表同步到预设数据库中得到事件详情表时,所述数据同步模块执行下述操作:
在所述数据库中创建空白数据表,将所述空白数据表进行预分区;
将所述基础数据表的事件详情数据写入所述空白数据表的分区中,得到事件详情表;
在所述基础数据表数据的数据更新时,利用预构建的数据更新程序,对所述事件详情表进行同步更新。
8.如权利要求6所述的用户历史行为查询装置,其特征在于,在将所述基础数据表同步到预设搜索服务器中得到一级索引表时,所述数据同步模块执行下述操作:
获取所述基础数据表包括的字段信息,将所述字段信息作为搜索条件数据写入所述搜索服务器中;
通过所述搜索条件数据查询所述事件详情表内的对应数据,并将所述对应数据的主键作为自定义ID写入所述搜索服务器中,得到与所述详情表对应的一级索引表。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以执行如权利要求1至5中任意一项所述的用户历史行为查询方法。
10.一种计算机可读存储介质,包括存储数据区和存储程序区,存储数据区存储根据区块链节点的使用所创建的数据,存储程序区存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1至5中任意一项所述的用户历史行为查询方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010370029.4A CN111651453B (zh) | 2020-04-30 | 2020-04-30 | 用户历史行为查询方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010370029.4A CN111651453B (zh) | 2020-04-30 | 2020-04-30 | 用户历史行为查询方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651453A true CN111651453A (zh) | 2020-09-11 |
CN111651453B CN111651453B (zh) | 2024-02-06 |
Family
ID=72346537
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010370029.4A Active CN111651453B (zh) | 2020-04-30 | 2020-04-30 | 用户历史行为查询方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651453B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112417281A (zh) * | 2020-11-20 | 2021-02-26 | 京东方科技集团股份有限公司 | 数据分析方法、装置及设备 |
CN112689157A (zh) * | 2020-12-23 | 2021-04-20 | 南京石三心网络科技有限公司 | 用于处理云计算资源的方法以及无线通信设备 |
CN112800483A (zh) * | 2021-01-18 | 2021-05-14 | 湖北宸威玺链信息技术有限公司 | 基于区块链的数据源完整性检测方法及系统及装置及介质 |
CN112948389A (zh) * | 2021-03-05 | 2021-06-11 | 上海上讯信息技术股份有限公司 | 基于md5的数据库表数据比对方法及设备 |
CN113343023A (zh) * | 2021-06-01 | 2021-09-03 | 广州欢网科技有限责任公司 | 快速查询时段内频道排名的方法及系统 |
CN113626436A (zh) * | 2021-08-05 | 2021-11-09 | 北京金山云网络技术有限公司 | 一种数据处理方法和装置 |
CN114911802A (zh) * | 2022-06-08 | 2022-08-16 | 四三九九网络股份有限公司 | 客户端实时查询用户特征的方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130254212A1 (en) * | 2012-03-23 | 2013-09-26 | Nec (China) Co., Ltd. | Data indexing system, data indexing method and data querying method |
CN107402987A (zh) * | 2016-09-21 | 2017-11-28 | 广州特道信息科技有限公司 | 一种全文检索的方法和分布式NewSQL数据库系统 |
CN107577714A (zh) * | 2017-08-07 | 2018-01-12 | 上海斐讯数据通信技术有限公司 | 一种基于HBase的数据查询方法 |
CN109284351A (zh) * | 2018-08-14 | 2019-01-29 | 青海大学 | 一种基于HBase数据库的数据查询方法 |
CN110018983A (zh) * | 2017-09-27 | 2019-07-16 | 华为技术有限公司 | 一种元数据查询方法及装置 |
US20190236606A1 (en) * | 2018-01-31 | 2019-08-01 | Salesforce.Com, Inc. | Systems, methods, and apparatuses for implementing a virtual chain model for distributed ledger technologies in a cloud based computing environment |
CN110489394A (zh) * | 2019-07-23 | 2019-11-22 | 中国平安人寿保险股份有限公司 | 中间数据处理方法及设备 |
CN110688417A (zh) * | 2019-09-26 | 2020-01-14 | 九州能源有限公司 | 一种电站事件管理系统、方法、设备及存储介质 |
-
2020
- 2020-04-30 CN CN202010370029.4A patent/CN111651453B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130254212A1 (en) * | 2012-03-23 | 2013-09-26 | Nec (China) Co., Ltd. | Data indexing system, data indexing method and data querying method |
CN107402987A (zh) * | 2016-09-21 | 2017-11-28 | 广州特道信息科技有限公司 | 一种全文检索的方法和分布式NewSQL数据库系统 |
CN107577714A (zh) * | 2017-08-07 | 2018-01-12 | 上海斐讯数据通信技术有限公司 | 一种基于HBase的数据查询方法 |
CN110018983A (zh) * | 2017-09-27 | 2019-07-16 | 华为技术有限公司 | 一种元数据查询方法及装置 |
US20190236606A1 (en) * | 2018-01-31 | 2019-08-01 | Salesforce.Com, Inc. | Systems, methods, and apparatuses for implementing a virtual chain model for distributed ledger technologies in a cloud based computing environment |
CN109284351A (zh) * | 2018-08-14 | 2019-01-29 | 青海大学 | 一种基于HBase数据库的数据查询方法 |
CN110489394A (zh) * | 2019-07-23 | 2019-11-22 | 中国平安人寿保险股份有限公司 | 中间数据处理方法及设备 |
CN110688417A (zh) * | 2019-09-26 | 2020-01-14 | 九州能源有限公司 | 一种电站事件管理系统、方法、设备及存储介质 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112417281A (zh) * | 2020-11-20 | 2021-02-26 | 京东方科技集团股份有限公司 | 数据分析方法、装置及设备 |
CN112689157A (zh) * | 2020-12-23 | 2021-04-20 | 南京石三心网络科技有限公司 | 用于处理云计算资源的方法以及无线通信设备 |
CN112689157B (zh) * | 2020-12-23 | 2022-07-19 | 广东粤科芮银信息科技有限公司 | 用于处理云计算资源的方法以及无线通信设备 |
CN112800483A (zh) * | 2021-01-18 | 2021-05-14 | 湖北宸威玺链信息技术有限公司 | 基于区块链的数据源完整性检测方法及系统及装置及介质 |
CN112948389A (zh) * | 2021-03-05 | 2021-06-11 | 上海上讯信息技术股份有限公司 | 基于md5的数据库表数据比对方法及设备 |
CN113343023A (zh) * | 2021-06-01 | 2021-09-03 | 广州欢网科技有限责任公司 | 快速查询时段内频道排名的方法及系统 |
CN113626436A (zh) * | 2021-08-05 | 2021-11-09 | 北京金山云网络技术有限公司 | 一种数据处理方法和装置 |
CN114911802A (zh) * | 2022-06-08 | 2022-08-16 | 四三九九网络股份有限公司 | 客户端实时查询用户特征的方法 |
CN114911802B (zh) * | 2022-06-08 | 2024-09-20 | 四三九九网络股份有限公司 | 客户端实时查询用户特征的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111651453B (zh) | 2024-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111651453B (zh) | 用户历史行为查询方法、装置、电子设备及存储介质 | |
CN112948427B (zh) | 数据查询方法、装置、设备及存储介质 | |
CN111428451B (zh) | 文本在线编辑方法、装置、电子设备及存储介质 | |
CN113239106A (zh) | Excel文件导出方法、装置、电子设备及存储介质 | |
CN112580079A (zh) | 权限配置方法、装置、电子设备及可读存储介质 | |
CN114610747A (zh) | 数据查询方法、装置、设备及存储介质 | |
CN114185895A (zh) | 数据导入导出方法、装置、电子设备及存储介质 | |
CN112231417A (zh) | 数据分类方法、装置、电子设备及存储介质 | |
CN114386509A (zh) | 数据融合方法、装置、电子设备及存储介质 | |
CN112464619A (zh) | 大数据处理方法、装置、设备及计算机可读存储介质 | |
CN114138784A (zh) | 基于存储库的信息溯源方法、装置、电子设备及介质 | |
CN113434542B (zh) | 数据关系识别方法、装置、电子设备及存储介质 | |
CN113722533A (zh) | 信息推送方法、装置、电子设备及可读存储介质 | |
CN112506931A (zh) | 数据查询方法、装置、电子设备及存储介质 | |
CN111538768A (zh) | 基于n元模型的数据查询方法、装置、电子设备及介质 | |
CN116842012A (zh) | 一种Redis集群的分片存储方法、装置、设备及存储介质 | |
CN113821514B (zh) | 数据拆分方法、装置、电子设备和可读存储介质 | |
CN115114297A (zh) | 数据轻量存储及查找方法、装置、电子设备及存储介质 | |
CN113407657A (zh) | 基于单级数据库的数据查询方法、装置、设备及存储介质 | |
CN112925753B (zh) | 文件追加写入方法、装置、电子设备及存储介质 | |
CN114547011A (zh) | 数据抽取方法、装置、电子设备及存储介质 | |
CN112667570A (zh) | 文件访问方法、装置、设备及可读存储介质 | |
CN113064928A (zh) | 报表数据查询方法、装置、电子设备及存储介质 | |
CN113609428A (zh) | 基于Git的原型设计文件在线查看方法、装置、设备及介质 | |
CN113343102A (zh) | 基于特征筛选的数据推荐方法、装置、电子设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |