CN111625524B - 数据处理方法、装置、设备及存储介质 - Google Patents

数据处理方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN111625524B
CN111625524B CN202010418743.6A CN202010418743A CN111625524B CN 111625524 B CN111625524 B CN 111625524B CN 202010418743 A CN202010418743 A CN 202010418743A CN 111625524 B CN111625524 B CN 111625524B
Authority
CN
China
Prior art keywords
data information
data
target attribute
information
attribute information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010418743.6A
Other languages
English (en)
Other versions
CN111625524A (zh
Inventor
孙永超
谢永恒
张俊杰
毛勇岗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Ruian Technology Co Ltd
Original Assignee
Beijing Ruian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Ruian Technology Co Ltd filed Critical Beijing Ruian Technology Co Ltd
Priority to CN202010418743.6A priority Critical patent/CN111625524B/zh
Publication of CN111625524A publication Critical patent/CN111625524A/zh
Application granted granted Critical
Publication of CN111625524B publication Critical patent/CN111625524B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21—Design, administration or maintenance of databases
    • G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例公开了一种数据处理方法、装置、设备及存储介质。该方法包括：根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；将所述第一数据信息写入所述分布式数据库的至少两个节点中；根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；根据所述第二数据信息，生成数据信息表，上述技术方案能够在保证数据处理质量的同时提高数据处理的效率。

Description

数据处理方法、装置、设备及存储介质
技术领域
本发明实施例涉及大数据处理技术领域，尤其涉及一种数据处理方法、装置、设备及存储介质。
背景技术
随着大数据技术的成熟，基于内存计算的开源的分布式集群并行计算框架Spark，被广泛地应用在大数据处理领域。
然而，目前通过Spark处理数据时，数据在进行整合的过程中速度较慢，当数据量比较大时，影响数据的处理效率。
因此，亟需一种数据处理方法，能够在保证数据处理质量的同时提高数据处理的效率。
发明内容
本发明提供了一种数据处理方法、装置、设备及存储介质，以实现保证数据处理质量的同时提高数据处理的效率。
第一方面，本发明实施例提供了一种数据处理方法，包括：
根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
将所述第一数据信息写入所述分布式数据库的至少两个节点中；
根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
根据所述第二数据信息，生成数据信息表。
第二方面，本发明实施例还提供了一种数据处理装置，包括：
第一数据信息查询模块，用于根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
第一数据信息写入模块，用于将所述第一数据信息写入所述分布式数据库的至少两个节点中；
第二数据信息查询模块，用于根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
数据信息表生成模块，用于根据所述第二数据信息，生成数据信息表。
第三方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明实施例中任一所述的数据处理方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一所述的数据处理方法。
本发明通过根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；将所述第一数据信息写入所述分布式数据库的至少两个节点中；根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；根据所述第二数据信息，生成数据信息表，本发明能够实现保证数据处理质量的同时提高数据处理的效率。
附图说明
图1a是本发明实施例一中提供的一种数据处理方法的流程示意图；
图1b是本发明实施例一中提供的第一数据信息写入分布式数据库中至少两个节点的流程示意图；
图2是本发明实施例二中提供的一种数据处理装置的结构示意图；
图3是本发明实施例三中提供的一种设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理，但是其中的许多步骤可以被并行地、并发地或者同时实施。此外，各步骤的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等。
实施例一
图1a为本发明实施例一提供的一种数据处理方法的流程示意图，本实施例可适用于快速处理数据信息的情况下，该方法可以由一种数据处理装置来执行，该装置可以采用软件和/或硬件的方式实现，并可集成于电子设备中，具体包括如下步骤：
S110、根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息。
本实施例中，目标属性信息可以是数据字段也可以是具体的标号信息，具体的，可以针对不同的数据信息进行不同的标号。示例性的，目标属性信息可以是应用的账户，IMSI(国际移动用户识别码，International Mobile SubscriberIdentity)，IMEI(国际移动设备识别码，International Mobile Equipment Identity)和ADSL(非对称数字用户线路，Asymmetric Digital Subscriber Line)等。原始数据库是用于存储未处理的数据信息的数据库。第一数据信息是从原始数据库中筛选出的满足至少一个目标属性信息的数据信息。示例性的，原始数据库中A应用对应的数据信息的具体的标号信息为01，B应用对应的数据信息的具体的标号信息为02，则若目标属性信息为标号信息且标号信息为02，则第一数据信息为B应用对应的数据信息。
具体的，可以通过Spark计算框架对数据进行处理。Spark计算框架是基于内存计算的开源的分布式集群并行计算框架，是一种快速处理大规模数据的通用引擎。Spark将中间数据加载到内存中，用于迭代计算，避免对数据重复加载。Spark生态圈以Spark Core为核心，从HDFS和HBase等读取数据，以YARN为资源管理调度Job完成Spark应用程序的计算。主要包括：Spark Shell/Sparksumbit的批处理、Spark Streaming的实时处理应用、SparkSQL的即席查询、MLib/MLbase的机器学习、GraphX的图处理和SparkR的数学计算等等组成。
S120、将所述第一数据信息写入所述分布式数据库的至少两个节点中。
本实施例中，分布式数据库是用于存储未处理的数据信息，其中，分布式数据库中的数据信息是不同于原始数据库中的数据信息的。分布式数据库中数据信息的存储方式是将不同的数据信息存储至不同的节点。本实施例中，将第一数据信息写入分布式数据库中的至少两个节点，这样设置的好处是无需重复多次地获取第一数据信息，进而提高了数据处理的效率。
可选的，将所述第一数据信息写入所述分布式数据库的至少两个节点中，包括：
将所述第一数据信息按照所述至少一个目标属性信息，生成目标属性信息数据文件；
并将所述目标属性信息数据文件传输至所述分布式数据库的至少两个节点，以将所述目标属性信息数据文件写入所述至少两个节点中。
本实施例中，目标属性信息数据文件是第一数据信息以目标属性信息为维度生成的数据文件，其中，数据文件可以是表格的形式。具体的，可以参考图1b示出的第一数据信息写入分布式数据库中至少两个节点的流程示意图。
这样设置的好处是从原始数据库中读取第一数据信息的速度能够降低到毫秒级别，且由于目标属性信息数据文件较小，将其写入分布式数据库中的至少两个节点中也并不影响分布式数据库的存储量的大小。
S130、根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息。
本实施例中，第二数据信息包括第一数据信息，还包括分布式数据库不同的节点上存储的满足至少一个目标属性信息的数据信息。当Spark对数据信息进行处理时，在分布式数据库的至少一个节点上将第一数据信息和分布式数据库中不同节点上存储的满足至少一个目标属性信息的数据信息进行整理，并得到第二数据信息。
S140、根据所述第二数据信息，生成数据信息表。
本实施例中，数据信息表是用于展示第二数据信息的数据展现形式。具体的，数据信息表是以目标属性信息为维度进行展示的。
可选的，根据所述第二数据信息，生成数据信息表，包括：根据所述第二数据信息，统计所述目标属性信息的出现次数；根据所述目标属性信息和所述出现次数，生成所述数据信息表。
本实施例中，数据信息表能够体现目标属性信息出现的次数。示例性的，若目标属性信息为IMSI且IMSI为134********，则统计134********在不同时间段出现过3次，则相应的统计为3次。
可选的，根据所述第二数据信息，生成数据信息表之前，还包括：
根据所述目标属性信息的标准格式，对所述第二数据信息进行筛选。
本实施例中，若目标属性信息为IMSI，且IMSI的标准格式为11位，则将不满足11位的数据信息进行删除。
可选的，所述根据所述第一数据信息和所述第二数据信息，生成数据信息表之后，还包括：
将所述数据信息表发送至数据存储数据库中，以供用户调用数据信息表。
本实施例中，当用户需要调用数据信息表时，需要在数据存储数据库中进行查询。
本发明通过根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；将所述第一数据信息写入所述分布式数据库的至少两个节点中；根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；根据所述第二数据信息，生成数据信息表，本发明能够实现保证数据处理质量的同时提高数据处理的效率。
实施例二
图2是本发明实施例二提供的一种数据处理装置的结构示意图。本发明实施例所提供的一种数据处理装置可执行本发明任意实施例所提供的一种数据处理方法，具备执行方法相应的功能模块和有益效果。如图2所示，该装置包括：
第一数据信息查询模块201，用于根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
第一数据信息写入模块202，用于将所述第一数据信息写入所述分布式数据库的至少两个节点中；
第二数据信息查询模块203，用于根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
数据信息表生成模块204，用于根据所述第二数据信息，生成数据信息表。
可选的，所述第一数据信息写入模块202，具体用于将所述第一数据信息按照所述至少一个目标属性信息，生成目标属性信息数据文件；
并将所述目标属性信息数据文件传输至所述分布式数据库的至少两个节点，以将所述目标属性信息数据文件写入所述至少两个节点中。
可选的，所述数据信息表生成模块204，用于根据所述第二数据信息，统计所述目标属性信息的出现次数；
根据所述目标属性信息和所述出现次数，生成所述数据信息表。
所述装置还包括：
第二数据信息筛选模块205，用于根据所述目标属性信息的标准格式，对所述第二数据信息进行筛选。
所述装置还包括：
数据信息表调用模块206，用于将所述数据信息表发送至数据存储数据库中，以供用户调用数据信息表。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
实施例三
图3为本发明实施例三提供的一种设备的结构示意图，图3示出了适于用来实现本发明实施例实施方式的示例性设备的结构示意图。图3显示的设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示，设备12以通用计算设备的形式表现。设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图3未显示，通常称为“硬盘驱动器”)。尽管图3中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明实施例各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明实施例所描述的实施例中的功能和/或方法。
设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该设备12交互的设备通信，和/或与使得该设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图3所示，网络适配器20通过总线18与设备12的其它模块通信。应当明白，尽管图中未示出，可以结合设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的一种数据处理方法，包括：
根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
将所述第一数据信息写入所述分布式数据库的至少两个节点中；
根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
根据所述第二数据信息，生成数据信息表。
实施例四
本发明实施例四还提供了一种计算机可读存储介质，其上存储有计算机程序(或称为计算机可执行指令)，该程序被处理器执行时可实现上述任意实施例所述的一种数据处理方法，包括：
根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
将所述第一数据信息写入所述分布式数据库的至少两个节点中；
根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
根据所述第二数据信息，生成数据信息表。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (8)

1.一种数据处理方法，其特征在于，包括：
根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
将所述第一数据信息写入分布式数据库的至少两个节点中；
根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
根据所述第二数据信息，生成数据信息表；
将所述第一数据信息写入所述分布式数据库的至少两个节点中，包括：
将所述第一数据信息按照所述至少一个目标属性信息，生成目标属性信息数据文件；
并将所述目标属性信息数据文件传输至所述分布式数据库的至少两个节点，以将所述目标属性信息数据文件写入所述至少两个节点中。
2.根据权利要求1所述的方法，其特征在于，根据所述第二数据信息，生成数据信息表，包括：
根据所述第二数据信息，统计所述目标属性信息的出现次数；
根据所述目标属性信息和所述出现次数，生成所述数据信息表。
3.根据权利要求1所述的方法，其特征在于，根据所述第二数据信息，生成数据信息表之前，还包括：
根据所述目标属性信息的标准格式，对所述第二数据信息进行筛选。
4.根据权利要求1所述的方法，其特征在于，所述根据所述第一数据信息和所述第二数据信息，生成数据信息表之后，还包括：
将所述数据信息表发送至数据存储数据库中，以供用户调用数据信息表。
5.一种数据处理装置，其特征在于，包括：
第一数据信息查询模块，用于根据至少一个目标属性信息，从原始数据库中查询具有所述至少一个目标属性信息的第一数据信息；
第一数据信息写入模块，用于将所述第一数据信息写入分布式数据库的至少两个节点中；
第二数据信息查询模块，用于根据所述至少一个目标属性信息，从包括有所述第一数据信息的节点中查询具有所述至少一个目标属性信息的第二数据信息；
数据信息表生成模块，用于根据所述第二数据信息，生成数据信息表；
所述第一数据信息写入模块，具体用于将所述第一数据信息按照所述至少一个目标属性信息，生成目标属性信息数据文件；
并将所述目标属性信息数据文件传输至所述分布式数据库的至少两个节点，以将所述目标属性信息数据文件写入所述至少两个节点中。
6.根据权利要求5所述的装置，其特征在于，所述数据信息表生成模块，用于根据所述第二数据信息，统计所述目标属性信息的出现次数；
根据所述目标属性信息和所述出现次数，生成所述数据信息表。
7.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-4中任一所述的数据处理方法。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-4中任一所述的数据处理方法。
CN202010418743.6A 2020-05-18 2020-05-18 数据处理方法、装置、设备及存储介质 Active CN111625524B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010418743.6A CN111625524B (zh) 2020-05-18 2020-05-18 数据处理方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010418743.6A CN111625524B (zh) 2020-05-18 2020-05-18 数据处理方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN111625524A CN111625524A (zh) 2020-09-04
CN111625524B true CN111625524B (zh) 2023-07-21

Family

ID=72259882

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010418743.6A Active CN111625524B (zh) 2020-05-18 2020-05-18 数据处理方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111625524B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108804644A (zh) * 2018-06-05 2018-11-13 中国平安人寿保险股份有限公司 接口日志存储方法、装置、计算机设备和存储介质
CN109271358A (zh) * 2018-11-15 2019-01-25 深圳乐信软件技术有限公司 数据汇总方法、查询方法、装置、设备及存储介质
CN110704476A (zh) * 2019-10-08 2020-01-17 北京锐安科技有限公司 数据处理方法、装置、设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130262184A1 (en) * 2012-03-30 2013-10-03 Arbitron Inc. Systems and Methods for Presence Detection and Linking to Media Exposure Data
US10380188B2 (en) * 2016-08-05 2019-08-13 International Business Machines Corporation Distributed graph databases that facilitate streaming data insertion and queries by reducing number of messages required to add a new edge by employing asynchronous communication
CN109977102A (zh) * 2019-03-27 2019-07-05 网易（杭州）网络有限公司 数据处理方法、装置、介质及电子设备
CN110795476B (zh) * 2019-10-16 2022-03-08 北京百分点科技集团股份有限公司 一种本体库的数据写入方法及装置
CN110750569A (zh) * 2019-10-17 2020-02-04 北京锐安科技有限公司 数据提取方法、装置、设备及存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108804644A (zh) * 2018-06-05 2018-11-13 中国平安人寿保险股份有限公司 接口日志存储方法、装置、计算机设备和存储介质
CN109271358A (zh) * 2018-11-15 2019-01-25 深圳乐信软件技术有限公司 数据汇总方法、查询方法、装置、设备及存储介质
CN110704476A (zh) * 2019-10-08 2020-01-17 北京锐安科技有限公司 数据处理方法、装置、设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于路径的网络本体语言存储模型;吕刚;郑诚;胡春玲;;计算机应用(05);全文 *

Also Published As

Publication number Publication date
CN111625524A (zh) 2020-09-04

Similar Documents

Publication Publication Date Title
CN110008045B (zh) 微服务的聚合方法、装置、设备及存储介质
US20220261404A1 (en) Real-time processing of event based streaming with nosql databases
CN111190888A (zh) 一种管理图数据库集群的方法和装置
CN111352800A (zh) 大数据集群监控方法及相关设备
CN111694866A (zh) 数据搜索及存储方法、数据搜索系统、装置、设备及介质
US11934287B2 (en) Method, electronic device and computer program product for processing data
CN113485781A (zh) 报表生成方法、装置、电子设备及计算机可读介质
CN108363741B (zh) 大数据统一接口方法、装置、设备及存储介质
CN110569308A (zh) 一种数据文件组装方法、装置、设备及储存介质
CN111917814B (zh) 数据发布、订阅方法、装置、设备、系统及可读存储介质
US10620950B2 (en) Message parsing in a distributed stream processing system
CN113760242A (zh) 一种数据处理方法、装置、服务器和介质
CN112883088B (zh) 一种数据处理方法、装置、设备及存储介质
CN112506490A (zh) 一种接口生成方法、装置、电子设备及存储介质
CN111625524B (zh) 数据处理方法、装置、设备及存储介质
CN115905322A (zh) 业务处理方法、装置、电子设备及存储介质
CN114217790A (zh) 接口编排调度方法、装置、电子设备及介质
CN113778977A (zh) 数据处理方法和数据处理装置
CN114049065A (zh) 一种数据处理方法、装置及系统
CN113204426A (zh) 资源池的任务处理方法及相关设备
CN112948410A (zh) 数据处理方法、装置、设备及介质
CN110879818A (zh) 一种获取数据的方法、装置、介质和电子设备
CN112799863A (zh) 用于输出信息的方法和装置
CN108958654B (zh) 一种存储系统的管理方法及相关装置
CN114638935A (zh) 维度监控任务的生成及数据质量的监控方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant