CN110069495A - 数据存储方法、装置和终端设备 - Google Patents
数据存储方法、装置和终端设备 Download PDFInfo
- Publication number
- CN110069495A CN110069495A CN201910189536.5A CN201910189536A CN110069495A CN 110069495 A CN110069495 A CN 110069495A CN 201910189536 A CN201910189536 A CN 201910189536A CN 110069495 A CN110069495 A CN 110069495A
- Authority
- CN
- China
- Prior art keywords
- initial data
- data
- cache set
- classification
- written
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及数据处理技术领域，提供了一种数据存储方法、装置和终端设备。该方法包括：获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据；按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；将各个缓存集中的原始数据写入到HBase数据库。通过上述方法进行数据存储能够提高数据存储效率。
Description
技术领域
本发明属于数据处理技术领域，尤其涉及数据存储方法、装置和终端设备。
背景技术
目前市面上大多数的集成开发平台，绝大部分是采用传统的技术搭建而成，一般情况只能应对单体应用的信息系统运行环境，对于当今信息、数据爆炸的时代，应用服务数、在线访问数以及数据量不断增长的情况下，都对数据的存储技术提出了更高的要求。面对每天数十亿，甚至数百亿条目的海量数据，需要解决的问题是如何高效安全的存储数据，另一个问题是如何按多个维度条件和多个关键字进行快速的数据检索。传统关系型数据库处理方案已无法满足数据的高效存储的要求。
发明内容
有鉴于此，本发明实施例提供了数据存储方法、装置和终端设备，以解决现有技术中传统关系型数据库处理方案无法满足数据的高效存储的要求的问题。
本发明实施例第一方面提供了一种数据存储方法，包括：
获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据；
按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；其中，每一类别的原始数据对应的标识之间具有关联性；
将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis 消息队列，每个缓存集对应一个IP地址；
将各个缓存集中的原始数据写入到HBase数据库。
可选的，所述对各条原始数据按预设规则进行分类，包括：
按照各条原始数据对应的应用程序对各条原始数据进行分类，每一类别的原始数据对应一个应用程序。
可选的，所述对各条原始数据按预设规则进行分类，还包括：
按照各条原始数据在应用程序中对应的业务流程，对同一类别的原始数据进行再次分类，得到多个子类别的原始数据，其中每一子类别的原始数据对应一个业务流程。
可选的，数据库中预存有与各个类别一一对应的分类符以及与各个子类别对应的流程符；所述按照分类类别对每条目标数据生成全局唯一的标识，包括：
根据当前原始数据对应的类别，从所述数据库中获取与该类别对应的分类符；
根据当前原始数据对应的类别，从所述数据库中获取与该子类别对应的流程符；
根据当前原始数据在整个业务流程中的时间特征，生成时间符；每条所述原始数据对应一个业务流程信息和一个时间特征信息，所述时间信息用于表征该原始数据在对应的业务流程中的生成时间；
将所述分类符、流程符和时间符作为当前原始数据的标识。
可选的，在所述将各个缓存集中的原始数据写入到HBase数据库中之前，所述数据存储方法还包括：
检测同一缓存集中各条原始数据之间的关联关系，并根据各条原始数据之间的关联关系对原始数据进行预处理，将经过预处理后的数据写入到HBase数据库中。
可选的，所述根据各条原始数据之间的关联关系对原始数据进行预处理，包括：
若检测到重复的原始数据，则将多余的原始数据写入到该缓存集中的第一消息队列中，并删除原消息队列中多余的原始数据。
可选的，在所述将各个缓存集中的原始数据写入到HBase数据库之后，所述数据存储方法还包括：
检测每条原始数据未被使用的时长，若某条原始数据未被使用的时长超过对应的时长阈值，则生成提示信息；
若某条原始数据未被使用的时长超过对应的时长阈值和设定值之和，则删除该原始数据。
本发明实施例的第二方面提供了一种数据存储装置，包括：
数据分类模块，用于获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据；
标识生成模块，用于按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；其中，每一类别的原始数据对应的标识之间具有关联性；
缓存集写入模块，用于将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis消息队列，每个缓存集对应一个IP地址；
数据库写入模块，用于将各个缓存集中的原始数据写入到HBase数据库。
本发明实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的数据存储方法的步骤。
本发明实施例的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被一个或多个处理器执行时实现如第一方面所述的数据存储方法的步骤。
本发明实施例与现有技术相比存在的有益效果是：本发明实施例，首先获取原始数据并对各条原始数据按预设规则进行分类，得到多个类别的原始数据，然后按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据，接着将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中，最后将各个缓存集中的原始数据写入到HBase数据库，根据对原始数据的分类实现对数据的分类存储，从而提高数据存储效率。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的数据存储方法的流程示意图；
图2是图1中步骤102的流程示意图；
图3是本发明实施例提供的数据存储装置的结构示意图；
图4是本发明实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案，下面通过具体实施例来进行说明。
图1示出了本发明实施例提供的数据存储方法的流程示意图，参见图1，对上述数据存储方法详述如下：
步骤101，获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据。
本步骤中，将各条原始数据按预设规则进行分类可以将分类后的各条原始数据进行分别存储，便于检索。
一个实施例中，所述对各条原始数据按预设规则进行分类，可以包括：按照各条原始数据对应的应用程序对各条原始数据进行分类，每一类别的原始数据对应一个应用程序。
示例性的，各条原始数据可以由多个应用程序分别生成，即每条原始数据对应一个应用程序，则每个应用程序产生的原始数据中可以携带有相应的标识以用于区分对应的原始数据是哪一应用程序生成的。
可选的，所述对各条原始数据按预设规则进行分类，还可以包括：按照各条原始数据在应用程序中对应的业务流程，对同一类别的原始数据进行再次分类，得到多个子类别的原始数据，其中每一子类别的原始数据对应一个业务流程。
其中，在根据应用程序对各条原始数据进行分类后，得到多个类别的原始数据，每个类别的原始数据对应一个应用程序。每个应用程序通常包含多条业务流程，以实现多项功能，例如微信应用程序包含及时信息业务流程、语音通话业务流程、视频通话业务流程、摇一摇业务流程和用户定位业务流程。每个业务流程生成的原始数据可以携带有相应的标识以用于区分对应的原始数据是哪一业务流程生成的。
步骤102，按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据。
其中，每一类别的原始数据对应的标识之间具有关联性，该关联性用于表征属于统一类别的原始数据。示例性的，在数据库中可以预存有与各个类别一一对应的分类符以及与各个子类别对应的流程符。
参见图2，一个实施例中，步骤102中所述的按照分类类别对每条目标数据生成全局唯一的标识，可以包括以下步骤：
步骤201，根据当前原始数据对应的类别，从所述数据库中获取与该类别对应的分类符。
其中，一个分类符对应一个类别，例如一个分类符对应一个应用程序；每个类别对应的分类符可以预存在数据库中，数据库中还存储有与分类符一一对应的类别。
步骤202，根据当前原始数据对应的类别，从所述数据库中获取与该子类别对应的流程符。
示例性的，每个子类别对应一个类别，一个类别对应多个子类别。例如，每个类别对应一个应用程序，每个子类别对应一个业务流程；与同一类别对应的各个子类别分别对应某一应用程序中的一个业务流程。
其中，数据库中还可以预存有用于表征各个子类别的流程符，子类别与流程符一一对应。
步骤203，根据当前原始数据在整个业务流程中的时间特征，生成时间符。
其中，每条所述原始数据对应一个业务流程信息和一个时间特征信息，所述时间信息用于表征该原始数据在对应的业务流程中的生成时间。
对于一个业务流程通常会生成多条原始数据，而且与同一业务流程对应的各条原始数据的生成时间不同，即可以通过对每条原始数据赋予时间特征信息，从而将每条原始数据区分开。
步骤204，将所述分类符、流程符和时间符作为当前原始数据的标识。
本步骤中，将步骤201生成的分类符、步骤202生成的流程符和步骤203 生成的时间符结合在一起作为原始数据的标识，从而为每条原始数据赋予全局唯一的标识。
步骤103，将原始数据及对应的标识和索引数据写入到缓存集中的各个 Redis消息队列中。
其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis 消息队列，每个缓存集对应一个IP地址。
一个实施例中，步骤103可以通过以下过程实现：
构建多个缓存集群，一个缓存集群对应一个IP地址；
构建缓存配置表，所述缓存配置表包括数据类型与缓存集群的IP地址之间的对应关系；
若接收到待缓存数据，将所述待缓存数据按预设规则进行存储。
其中，缓存配置表中的数据类型可以与步骤101中的类别对应，也可以与步骤101中的子类别对应，对此不予限定。另外，缓存配置表中的数据类型还可以与步骤102中的标识对应，例如一种数据类型对应一个分类符，或一种数据类型对应一个流程符，对此不予限定。
步骤104，将各个缓存集中的原始数据写入到HBase数据库。
可选的，在步骤104之前，上述数据存储方法还可以包括：检测同一缓存集中各条原始数据之间的关联关系，并根据各条原始数据之间的关联关系对原始数据进行预处理，将经过预处理后的数据写入到HBase数据库中。
一个实施例中，所述根据各条原始数据之间的关联关系对原始数据进行预处理，可以包括：若检测到重复的原始数据，则将多余的原始数据写入到该缓存集中的第一消息队列中，并删除原消息队列中多余的原始数据。
例如，对重复的多条消息进行去重操作，从而可减少消息队列中的消息数量。通过对消息队列中的消息进行预处理，从而将具有联系的多条消息处理成一条消息，因而大大提升了消息处理的效率。
可选的，在步骤104之后，上述数据存储方法还可以包括：
检测每条原始数据未被使用的时长，若某条原始数据未被使用的时长超过对应的时长阈值，则生成提示信息；
若某条原始数据未被使用的时长超过对应的时长阈值和设定值之和，则删除该原始数据。
为了避免当数据处理时间较长时，导致保存到HBase数据库中的数据长时间停留所引起的消息阻塞现象(即后进入消息队列的消息长时间得不到响应处理)和数据库数据膨胀现象(数据库中的数据长时间停留)，当原始数据保存到 HBase数据库时，可以针对每个原始数据设置一计时器和时长阈值；当所述计时器所计的时长超过时长阈值，则向应用系统发送提示信息，收到提示信息的应用系统优先对消息进行处理。并将时长阈值延长一设定值，继续所述计时器的计时，并监测所述计时器的计时是否达到的所述被延长的时长阈值，如果达到且所述消息未被所述应用系统删除，则主动将所述消息删除。
通过计时器监控消息在HBase数据库中的存储时间，至少具有以下效果： (1)可以有效减少当消费消息的应用系统成功处理完数据时所需要的删除数据的时间，提升了数据处理的整体效率；(2)可以提前腾空数据库空间，既有利于多个消费消息的应用系统同时共享同一个HBase数据库空间(避免由于某一个消费消息的应用系统长时间占用数据库空间，导致其他消费消息的应用系统缺乏足够的数据库空间存储消息)；(3)有利于所述消费消息的应用系统获取多个具有关联关系的消息同时处理；(4)通过提醒机制，便于所述消费消息的应用系统合理调度消息的处理顺序。可见，通过主动删除消息既可有效避免消息阻塞和数据膨胀现象，也有利于多应用系统并发共享同一个数据库空间。
上述数据存储方法，首先获取原始数据并对各条原始数据按预设规则进行分类，得到多个类别的原始数据，然后按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据，接着将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中，最后将各个缓存集中的原始数据写入到 HBase数据库，根据对原始数据的分类实现对数据的分类存储，从而提高数据存储效率。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
对应与上文实施例所述的数据存储方法，本发明实施例还提供一种数据存储装置。参见图3，该数据存储装置可以包括数据分类模块301、标识生成模块 302、缓存集写入模块303和数据库写入模块304。
数据分类模块301，用于获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据。
标识生成模块302，用于按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；其中，每一类别的原始数据对应的标识之间具有关联性。
缓存集写入模块303，用于将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis消息队列，每个缓存集对应一个IP地址。
数据库写入模块304，用于将各个缓存集中的原始数据写入到HBase数据库。
可选的，所述对各条原始数据按预设规则进行分类，包括：
按照各条原始数据对应的应用程序对各条原始数据进行分类，每一类别的原始数据对应一个应用程序。
可选的，所述对各条原始数据按预设规则进行分类，还包括：
按照各条原始数据在应用程序中对应的业务流程，对同一类别的原始数据进行再次分类，得到多个子类别的原始数据，其中每一子类别的原始数据对应一个业务流程。
可选的，数据库中预存有与各个类别一一对应的分类符以及与各个子类别对应的流程符；所述按照分类类别对每条目标数据生成全局唯一的标识，包括：
根据当前原始数据对应的类别，从所述数据库中获取与该类别对应的分类符；
根据当前原始数据对应的类别，从所述数据库中获取与该子类别对应的流程符；
根据当前原始数据在整个业务流程中的时间特征，生成时间符；每条所述原始数据对应一个业务流程信息和一个时间特征信息，所述时间信息用于表征该原始数据在对应的业务流程中的生成时间；
将所述分类符、流程符和时间符作为当前原始数据的标识。
可选的，所述数据存储装置还可以包括：
检测模块，用于检测同一缓存集中各条原始数据之间的关联关系，并根据各条原始数据之间的关联关系对原始数据进行预处理，将经过预处理后的数据写入到HBase数据库中。
可选的，所述根据各条原始数据之间的关联关系对原始数据进行预处理，包括：
若检测到重复的原始数据，则将多余的原始数据写入到该缓存集中的第一消息队列中，并删除原消息队列中多余的原始数据。
可选的，所述数据存储装置还可以包括：
处理模块，用于检测每条原始数据未被使用的时长，若某条原始数据未被使用的时长超过对应的时长阈值，则生成提示信息；
若某条原始数据未被使用的时长超过对应的时长阈值和设定值之和，则删除该原始数据。
图4是本发明一实施例提供的终端设备的示意图。如图4所示，该实施例的终端设备40包括：处理器400、存储器401以及存储在所述存储器401中并可在所述处理器400上运行的计算机程序402，例如数据存储程序。所述处理器400执行所述计算机程序402时实现上述各个数据存储方法实施例中的步骤，例如图1所示的步骤101至104。或者，所述处理器400执行所述计算机程序 402时实现上述各装置实施例中各模块/单元的功能，例如图3所示模块301至 304的功能。
示例性的，所述计算机程序402可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器401中，并由所述处理器400执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序402在所述终端设备40 中的执行过程。例如，所述计算机程序402可以被分割成数据分类模块、标识生成模块、缓存集写入模块和数据库写入模块，各模块具体功能如下：
数据分类模块，用于获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据；
标识生成模块，用于按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；其中，每一类别的原始数据对应的标识之间具有关联性；
缓存集写入模块，用于将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis消息队列，每个缓存集对应一个IP地址；
数据库写入模块，用于将各个缓存集中的原始数据写入到HBase数据库。
所述终端设备40可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括，但不仅限于，处理器400、存储器401。本领域技术人员可以理解，图4仅仅是终端设备40的示例，并不构成对终端设备 40的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器400可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列 (Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器401可以是所述终端设备40的内部存储单元，例如终端设备 40的硬盘或内存。所述存储器401也可以是所述终端设备40的外部存储设备，例如所述终端设备40上配备的插接式硬盘，智能存储卡(Smart Media Card, SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器401还可以既包括所述终端设备40的内部存储单元也包括外部存储设备。所述存储器401用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器401还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。
Claims (10)
1.一种数据存储方法，其特征在于，包括：
获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据；
按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；其中，每一类别的原始数据对应的标识之间具有关联性；
将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis消息队列，每个缓存集对应一个IP地址；
将各个缓存集中的原始数据写入到HBase数据库。
2.如权利要求1所述的数据存储方法，其特征在于，所述对各条原始数据按预设规则进行分类，包括：
按照各条原始数据对应的应用程序对各条原始数据进行分类，每一类别的原始数据对应一个应用程序。
3.如权利要求2所述的数据存储方法，其特征在于，所述对各条原始数据按预设规则进行分类，还包括：
按照各条原始数据在应用程序中对应的业务流程，对同一类别的原始数据进行再次分类，得到多个子类别的原始数据，其中每一子类别的原始数据对应一个业务流程。
4.如权利要求3所述的数据存储方法，其特征在于，数据库中预存有与各个类别一一对应的分类符以及与各个子类别对应的流程符；所述按照分类类别对每条目标数据生成全局唯一的标识，包括：
根据当前原始数据对应的类别，从所述数据库中获取与该类别对应的分类符；
根据当前原始数据对应的类别，从所述数据库中获取与该子类别对应的流程符；
根据当前原始数据在整个业务流程中的时间特征，生成时间符；每条所述原始数据对应一个业务流程信息和一个时间特征信息，所述时间信息用于表征该原始数据在对应的业务流程中的生成时间；
将所述分类符、流程符和时间符作为当前原始数据的标识。
5.如权利要求1所述的数据存储方法，其特征在于，在所述将各个缓存集中的原始数据写入到HBase数据库中之前，所述数据存储方法还包括：
检测同一缓存集中各条原始数据之间的关联关系，并根据各条原始数据之间的关联关系对原始数据进行预处理，将经过预处理后的数据写入到HBase数据库中。
6.如权利要求5所述的数据存储方法，其特征在于，所述根据各条原始数据之间的关联关系对原始数据进行预处理，包括：
若检测到重复的原始数据，则将多余的原始数据写入到该缓存集中的第一消息队列中，并删除原消息队列中多余的原始数据。
7.如权利要求1至6任一项所述的数据存储方法，其特征在于，在所述将各个缓存集中的原始数据写入到HBase数据库之后，所述数据存储方法还包括：
检测每条原始数据未被使用的时长，若某条原始数据未被使用的时长超过对应的时长阈值，则生成提示信息；
若某条原始数据未被使用的时长超过对应的时长阈值和设定值之和，则删除该原始数据。
8.一种数据存储装置，其特征在于，包括：
数据分类模块，用于获取原始数据，并对各条原始数据按预设规则进行分类，得到多个类别的原始数据；
标识生成模块，用于按照分类类别对每条目标数据生成全局唯一的标识，并生成索引数据；其中，每一类别的原始数据对应的标识之间具有关联性；
缓存集写入模块，用于将原始数据及对应的标识和索引数据写入到缓存集中的各个Redis消息队列中；其中，每一类别的原始数据对应一个缓存集，每个缓存集中包括多个Redis消息队列，每个缓存集对应一个IP地址；
数据库写入模块，用于将各个缓存集中的原始数据写入到HBase数据库。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述数据存储方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被一个或多个处理器执行时实现如权利要求1至7任一项所述数据存储方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910189536.5A CN110069495A (zh) | 2019-03-13 | 2019-03-13 | 数据存储方法、装置和终端设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910189536.5A CN110069495A (zh) | 2019-03-13 | 2019-03-13 | 数据存储方法、装置和终端设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110069495A true CN110069495A (zh) | 2019-07-30 |
Family
ID=67366292
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910189536.5A Pending CN110069495A (zh) | 2019-03-13 | 2019-03-13 | 数据存储方法、装置和终端设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110069495A (zh) |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110362575A (zh) * | 2019-07-04 | 2019-10-22 | 浙江大华技术股份有限公司 | 一种生成数据的全局索引的方法及装置 |
| CN110489475A (zh) * | 2019-08-14 | 2019-11-22 | 广东电网有限责任公司 | 一种多源异构数据处理方法、系统及相关装置 |
| CN110502543A (zh) * | 2019-08-07 | 2019-11-26 | 京信通信系统（中国）有限公司 | 设备性能数据存储方法、装置、设备和存储介质 |
| CN110532263A (zh) * | 2019-08-08 | 2019-12-03 | 杭州广立微电子有限公司 | 一种集成电路测试系统及其面向列的数据库管理系统 |
| CN110750685A (zh) * | 2019-09-29 | 2020-02-04 | 中国联合网络通信集团有限公司 | 一种数据入库方法及装置 |
| CN110764697A (zh) * | 2019-09-29 | 2020-02-07 | 北京东软望海科技有限公司 | 一种数据管理方法及装置 |
| CN110781238A (zh) * | 2019-10-08 | 2020-02-11 | 中国建设银行股份有限公司 | 基于Redis、Hbase结合的客户视图缓存方法和装置 |
| CN112214571A (zh) * | 2020-10-10 | 2021-01-12 | 中国平安人寿保险股份有限公司 | 基于kv存储的索引生成方法、装置、设备及介质 |
| CN112699108A (zh) * | 2020-12-25 | 2021-04-23 | 中科恒运股份有限公司 | 婚姻登记系统数据重构方法、装置及终端设备 |
| CN112765173A (zh) * | 2021-01-20 | 2021-05-07 | 四川湖山电器股份有限公司 | 一种适用于上位机的数据存储方法、系统及加载方法 |
| CN113407287A (zh) * | 2021-06-29 | 2021-09-17 | 中国平安人寿保险股份有限公司 | 可视化页面的快速生成方法、装置、设备及存储介质 |
| CN115914360A (zh) * | 2022-09-15 | 2023-04-04 | 成都飞机工业（集团）有限责任公司 | 一种时序数据存储方法、装置、设备及存储介质 |
| CN116151542A (zh) * | 2022-11-30 | 2023-05-23 | 上海韵达高新技术有限公司 | 物流订单实时监控方法、装置、设备及存储介质 |
-
2019
- 2019-03-13 CN CN201910189536.5A patent/CN110069495A/zh active Pending
Cited By (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110362575A (zh) * | 2019-07-04 | 2019-10-22 | 浙江大华技术股份有限公司 | 一种生成数据的全局索引的方法及装置 |
| CN110502543A (zh) * | 2019-08-07 | 2019-11-26 | 京信通信系统（中国）有限公司 | 设备性能数据存储方法、装置、设备和存储介质 |
| CN110532263A (zh) * | 2019-08-08 | 2019-12-03 | 杭州广立微电子有限公司 | 一种集成电路测试系统及其面向列的数据库管理系统 |
| CN110489475A (zh) * | 2019-08-14 | 2019-11-22 | 广东电网有限责任公司 | 一种多源异构数据处理方法、系统及相关装置 |
| CN110750685B (zh) * | 2019-09-29 | 2022-08-26 | 中国联合网络通信集团有限公司 | 一种数据入库方法及装置 |
| CN110750685A (zh) * | 2019-09-29 | 2020-02-04 | 中国联合网络通信集团有限公司 | 一种数据入库方法及装置 |
| CN110764697A (zh) * | 2019-09-29 | 2020-02-07 | 北京东软望海科技有限公司 | 一种数据管理方法及装置 |
| CN110764697B (zh) * | 2019-09-29 | 2023-08-29 | 望海康信(北京)科技股份公司 | 一种数据管理方法及装置 |
| CN110781238B (zh) * | 2019-10-08 | 2022-09-13 | 中国建设银行股份有限公司 | 基于Redis、Hbase结合的客户视图缓存方法和装置 |
| CN110781238A (zh) * | 2019-10-08 | 2020-02-11 | 中国建设银行股份有限公司 | 基于Redis、Hbase结合的客户视图缓存方法和装置 |
| CN112214571A (zh) * | 2020-10-10 | 2021-01-12 | 中国平安人寿保险股份有限公司 | 基于kv存储的索引生成方法、装置、设备及介质 |
| CN112214571B (zh) * | 2020-10-10 | 2024-02-20 | 中国平安人寿保险股份有限公司 | 基于kv存储的索引生成方法、装置、设备及介质 |
| CN112699108A (zh) * | 2020-12-25 | 2021-04-23 | 中科恒运股份有限公司 | 婚姻登记系统数据重构方法、装置及终端设备 |
| CN112765173A (zh) * | 2021-01-20 | 2021-05-07 | 四川湖山电器股份有限公司 | 一种适用于上位机的数据存储方法、系统及加载方法 |
| CN113407287A (zh) * | 2021-06-29 | 2021-09-17 | 中国平安人寿保险股份有限公司 | 可视化页面的快速生成方法、装置、设备及存储介质 |
| CN115914360A (zh) * | 2022-09-15 | 2023-04-04 | 成都飞机工业（集团）有限责任公司 | 一种时序数据存储方法、装置、设备及存储介质 |
| CN116151542A (zh) * | 2022-11-30 | 2023-05-23 | 上海韵达高新技术有限公司 | 物流订单实时监控方法、装置、设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110069495A (zh) | 数据存储方法、装置和终端设备 | |
| US11416456B2 (en) | Method, apparatus, and computer program product for data quality analysis | |
| US10311105B2 (en) | Filtering queried data on data stores | |
| CN109299164A (zh) | 一种数据查询方法、计算机可读存储介质及终端设备 | |
| CN110347888B (zh) | 订单数据的处理方法、装置及存储介质 | |
| CN111625561B (zh) | 一种数据查询方法及装置 | |
| CN107329991A (zh) | 一种列表页访问和展示方法及其系统 | |
| WO2021027331A1 (zh) | 基于图数据的全量关系计算方法、装置、设备及存储介质 | |
| Erraissi et al. | Meta-modeling of data sources and ingestion big data layers | |
| CN115237857A (zh) | 日志处理方法、装置、计算机设备及存储介质 | |
| CN115665284A (zh) | 基于分布式配置中心的报文处理方法、装置及计算机设备 | |
| CN113987152B (zh) | 一种知识图谱抽取方法、系统、电子设备及介质 | |
| CN109947736B (zh) | 实时计算的方法和系统 | |
| CN112506490A (zh) | 一种接口生成方法、装置、电子设备及存储介质 | |
| CN111752541A (zh) | 一种基于Rete算法的支付路由方法 | |
| WO2022048201A1 (zh) | 数据处理方法及装置、电子设备、存储介质 | |
| CN116069462A (zh) | 一种大数据dag任务流调度方法、系统及存储介质 | |
| CN112073395B (zh) | 一种文件分发方法和装置 | |
| CN113297436B (zh) | 基于关系图网络的用户策略分配方法、装置及电子设备 | |
| CN108959468A (zh) | 一种数据库目录的监控方法、存储介质和服务器 | |
| CN111611056A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
| CN113742116A (zh) | 一种异常定位方法及装置、设备、存储介质 | |
| CN111414553A (zh) | 数据处理的系统、方法及存储介质 | |
| CN111740871A (zh) | 一种数据采集方法及装置 | |
| CN109783308A (zh) | 一种终端检测的方法及终端设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| WD01 | Invention patent application deemed withdrawn after publication | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190730 |