WO2014059808A1 - 一种网管海量历史数据管理方法 - Google Patents
一种网管海量历史数据管理方法 Download PDFInfo
- Publication number
- WO2014059808A1 WO2014059808A1 PCT/CN2013/079993 CN2013079993W WO2014059808A1 WO 2014059808 A1 WO2014059808 A1 WO 2014059808A1 CN 2013079993 W CN2013079993 W CN 2013079993W WO 2014059808 A1 WO2014059808 A1 WO 2014059808A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- sub
- group
- data
- information
- historical data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/02—Standardisation; Integration
- H04L41/024—Standardisation; Integration using relational databases for representation of network management data, e.g. managing via structured query language [SQL]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/085—Retrieval of network configuration; Tracking network configuration history
Definitions
- the invention relates to the management of historical data in the network management system, in particular to a method for managing massive historical data of the network management. Background technique
- the network technology is changing with each passing day.
- the scale of broadband users is constantly expanding.
- the number of devices managed by the telecom network management system is also increasing.
- the logs of daily management of the telecom network management system, alarm data of devices and other data need to be stored in the database.
- Shake is used to record data and query analysis data. After the R-month, these data are getting bigger and bigger. If the data is not effectively managed, whether it is data insertion or data query, the performance will drop sharply, which will affect the normal use of the network management software.
- the database uses hard disk space to store the W data. If the historical data grows indefinitely, it will eventually exhaust all the disk space. Therefore, the historical data needs to be cleaned regularly, and some of the infrequently used data in the database are dumped to other locations. Save, archive. In the process of data transfer, the tube cannot use the data. If the efficiency of the dump is low, it will affect the availability of the network management system. An efficient data transfer scheme must be provided. Hairline
- the object of the present invention is to provide a method for managing massive historical data of a network management system, which can save a large amount of historical data, and can efficiently insert, query, and transfer data without affecting the normal use of the network management software. .
- a method for managing a large amount of historical data of a W-tube characterized in that: the database is divided into two tables by the second slow-sorting rule, and the data stored in a single table storing the massive historical data of the network management is segmented and saved to a plurality of identical structures. In the table, reduce the capacity of a single table, thereby The processing efficiency of high single table, and the following management of each sub-table:
- the secondary table rules are recorded in the x l format file, where:
- the historical data type data_type indicates the type of data stored in the data table.
- the total number of groups is group_count, which indicates the total number of groups of such data tables.
- the total number of sub-tables in the group sp lit-count indicates that the number of sub-tables per packet is the largest.
- Value, the total number of rows in the table, row_count, indicates the total number of table rows.
- the processing flow of the historical data table management includes the following steps:
- Al read the file that records the secondary table rules of the data table, obtain the historical data type data-ty e, the total number of groups group-count, the total number of sub-tables in the group sp l it-count, the total number of rows in the table — count ;
- the sub-table table Read the data table of the sub-table table, obtain all the sub-table group number group-110, the sub-table number table jo, the currently using the mark current_flag and the used tag 3 ⁇ 4 in-usej!ag, save the information to a
- the group number is a key
- the part table information list is a value of the ap object
- the part table information list includes the part table number tab le no, the current label is currently used and the flag is used in the in_use_flag, where the map key is The value ranges from 1 to the total number of groups - count. If there is no sub-table information corresponding to a key in the database table information table, the list of sub-table information corresponding to the key in ap is empty;
- step A3 according to the result of the traversal, if the sub-table information list corresponding to the current group number in the ap object is empty, then go to step A4, otherwise, go to step A5;
- A4 Create a usable sub-table in the grouping of the current group number, and assign the sub-sequence number. Set the sub-table to be marked as 1 .
- the used flag is 1, insert the information of the sub-table into the database sub-table information table, and then go to step A5 ;
- the sub-table information recorded in the database sub-table information table is inserted into the packet table information cache by the group number as a key, and the cache is used to record the information of the sub-tables created in all the groups.
- the sub-table information marked with 1 is currently being used, the group number is the key, and the sub-sequence will be used.
- step A6 For the sub-table number of the sub-table of 1, turn to step A6 ;
- step A6 using the timer and waiting, if the timer has not timed out, it waits for a while, when the timing expires, if the signal of the application exit is received, the processing flow of the historical data sub-table management is exited; otherwise, the process proceeds to step A7 ;
- step A7 traversing the current sub-table serial number cache of the packet, if not traversed, then go to step A8, if the traversal is completed, then step A6;
- A8 reading the sub-table number in the current group, constructing the name of the sub-table according to the group number and the sub-table number of the current group, and obtaining the number of sub-table data lines;
- step A9 if the number of sub-tables «the number of rows is greater than the total number of rows in the sub-table rules row_count, then go to step A10, otherwise go to step A7;
- A10 Create a new sub-table.
- the sub-table number of the new sub-table is the sub-table number value of the sub-table with the original current-flag of 1 in the group where the sub-table is located, and then add 1 to the database sub-table information table ⁇ .
- the information of the table, and the information of the new sub-table is inserted into the packet information cache, and then the sub-table number corresponding to the current group in the current sub-table number buffer of the packet is changed to the sub-table number of the new sub-table;
- A1 determines whether the total number of sub-tables in the current group is greater than the total number of sub-tables in the group. split_count» If it is greater than then, transfer to A12, if it is less, then go to step A7;
- the used tag injsejla of the sub-table serial number minimum sub-table in the group is 0, and the identifier is not used in data insertion and query, and will be processed by the historical data transfer management process. And delete from the packet table information cache In addition to the record of the sub-table, go to step A ll.
- the processing flow of the historical data insertion management includes the following steps:
- the BU determines the group number of the data service group according to the content of the inserted data, and obtains the sub-table number according to the current sub-table number of the packet, and the root "correlation table and the number of logical correspondences, rearrange the inserted data content, and store the group number and points.
- the table number is a key, and the data memory is inserted into the map of values;
- step B3 According to the current grouping number and the sub-table number, construct the sub-table name, and the insertion number is held in the current sub-table, and the process proceeds to step B2.
- the processing flow of the historical number query management includes the following steps:
- the CU reads the sub-table information marked with 1 in the database sub-table information table; C2, analyzes the query conditions, and obtains a list of table names of all relevant sub-component tables; 03, the club queries all the sub-tables in C2 according to the query conditions.
- the processing flow of the historical data transfer management includes the following steps:
- the part table information is deleted from the database part table information table according to the group number and the part table number;
- the method for managing massive data historical data of the network management system implements database sub-tables through two-level sub-table rules (database sub-tables: data stored in a single table, and divided according to certain rules and saved to a plurality of tables with the same structure ( In the case of sub-tables, reduce the capacity of a single table, Therefore, the processing efficiency of the single table can be improved, different sub-tables can be accessed under different service requirements, the lock competition can be reduced, and the operation efficiency can be improved.
- the historical data is dispersed into multiple sub-tables, and the number of records in each sub-table is guaranteed. Compared with the limited sub-table capacity, it not only ensures the response efficiency of historical data query, but also ensures the data insertion efficiency, improves the customer experience, and improves the efficiency of the network management system.
- the method for managing the massive historical data of the network management according to the present invention separates the data table that is being used and needs to be transferred by using the mark, and the network management system and the data transfer function do not affect each other, and the efficiency of the whole table processing of the data table It is much higher than the efficiency of processing according to row records, which reduces the impact on the database system and improves the overall efficiency of the network management system.
- Circle 1 is divided according to the rules of the sub-table, and the sub-table is displayed;
- Figure 2 is the content of the data table sub-rule rule file
- Figure 3 is the contents of the database containing the information contained in the table information table
- Figure 4 is a sub-table management processing flow circle
- ⁇ 5 is a flow chart of data insertion processing
- Figure 6 is the data query processing flow ffl
- Circle 7 is the data transfer processing flow circle.
- the method for managing the massive historical data of the network management system realizes the database sub-table by the second-level sub-rule rule, and divides the data saved in the single table storing the massive historical data of the network management, and then saves the data to a plurality of sub-tables with the same structure.
- the capacity of the single table is reduced, thereby improving the processing efficiency of the single table, and the following management is performed for each of the sub-tables:
- B history number is inserted into management, c historical data query management,
- FIG. 2 shows the content of the data table sub-rule rule file, that is, the second-level sub-table rule, the second-encryption sub-table rule is recorded in the xml format file, where - the historical data type Kta ⁇ type, which indicates the type of data stored in the data table, the total number of groups, group_count, indicates the total number of groups of such data tables, that is, a data table can be divided into several groups, and each group corresponds to a unique group number;
- the total number of sub-tables in the group, split_count indicates the maximum number of sub-tables in each group, that is, how many sub-tables can be included in a group, that is, the maximum number of sub-tables in the group, and each sub-table corresponds to a unique one.
- the total number of rows in the sub-table is row_count, which indicates the total number of rows in the sub-table, that is, the total number of rows in the sub-rows row_count indicates how many rows can be included in a sub-table, that is, the maximum number of rows in the sub-table; when the data volume of a sub-list exceeds When this value is used, you need to create a new sub-table.
- a data table can have at most group-count groupings, one group has split-count sub-tables, and one sub-table records up to row c oun t rows.
- the processing flow of the historical data table management includes the following steps:
- A Read the file that records the secondary table rules of the dig-in table, obtain the history number data type data_type, the total number of groups group—couir The total number of sub-tables in the group sp 1 it— count and the total number of rows in the sub-row row ⁇ count
- the table information list is a value of the map object, the table information list includes the table number table - n0 , current The flag current_flag and ⁇ is used to make ffl mark in_ use_flag, the value of the ⁇ map key ranges from 1 to the total number of groups group_count, if there is no corresponding table in the database table information table Information, then in the map ⁇ the list of sub-table information corresponding to the key is empty;
- FIG. 3 shows the contents of the number table information table, and demonstrates a possible state, each line records a sub-table information.
- the sub-table of no 4 becomes the table in the current state of use current—fla is 1, and the used flag injisej ag of the sub-table number table jo is set to 0, so that all the available values can be kept.
- the total number of sub-tables does not exceed the value of split-co wake up t;
- step M the list of sub-table information corresponding to the current group number in the map object is empty, then go to step M, otherwise, go to step A5;
- the sub-table information recorded in the database sub-table information table is inserted into the sub-component table information cache by the group number as a key, and the cache is used to record the information of the sub-tables created in all the groups.
- the sub-table information marked with 1 is currently being used, and the sub-table number is inserted into the current sub-table number buffer according to the group number key.
- the cache records the sub-table number of the sub-table with cmrrent_f lag of 1 in each group. , go to step A6 ;
- step A6 using the timer and waiting, if the timer does not timeout, then waits, when the timer expires, if the signal of the application exit is received, the processing flow of the historical data sub-table management is exited; otherwise, the process proceeds to step A7; A7, traversing the current sub-table number sequence buffer of the packet, if not traversed, then go to step ,8, if it is suitable, then go to step A6;
- A8 reading the sub-table number in the current group, constructing the name of the sub-table according to the group number and the sub-table number of the current group, and obtaining the number of sub-table data lines;
- step A7 if the number of sub-table data rows is greater than the total number of sub-tables in the sub-table rules ro - count, then the process is changed to AM, otherwise it is transferred to step A7;
- a 10 create a new sub-table, the sub-table number of the new sub-table is the sub-table number value of the sub-table whose original current ⁇ flag is 1 in the group where the sub-table is located, and then add 1 in the database sub-table information table. Dividing the information of the table, and inserting the information of the new sub-table into the information table of the sub-group table, and then changing the serial number of the current sub-table in the current sub-table number buffer of the packet to the sub-table number of the new sub-table;
- Al 1 determining whether the total number of sub-tables in the current group is greater than the total number of sub-tables in the group split-count, if it is greater, then go to step A12, if it is less, then go to step A7;
- the sub-table number of the sub-segment in the sub-segment is marked with the use flag in_ use_flag, indicating that the sub-table will not be used in data insertion and query, and will be historical number «
- the transfer management process processes, and deletes the record of the part table from the packet table information cache, and proceeds to step Al l.
- the processing flow package of the historical data insertion management has the following steps:
- the historical data query management includes the following steps:
- the sub-table information marked with 1 has been used in the CU to read the database sub-table information table;
- the processing flow of the historical data transfer management includes the following steps:
- Figure 1 shows the state of the partial table that may appear after being divided according to the rules of the table.
- the table rules are usually stored in a static file (for example: stored in the data table table rule file), and the vertical representation is divided according to the business function.
- a grouping such as a circle, divides M groups. There may be multiple sub-tables in each group, and the sub-table numbers start from 1 and are arranged backwards. The number of sub-tables in each group is not necessarily the same, but is determined according to the quantity of actual data.
- the method ⁇ of the group number and the sub-sequence number pair is used to uniquely identify a sub-table, for example, (2, 1) identifies the group 2 ⁇ sequence number.
- a sub-table of 1. is a specific embodiment.
- Figure 4 shows a method for managing the massive historical data of the network management
- Sub-table management only manages the use of sub-tables marked with 1 and has used the score marked 0
- the table is made up of data transfer functions.
- step A2 traverse the sub-table information read from the database sub-table information table according to the group number, and complete the conversion A6, otherwise go to step A3.
- the traversal performs the initialization of the component table information cache and the packet current table number sequence buffer, and performs the scheduled table management step after completion.
- step A3 If there is no sub-table in the packet with the packet number 1 in A2, the process proceeds to step A4. If the packet with the packet number 1 has at least one sub-table, the process proceeds to step A5 .
- the historical data does not create any sub-tables, so it will enter ⁇ A4.
- the currently used tag is currentj!ag is L. Only one sub-table in each group is currently in use.
- the flag ciirrent_flag is 1, which identifies the sub-table accessed during data insertion.
- A5 updating the sub-group table information cache, increasing the sub-table information traversed in A2 or the sub-table information created in A4; and updating the current sub-table number sequence buffer of the group, the cache is used to record the sub-tables that each group is using. Serial number.
- step A7 the current subgroup table serial number cache, if not traversed, then go to step A8, if the traversal is completed, go to step A6;
- This time period is preferably set to be longer, and it is necessary to ensure that the data rows of the sub-tables between the two checkpoints exceed the total number of sub-tables allowed by the sub-table rules so that count is not too much.
- step A9 If the tab le-row_count in A8 is greater than the total number of row-counts in the sub-table rule ⁇ sub-table, then go to step A 10, otherwise turn to step A7;
- A10 create a group number of 2, a sub-table number of 4 new sub-table, set the current-flag of the sub-table number 4 to 1, injse jlag to 1, and insert the sub-table information with the sub-table number 4 into the database sub-table information.
- the current_flag of the sub-table number 3 is modified to 0 in the sub-table information table, the sub-table information cache is updated, the sub-table information of the sub-table number 4 is inserted, and the packet in the current sub-table number buffer is updated.
- the corresponding current sub-table number is 4;
- Al l according to the packet table information cache to determine whether the total number of sub-tables in the current group is greater than the total number of sub-tables in the sub-table rule split-count, if it is greater, then go to step A12, if it is less, then step A7;
- Bl determining the group number of the data service packet according to the content of the inserted data, obtaining the sub-table number currently marked with 1 according to the current sub-table information cache of the packet, rearranging the insertion digital sequence according to the sub-table corresponding to the data, and inserting into the grouping
- the number of the sub-table is the key, and the data content of the inserted data is the value of the dish ap;
- the root group number is the sub-table number to obtain the sub-table name, and the number is inserted into the sub-table. Due to the existence of the component table, a batch of data may be written to different sub-tables of different groups. In order to prevent ih from switching the data used in the data writing, the data is corresponding to the data according to the sub-table and the data before the insertion. Rearrange, reduce the time used for table switching, so as to ensure the order of the data, but also to improve the efficiency of data insertion.
- Figure 6 shows the processing flow of historical data query, including the following ⁇ « :
- the sub-table information table uses the sub-table information with the tag in-use_flag 1;
- the list in C2 needs to be prioritized, such as: (1, 1), (2, 4), (2, 3) , (2, 2), (3, 3), (3, 2), (3, 1), and then serially check who; if the query results have no priority requirements, then the list in C2 has no order, check
- the query can be executed in parallel, merge all the query results, and return.
- ⁇ 7 shows the processing flow of historical data transfer, including the following steps:
- Dl read all the table information in the database table information table that has been marked with in_use_flag 0, and save it to the map with the group number as the key and the table number list as the value, for example, the group number is 2.
- Group ⁇ the sub-table number of the sub-table is 1, 2, the used mark of the sub-table is 0;
- the constructed table name is TJIISDATAJ-1, and all the records in the sub-table are directly exported to the external file through the database tool or the SQL script: D4. Delete the information that the sub-table number is 2 and the sub-sequence number is 1 from the database sub-table information table ⁇ ;
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明涉及网管管理系统中历史数据的管理,具体说是一种网管海量历史数据管理方法,通过二级分表规则实现数据库分表,把保存有网管海量历史数据的单个表保存的数据,切分后保存到多个结构相同的分表中,减少单表的容量,从而提高单表的处理效率,并对各个分表进行以下管理:A历史数据分表管理,B历史数据插入管理,C历史数据查询管理,D历史数据转移管理。本发明所述的网管海量历史数据管理方法,能保存海量历史数据,并能高效的进行数据的插入、查询、转移而不影响网管软件的正常使用,提高了网管管理系统的工作效率。
Description
一种网管海量历史数据管理方法
技术领域
本发明涉及网管管理系统中历史数据的管理,具体说是一种网管 海量历史数据管理方法。 背景技术
目前网络技术日新月异, 宽带用户规模不断扩大, 电信网管系统 管理的设备数量也在不斷增长, 电信网管系统日常管理的日志、设备 的告警数据等数据都需要保存在数据库中,电信网管系统对这些数摇 的使用方式为记录数据、查询分析数据。经过日 R月累, 这些数据越 来越庞大, 如果不对这些数据进行有效的管理, 无论是数据的插入或 者是数据的査询,性能都会急剧下降,从而影响网管软件的正常使用。 数据库使用硬盘空间来保存其中 W数据, 如果历史数据无限增长, 最 终将耗尽所有磁盘空间, 所以需要定期对历史数据进行清理, 将数据 库中的一部分不常使用的数掘转储到其它位置进行保存、归档。而在 数据转移的过程中, 管则无法使用这些数据, 如果转储的效率低下 则影响网管系统的可用性, 必须提供一种高效的数据转移方案。 发嚷 ή容
针对现有技术中存在的缺 ,本发明的目的在于提供一种网管海 量历史数据管理方法》 能保存海量历史数据, 并能高效的进行数据的 插入、 查询、 转移而不影响网管软件的正常使用。
为达到以上目的, 本发明采取的技术方案是:
一种 W管海量历史数据管理方法, 其特征在于; 通过二缓分表规 则实现数据库分表, 把保存有网管海量历史数据的单个表保存的数 据, 切分后保存到多个结构相同的分表中, 减少单表的容量, 从而提
高单表的处理效率, 并对各个分表进行以下管理:
A 历史数据分表管理,
B 历史数据插入管理,
C 历史数据查询管理,
D 历史数据转移管理。
在上述技术方案 基础上, 二级分表规则用 x l 格式的文件纪 录, 其中:
历史数据类型 data—type , 表示数据表保存数据的类型, 分组总数 group— count , 表示对这种数据表分组的总数, 分組内分表总数 sp lit—count , 表示每个分组 ή分表数最大值, 分表内行总数 row— count , 表示分表 行总数, 当一个分表的数 据量超过这个值的时候, 就需要创建一个新的分表。
在上述技术方案的基础上,所述历史数据分表管理的处理流程包 括以下步骤:
Al、读取记载有数据表的二级分表规则的文件, 获取历史数据类 型 data— ty e、分组总数 group— count 分组内分表总数 sp l it— count 禾 Π分表内 ί亍总数 row— count ;
读取数掘库分表信息表, 获取所有分表 分组号 group— 110、 分 表序号 table jo、 当前正在使用标记 current—flag和已使用标 ¾ in— usej!ag, 将这些信息保存到一个分組号为键, 分表信息列表为 值的 ap对象中, 所述分表信息列表包括分表序号 tab le no, 当前 正在使用标记 current— flag和巳使用标记 in— use— flag , 其中 map 的键的取值范围从 1到分组总数 group— count , 如果在数据库分表信 息表中没有某个键对应的分表信息,那么在 ap中该键对应的分表信 息列表就为空;
A2、 遍历 A1得到的 map对象;
A3、根据遍历的结果, 如果 ap对象中当前分组号对应的分表信 息列表为空, 则转至步骤 A4 , 否则, 转至步骤 A5;
A4、在当前分組号的分组 ψ创建一个可用的分表, 分配分表序号
为 1 . 设置分表当前正在使 标记为 1 . 已使用标记为 1, 将该分表 的信息插入数据库分表信息表后转至步骤 A5;
A5、将数据库分表信息表中记载的分表信息, 按分组号为键, 逐 条插入到分组分表信息缓存中,该缓存用于记录所有分组中已创建的 分表的信息,
为 1的分表的分表序号, 转步骤 A6;
分组当前分表序号缓存内的分表,需要検査其是否超过分表内行 总数;
A6、使用定时器并等待, 如果定时器未超时则一直等待, 当定时 超时后,如果接收到应用程序退出的信号, 则退出历史数据分表管 理的处理流程; 否则, 转入步骤 A7;
A7、 遍历分组当前分表序号缓存, 如果未遍历完则转步骤 A8, 若遍历完则转歩骤 A6;
A8、读取当前分组中分表序号, 根据当前分组的组号和分表序号 构造分表的名称, 获取分表数据行数;
A9、如果分表数 «行数大于分表规则中分表内行总数 row— count, 则转步骤 A10、 否则转步骤 A7;
A10、 创建新分表, 新分表的分表序号为分表所在分組中原来 current— flag为 1的分表的分表序号值加上 1 ,然后在数据库分表信 息表 Φ插入该新分表的信息,并将该新分表的信息插入到分组分表信 息缓存中,然后将分組当前分表序号缓存中的当前分组对应的分表序 号改为新分表的分表序号;
A1 判断当前分组中分表总个数是否大于分组内分表总数 split— count» 如果大于则转歩骡 A12, 如果小于则转歩骤 A7;
A12、 更新数据库分表信息表中该分组内分表序号最小分表的已 使用标记 injsejla 为 0,标识该分表不会在数据插入和查询中使 用, 并将被历史数据转移管理流程处理, 并从分组分表信息缓存中删
除该分表的记录, 转步骤 A l l。
在上述技术方案的基础上,所述历史数据插入管理的处理流程包 括以下歩骤:
BU根据插入数据的内容确定数据 务分组的组号,根据分组当 前分表序号缓存获取分表序号, 根《分表和数摇逻辑对应关系,重新 排列插入数据内容, 存入以分组号和分表序号为键, 插入数据内存为 值的 map中;
B2、 適历 B1中的 map , 適历完成则退出, 否则转步骤 K3 ;
B3、根据当前分组号和分表序号, 构造分表名称, 插入数握到当 前分表中, 转步骤 B2。
在上述技术方案的基础上,所述历史数摇査询管理的处理流程包 括以下歩骤:
CU 读取数据库分表信息表内已使用标记为 1的分表信息; C2、 分析查询条件、 获取所有相关分組分表的表名列表; 03、 棍据查询条件查询所有 C2中的分表。
在上述技术方案的基础上,所述历史数据转移管理的处理流程包 括以下歩骤:
D 按分组号读取数据库分表信息表中所有已使用标记为 0的分 表信息记录,保存到以分组号为键, 分表序号列表为值的 map中;
D2、 遍历 D1中获取的 map , 遍历完成,后退出;
D3、根据当前分组号和分表序号, 构造分表名称, 使用批处理工 具直接导出指定分表名称的分表中所有行记录;
D4、 根据分组号和分表序号从数据库分表信息表中删除分表信 息;
D5 , 根据分表名称从数据库中删除分表, 转步骤 D2。 本发明所述的网管海量历史数据管理方法,通过二级分表规则实 现数据库分表(数据库分表即: 把单个表保存的数据, 按照一定规则 切分后保存到多个结构相同的表 (称为分表) 中, 减少单表的容量,
从而提高单表的处理效率, 在不同 务需求下可以访问不同的分表, 减少锁竞争, 提高运行效率), 将历史数据分散到多个分表中, 且保 证每个分表中记录数大致与限定的分表容量相差不大,不仅保证了历 史数据查询的响应效率, 还保 iiE了数据的插入效率, 提升了客户体验 感受, 提高了网管管理系统的工作效率。
本发明所述的网管海量历史数据管理方法,通过已使用标记将正 在使用的和需要转移的数据表逮行分离,网管系统和数据转移功能就 不会相互影响,而 数据表整表处理的效率远远高于按行记录进行处 理的效率,减少了对数据库系统的影响,提高了网管系统整偉的效率。
附圖谡明
本发明有如下附图:
圈 1是根据分表规则划分后, 分表展示;
图 2是数据表分表规则文件的内容;
图 3是数据库分表信息表包含的数握内容;
图 4是分表管理处理流程圈;
圏 5是数据插入处理流程图;
图 6是数据查询处理流程 ffl ;
圈 7是数据转移处理流程圈。
具钵实纖方式
以下结合附图对本发明作进一步详细说明。
本发明所述的网管海量历史数据管理方法,通过二级分表规则实 现数据库分表, 把保存有网管海量历史数据的单个表保存的数据,切 分.后保存到多个结构相同的分表中, 减少单表的容量, 从而提高单表 的处理效率, 并对各个分表进行以下管理:
A 历史数据分表管理,
B 历史数搦插入管理,
c 历史数据查询管理,
D 历史数据转移管理。 在上述技术方案的基础上, 图 2 示出了数据表分表规则文件的 内容, 此即所述的二级分表规则, 二缀分表规则用 xml格式的文件纪 录, 其中- 历史数据类型 kta^type, 表示数据表保存数据的类型, 分組总数 group— count, 表示对这种数据表分組的总数, 即表示 一个数据表最多可以分成几个分组, 每个分组对应唯一的一个分组 号;
分组内分表总数 split— count, 表示每个分組内分表数最大值, 即表示一个分組内可以包括多少个分表, 即分组内分表数最大值,每 个分表对应唯一的一个分表序号;
分表内行总数 row— count , 表示分表内行总数 , 即分表内行总数 row_count表示一个分表内可以包括多少行数掘, 即分表中数握行最 大值; 当一个分表的数据量超过这个值的时候》 就需要创建一个新的 分表。
即: 一个数据表最多会有 group— count 个分组, 一个分组内有 split—count个分表, 一个分表最多纪录 row c oun t行数据。 在上述技术方案的基础上,如图 4所示, 所述历史数据分表管理 的处理流程包括以下步骤:
A 读取记载有数掘表的二级分表规则的文件, 获取历史数搦类 型 data— type、分组总数 group— couir 分组内分表总数 sp 1 it— count 和分表内行总数 row— count
读取数据库分表信息表, 获取所有分表的分组号 group— no、 分 表序号 table— no、 当前正在使用标记 current— flag和巳使用标记 in^use^fiag, 将这些信息保存到一个分组号为键, 分表信息列表为 值的 map对象中, 所述分表信息列表包括分表序号 table— n0、 当前
正在使用标记 current— flag和巳使 ffl标记 in— use—flag, 其 Φ map 的键的取值范围从 1到分组总数 group— count, 如果在数据库分表信 息表中没有某个键对应的分表信息,那么在 map Ψ该键对应的分表信 息列表就为空;
数据库分表信息表的格式及内容可参见图 3所示实施例;图 3示 出了数摇库分表信息表的内容, 并演示了一个可能出现的状态,每一 行记录一个分表的信息; 假设分表规则桉照並务功能划分的组 group一 count = 3, 每个组内最多允许 split— count = 3个分表, 那 么当创建了第 4个分表后, 这个分表序号 table— no为 4的分表就成 为当前使用状态 current—fla 为 1的表, 且分表編号 table jo为 1 的分表的已使用标记 injisej ag则被置为 0, 这样就可以保持所有 可用的分表的总数不超过 split— co醒 t的值;
A2 , 遍历 A1得到的 map对象;
A3、根据遍历的结果, 如果 map对象中当前分組号对应的分表信 息列表为空, 则转至歩骤 M, 否则, 转至歩骤 A5;
A4、在当前分组号的分组 Φ 建一个可用的分表,分配分表序号 为 1, 设置分表当前正在使用标记为 1 , 已使用标记为 1, 将该分表 的信息插入数据库分表信息表后转至歩骠 A5;
Λ5、将数据库分表信息表中记载的分表信息, 按分组号为键, 逐 条插入到分组分表信息缓存中,该缓存用于记录所有分組中已创建的 分表的信息,
将当前正在使用标记为 1的分表信息,按分组号为键, 将分表序 号插入分组当前分表序号缓存,该缓存记录每个分组中 cmrrent— f lag 为 1的分表的分表序号, 转步骤 A6;
分组当前分表序号缓存内的分表,需要检查其是否超过分表内行 总数;
A6,使用定时器并等待, 如果定时器未超时则一直等待, 当定时 器超时后,如果接收到应用程序退出的信号, 则退出历史数据分表管 理的处理流程; 否则, 转入步骤 A7;
A7、 遍历分组当前分表序号缓存, 如果未遍历完则转步骤 Λ8, 若適历完则转步骤 A6;
A8、读取当前分组中分表序号, 根据当前分组的组号和分表序号 构造分表的名称, 获取分表数据行数;
Λ9、如果分表数据行数大于分表规则中分表内行总数 ro — count, 则转歩骤 AM 否则转歩骤 A7;
A 10 , 创建新分表, 新分表的分表序号为分表所在分组中原来 current^flag为 1的分表的分表序号值加上 1 ,然后在数据库分表信 息表中插入该新分表的信息,并将该新分表的信息插入到分组分表信 息缓存中,然后将分组当前分表序号缓存中 当前分组对应 分表序 号改为新分表的分表序号;
Al 1、 判断当前分组中分表总个数是否大于分组内分表总数 split—count, 如果大于则转步骤 A12, 如果小于则转步骤 A7;
A12、 更新数据库分表信息表中该分组内分表序号最小分表的巳 使用标记 in— use— flag为 0,标识该分表不会在数据插入和查询中使 用, 并将被历史数 «转移管理流程处理, 并从分组分表信息缓存中删 除该分表的记录, 转步骤 Al l。 在上述技术方案的基础上,如图 5所示, 所述历史数据插入管理 的处理流程包 fi以下步骤:
Bl、根据插入数据的内容确定数据业务分组的组号,根据分组当 前分表序号缓存获取分表序号,根振分表和数据逻辑对应关系,重新 排列插入数据内容, 存入以分组号 分表序号为键, 插入数据内存为 值的 map中;
132 , 遍历 B1中的 map , 遍历完成则退出, 否则转步骤
B3、根据当前分组号和分表序号, 构造分表名称, 插入数据到当 前分表中, 转步骤 B2。 在上述技术方案的基础上,如圏 6所示, 所述历史数据查询管理
的处理流程包括以下步骤:
CU 读取数据库分表信息表内已使用标记为 1的分表信息;
C2、 分 査询条件、 获取所有相关分组分表的表名列表;
C3、 棍据查询条件查询所有 C2中的分表。 在上述技术方案的基础上, 如图 7所示, 所述历史数据转移管理 的处理流程包括以下步骤:
D1、按分組号读取数据库分表信息表中所有已使用标记为 0的分 表信息记录,保存到以分组号为键, 分表序号列表为值的 ap中;
D2、 遍历 D1中获取的 map, 遍历完成后退出;
D3、根据当前分组号和分表序号, 构造分表名称, 使用批处理工 具直接导出指定分表名称的分表中所有行 i己录;
D4、 根据分组号和分表序号从数据库分表信息表 ψ删錄分表信 息;
D5、 棍据分表名称从数据库中删除分表, 转歩骤 D2。 图 1示出了按照分表规则划分后可能出現的分表状态,所述的分 表规则通常存储于静态文件中 (例如: 存储于数据表分表规则文件 中), 纵向表示按照业务功能划分的一个分组, 如圈划分了 M个分组。 每个分組内可能有多个分表, 分表序号从 1开始, 向后排列。每个組 内的分表数量不一定相同, 而是根据实际数据的数量确定,使用分组 号和分表序号对的方式 τ以唯一标识一个分表, 例如 (2, 1 )标识分 组 2 φ序号为 1的分表。 以下为一个具体实施例。
图 4示出了网管海量历史数据分表管理方法
Al、从静态文件读取数据表分表规则, 从数据库分表信息表读取 已使用标记 in se—flag为 1的分表信息。
分表管理只管理已使用标记为 1的分表,而已使用标记为 0的分
表由数据转移功能使 。
A2、按分组号遍历从数据库分表信息表读取的分表信息, 適历完 成转歩骠 A6, 否则转歩骤 A3。
遍历进行分组分表信息缓存和分组当前分表序号缓存的初始化, 完成后进行定时的分表管理步骤。
A3、若 A2中分组号为 1的分组内一个分表都没有,则转歩骤 A4, 若分组号为 1的分组有至少一个分表, 则转步骤 A5;
第一次使用网管时, 历史数据是没有创建任何分表的,所以会进 入歩骡 A4。
A4、 创建一个新的序号 tab l e no为 1分表, 更新数据库分表信 息表, 置分表序号为 1 的当前正在使用标记 currentj!ag为 L 每 个分组内只有一个分表的当前正在使用标 i己 ciirrent— flag为 1 , 标 识在数据插入时访问的分表。
A5、更新分组分表信息缓存,增加 A2中遍历的分表或者 A4中创 建的分表的分表信息; 同时更新分组当前分表序号缓存, 该缓存用来 记录每个分组正在使用的分表序号。
Αβ、 定时植查 Α5中获取的分组当前分表序号缓存, 如果定时器 超吋, 未接收到分表管理退出信号则转歩骤 Α7, 如果接收到分表管 理退出信号则退出分表管理流程, 根据经验数据设置定时器超时间 check— interval为 1小时。
A7、 適历分组当前分表序号缓存, 如果未遍历完则转歩骤 A8, 若遍历完则转步骤 A6;
检査所有当前正在使用标记为 1的分表.后,进入下一次栓査的定 时器等待周期, 该 期的值为估算值, 檢查分表容量时, 数据插入不 可用' 为了防止频繁检查, 这个时间周期最好设定的长一些, 而 需 要保证两次检査点之间》分表的数据行超过分表规则允许的分表内行 总数讓 count不会太多。
A8、 根据当前分组的组号和分表序号, 获取当前正在使用标记 current— flag为 1的分表数据行数 table— row— count,假设分组号为
% 分表序号为 3 ;
A9、 如果 A8中的 tab le—row— count, 大于分表规则 φ分表内行 总数 row— count , 则转步骡 A 10、 否则转歩骤 A7 ;
A10、 创建分组号为 2, 分表序号为 4 新分表, 设置分表序号 为 4的 current—flag为 1 , injse jlag为 1, 将分表序号为 4的分 表信息插入数据库分表信息表,同时在分表信息表中修改分表序号为 3的 current—flag为 0, 更新分组分表信息缓存, 插入分表序号 4的 分表信息,并更新分组当前分表序号缓存中分組 2对应的当前分表序 号为 4;
创建新的分表后, 需要更新数据库分表信息表, 最新增加的分表 一定就是当前使用的分表,同时 要更新分组分表信息缓存和分組当 前分表序号缓存, 作为数据插入时获取分表的依掘。
Al l、 根据分组分表信息缓存判断当前分组中分表总数是否大于 分表规则中分組内分表数总数 split— count ,如果大于则转步骤 A12 , 如果小于则转歩骤 A7 ;
A 12、 更新数据库分表信息表中该分組号对应的分表序号最小的 分表信息, 将该分表的巳使用标记 incise—flag置为 0, 表示这个分 表在查询时不会使用, 而且需要将数据进行转移, 然后从分组分表信 息缓存中删除该分表的记录,转步骤 A l l。例如在分组 2中,若 spl it — TOunt为 3, 则将分表序号为 1的分表的 iiuse—flag设置为 0, 然 后在分组分表信息缓存中删除分组 2内分表序号为 1分表的信息。 图 5示出了历史数据插入的处理流程, 包括以下步骤:
Bl、根据插入数据的内容确定数据业务分组的组号,根据分组当 前分表信息缓存获取当前正在使用标记为 1的分表序号,根据数据对 应的分表重新排列插入数攝顺序,插入以分組号 分表序号为键, 插 入数据内容为值的皿 ap ;
B2 , 遍历 map , 遍历完成则退出, 未完成转步驟 Β3。
Β3 , 根掘分组号为分表序号获取分表名, 将数摁插入分表中。
由于分组分表的存在,一批数据可能写入到不同分組的不同分表 中, 为了防 ih不 «切换数据写入时使用的分表, 在插入前按照分表与 数据对应的方式将数据重新排列, 减少表切換使用的时间,这样既可 以保证数据的顺序, 也¾1以提高数据插入的效率。 图 6示出了历史数据査询的处理流程, 包括以下歩 «:
C1、读取数据库 Φ分表信息表内巳使用标记 in—use— flag为 1的 分表信息;
C2、解析査询条件, 分析需要包含的分组, 然后将相关分组中所 有的分表设置为查 i旬目标分表列表, 倒如用 (X, Y)来标识一个唯一 的分表, 其中 X标识分組号, Y标识分组内的分表序号, 当需要查询 的分组号包括 1 , 2 , 3 时, 则最终需要査询的分表列表为- (1, 1), (2, 2),(2, 3),(2, 4), (3, 1),(3, 2) , (3, 3);
C3、 遍历査询所有分表, 若査询结果有优先缓的要求, 则 C2中 的 列 表 需 要 按 优 先 缓 排 序 , 倒 如 : (1, 1), (2, 4), (2, 3) , (2, 2), (3, 3) , (3, 2), (3, 1》,然后依次串行查谁; 若查询结果无优先级的要求, 则 C2中的列表没有顺序, 査询可以并 行执行, 合并所有的查询结果, 返回。 圏 7示出了历史数据转移的处理流程, 包括以下步骤:
Dl、 读取数据库分表信息表中所有已使用标记 in— use— flag为 0 的分表信息, 保存到以分组号为键, 分表序号列表为值的 map中, 例 如分组号为 2的分组 φ, 分表序号为 1, 2的分表的已使用标记为 0;
02、 依次適历 D1中获取的 imp, 获取的分组号和分表序号列表, 然后適历分表序号列表, 如果未完成遍历, 则转步骤 U3. 完成遍历 后退出;
03、如適历的当前分表为分组 2内分表序号为 1的分表, 构建的 表名为 TJIISDATAJ— 1, 通过数据库工具或者 SQL脚本直接将分表中 所有记录导出到外部文件:
D4、 从数据库分表信息表 Φ删除分表号为 2, 分表序号为 1的信 息;
D5、 从数据库中删除分表 T— HISDATA— 2— 1 , 转步骤 D2。 本说明书中未作详细描述的 Λ容属于本领域专业技术人员公知 的现有技术。
Claims
1 . 一种网管海量历史数据管理方法, 其特征在于: 通过二级分 表规则实现数据库分表,把保存有网管海量历史数据的单个表保存的 数据, 切分后保存到多个结 相同的分表中, 减少单表的容量, 从而 提高单表的处理效率, 并对各个分表进行以下管理:
A 历史数据分表管理, B 历史数据插入管理, C 历史数据查询管 理, D 历史数据转移管理。
2. 如权利要求 1所述的网管海量历史数据管理方法, 其特征在 于- 二级分表规则用《1格式的文件紀录, 其中:
历史数据类型 data—type, 表示数据表保存数据的类型, 分组总数 group— count, 表示对这种数攝表分组的总数, 分组内分表总数 sp lit— count , 表示每个分组内分表数最大值, 分表内行总数 ro^ count, 表示分表 ή行总数, 当一个分表的数 据量超过这个值的时候, 就需要创建一个新的分表。
3. 如权利要求 2所述的网管海量历史数据管理方法, 其特征在 于, 所述历史数据分表管理的处理流程包括以下步骤:
Al、读取记载有数据表的二级分表规则的文件, 获取历史数据类 型 data— type、分组总数 group— count、分组内分表总数 sp l it— count 和分表 F¾行总数 row— count;
读取数据库分表信息表, 获取所有分表的分组号 group no , 分 表序号 table JM 当前正在使用标记 current— flag和已使用标记 in^use^flag, 将这些信息保存到一个分组号为键, 分表信息列表为 值的 ma 对象中, 所¾分表信息列表包括分表序号 table— n0、 当前 正在使用标记 current— flag和已使 ffi标记 in— use— flag, 其中 map 的键的取值范围从 1到分组总数 grwip^ count, 如果在数据库分表信 息表中没有某个键对应的分表信息,那么在 ap中该键对应的分表信 息列表就为空;
A2、 遍历 A1得到的 map对象;
A3、根据適历的结果, 如果 map对象中当前分组号对应的分表信 息列表为空, 则转至步骤 M , 否则, 转至步骤 A5;
A4、在当前分组号的分组 ψ创建一个可用的分表, 分配分表序号 为 1 . 设置分表当前正在使用标记为 1, 已使用标记为 1 , 将该分表 的信息插入数据库分表信息表后转至步骤 A5 ;
A5、将数据库分表信息表中 i己载的分表信息, 按分組号为键, 逐 条插入到分组分表信息缓存 Ψ,该缓存用亍记录所有分組中已创建的 分表的信息,
将当前正在使用标记为 1的分表信息,桉分组号为键,将分表序 号插入分组当前分表序号缓存,该缓存记录每个分组中 curretrt—f lag 为 1的分表的分表序号, 转步骤 A6;
分組当前分表序号缓存内的分表,需要检查其是否超过分表内行 总数;
A6、使用定时器并等待, 如果定时器未超时则一直等待, 当定时 器超时后,如果接收到应用程序退出的信号,则退出历史数据分表管 理的处理流程; 否则, 转入步骤 A7;
A7、 遍历分组当前分表序号缓存, 如果未遍历完则转步骠 A8, 若遍历完则转歩骤 A6;
Λ8 ,读取当前分组中分表序号, 根据当前分组的组号和分表序号 构造分表的名称, 获取分表数据行数;
Λ9、如果分表数据行数大于分表规则中分表内行总数 row count , 则转步骤 Α 10、 否则转歩驟 Α7;
Α10、 创建新分表, 新分表的分表序号为分表所在分组 Φ原来 current— flag为 1的分表的分表序号值加上 1 ,然后在数据库分表信 息表中插入该新分表的信息,并将该新分表的信息插入到分组分表信 息缓存中,然后将分組当前分表序号缓存 Φ的当前分组对应的分表序 号改为新分表的分表序号;
A1 K 判断当前分组中分表总个数是否大于分组内分表总数 split— coiurt, 如果大于则转歩骤 A12, 如果小于则转步骤 A7;
A 12、 更新数据库分表信息表中该分组内分表序号最小分表的已 使用标记 in^use^fla 为 0,标识该分表不会在数据插入和査询中使 用, 并将被历史数据转移管理流程处理, 并从分组分表信息缓存 Ψ删 除该分表的记录, 转步骤 A l l。
4. 如权利要求 3所述的网管海量历史数据管理方法, 其特征在 于, 所 历史数据插入管理的处理流程包括以下歩骤:
B 根据插入数据的内容确定数据並务分组的组号,根据分组当 前分表序号缓存获取分表序号, 根据分表和数据¾辑对应关系,重新 排列插入数掘内容, 存入以分组号和分表序号为键, 插入数据 ή存为 值的 map中;
B2、 遍历 B1中的 map, 遍历完成则退出, 否则转步骤 B3 ;
B3、根据当前分组号和分表序号, 构造分表名称, 插入数掘到当 前分表中, 转步骤 B2。
5. 如权利要求 3所述的网管海量历史数搦管理方法, 其特征在 于, 所途历史数据査询管理的处理流程包括以下歩骤- ci、 读取数据库分表信息表 ή已使用标记为 1的分表信息;
C2、 分析查询条件、 获取所有相关分组分表的表名列表;
C3、 棍掘查询条件査询所有 C2中的分表。
6. 如权利要求 3所述的网管海量历史数据管理方法, 其特征在 于, 所述历史数据转移管理的处理流程包括以下步骤:
Dl、按分组号读取数据库分表信息表中所有已使用标记为 0的分 表信息记录,保存到以分组号为键, 分表序号列表为值的 map中;
02、 遍历 获取的 ap , 遍历完成后退出;
D3、根据当前分组号和分表序号, 构造分表名称, 使用批处理工 具直接导出指定分表名称的分表中所有行记录
M、 根据分組号和分表序号从数据库分表信息表中删除分表信 息;
D5、 根据分表名称从数据库中删除分表, 转步骤 D2。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PH12014502368A PH12014502368B1 (en) | 2012-10-19 | 2014-10-22 | Method for managing mass historical data of network management |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201210401421.6A CN102867071B (zh) | 2012-10-19 | 2012-10-19 | 一种网管海量历史数据管理方法 |
| CN201210401421.6 | 2012-10-19 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2014059808A1 true WO2014059808A1 (zh) | 2014-04-24 |
Family
ID=47445940
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/CN2013/079993 Ceased WO2014059808A1 (zh) | 2012-10-19 | 2013-07-24 | 一种网管海量历史数据管理方法 |
Country Status (4)
| Country | Link |
|---|---|
| CN (1) | CN102867071B (zh) |
| MY (1) | MY187641A (zh) |
| PH (1) | PH12014502368B1 (zh) |
| WO (1) | WO2014059808A1 (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115048411A (zh) * | 2021-03-08 | 2022-09-13 | 京东科技控股股份有限公司 | 数据处理方法、装置、系统、介质及程序产品 |
| CN115208899A (zh) * | 2022-06-29 | 2022-10-18 | 安阳师范学院 | 一种改进的p2p海量科学数据同步方法 |
Families Citing this family (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102867071B (zh) * | 2012-10-19 | 2015-04-29 | 烽火通信科技股份有限公司 | 一种网管海量历史数据管理方法 |
| CN103810238A (zh) * | 2013-11-20 | 2014-05-21 | 国家电网公司 | 一种基于异步处理的大数据量Excel文件导出方法 |
| CN103812691A (zh) * | 2014-01-14 | 2014-05-21 | 浪潮电子信息产业股份有限公司 | 一种集群负载均衡系统的日志统计系统及方法 |
| CN104360997B (zh) * | 2014-04-01 | 2017-11-14 | 芜湖齐创自动化系统有限公司 | 一种基于结构化数据库的大数据漂移方法 |
| CN104035974B (zh) * | 2014-05-22 | 2017-02-15 | 烽火通信科技股份有限公司 | 通用的Web网管对象选取器及选取方法 |
| CN104182546B (zh) * | 2014-09-09 | 2017-10-27 | 北京国双科技有限公司 | 数据库的数据查询方法及装置 |
| CN104715076B (zh) * | 2015-04-13 | 2019-03-12 | 东信和平科技股份有限公司 | 一种多线程数据处理方法及装置 |
| CN106294423A (zh) * | 2015-05-25 | 2017-01-04 | 阿里巴巴集团控股有限公司 | 数据库分表的写入方法及装置 |
| CN104965873A (zh) * | 2015-06-10 | 2015-10-07 | 努比亚技术有限公司 | 一种分页查询方法及装置 |
| CN105095393B (zh) * | 2015-06-30 | 2018-11-16 | 努比亚技术有限公司 | 一种数据存储方法及装置 |
| CN105930504B (zh) * | 2016-05-10 | 2019-04-16 | 烽火通信科技股份有限公司 | 一种网管时序文件并发处理系统及并发处理方法 |
| CN106897365B (zh) * | 2017-01-11 | 2020-02-14 | 北京市天元网络技术股份有限公司 | 数据处理方法及装置 |
| CN106886568B8 (zh) * | 2017-01-12 | 2018-05-01 | 掌阅科技股份有限公司 | 一种分表方法、装置及电子设备 |
| CN109144991B (zh) * | 2017-06-15 | 2021-09-14 | 北京京东尚科信息技术有限公司 | 动态分表的方法、装置、电子设备和计算机可存储介质 |
| CN107633097B (zh) * | 2017-10-16 | 2018-09-25 | 马上消费金融股份有限公司 | 一种数据库表的动态扩容方法及系统 |
| CN108108434A (zh) * | 2017-12-19 | 2018-06-01 | 福建中金在线信息科技有限公司 | 一种管理数据库的方法及装置 |
| CN108304671B (zh) * | 2018-02-12 | 2021-07-27 | 厦门海迈科技股份有限公司 | 建筑信息模型的数据管理方法及相关装置 |
| CN110222115A (zh) * | 2019-04-30 | 2019-09-10 | 武汉达梦数据库有限公司 | 基于表初始化分组装载的数据库同步方法及设备 |
| CN110740198B (zh) * | 2019-10-21 | 2022-12-23 | 杭州迪普科技股份有限公司 | 邻居表项管理方法、装置、电子设备及机器可读存储介质 |
| CN110825739B (zh) * | 2019-10-30 | 2021-07-16 | 京东数字科技控股有限公司 | 建表语句生成方法、装置、设备及存储介质 |
| CN116842009A (zh) * | 2023-06-19 | 2023-10-03 | 首约科技(北京)有限公司 | 一种便于调整的巨量表优化方法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030154206A1 (en) * | 2002-02-08 | 2003-08-14 | Sanyo Electric Co., Ltd. | File data storage management method, file data storage device, program executing processing for storing file data, and storage medium |
| CN101149744A (zh) * | 2007-10-18 | 2008-03-26 | 中兴通讯股份有限公司 | 对多个数据源的数据进行统一排序的方法 |
| CN101566986A (zh) * | 2008-04-21 | 2009-10-28 | 阿里巴巴集团控股有限公司 | 联机事务处理中的数据处理方法和装置 |
| CN102542054A (zh) * | 2011-12-29 | 2012-07-04 | 厦门雅迅网络股份有限公司 | 一种利用缓存表来提高数据库数据插入性能的方法 |
| CN102867071A (zh) * | 2012-10-19 | 2013-01-09 | 烽火通信科技股份有限公司 | 一种网管海量历史数据管理方法 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101216821B (zh) * | 2007-01-05 | 2010-06-16 | 中兴通讯股份有限公司 | 数据采集系统的存储管理方法 |
| CN102033882B (zh) * | 2009-09-25 | 2013-07-03 | 中兴通讯股份有限公司 | 一种性能数据的存储方法及系统 |
| CN101697152A (zh) * | 2009-10-23 | 2010-04-21 | 金蝶软件(中国)有限公司 | 一种数据库存储系统及其数据的拆分方法和装置 |
-
2012
- 2012-10-19 CN CN201210401421.6A patent/CN102867071B/zh not_active Expired - Fee Related
-
2013
- 2013-07-24 MY MYPI2014703210A patent/MY187641A/en unknown
- 2013-07-24 WO PCT/CN2013/079993 patent/WO2014059808A1/zh not_active Ceased
-
2014
- 2014-10-22 PH PH12014502368A patent/PH12014502368B1/en unknown
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030154206A1 (en) * | 2002-02-08 | 2003-08-14 | Sanyo Electric Co., Ltd. | File data storage management method, file data storage device, program executing processing for storing file data, and storage medium |
| CN101149744A (zh) * | 2007-10-18 | 2008-03-26 | 中兴通讯股份有限公司 | 对多个数据源的数据进行统一排序的方法 |
| CN101566986A (zh) * | 2008-04-21 | 2009-10-28 | 阿里巴巴集团控股有限公司 | 联机事务处理中的数据处理方法和装置 |
| CN102542054A (zh) * | 2011-12-29 | 2012-07-04 | 厦门雅迅网络股份有限公司 | 一种利用缓存表来提高数据库数据插入性能的方法 |
| CN102867071A (zh) * | 2012-10-19 | 2013-01-09 | 烽火通信科技股份有限公司 | 一种网管海量历史数据管理方法 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115048411A (zh) * | 2021-03-08 | 2022-09-13 | 京东科技控股股份有限公司 | 数据处理方法、装置、系统、介质及程序产品 |
| CN115208899A (zh) * | 2022-06-29 | 2022-10-18 | 安阳师范学院 | 一种改进的p2p海量科学数据同步方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| MY187641A (en) | 2021-10-06 |
| PH12014502368A1 (en) | 2015-01-12 |
| PH12014502368B1 (en) | 2020-02-19 |
| CN102867071A (zh) | 2013-01-09 |
| CN102867071B (zh) | 2015-04-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2014059808A1 (zh) | 一种网管海量历史数据管理方法 | |
| US11238098B2 (en) | Heterogenous key-value sets in tree database | |
| KR102290835B1 (ko) | 유지관리 동작들을 위한 병합 트리 수정들 | |
| KR102307957B1 (ko) | 다중-스트림 저장 장치를 위한 스트림 선택 | |
| TWI682274B (zh) | 鍵值儲存樹 | |
| TWI702506B (zh) | 用於合併樹廢棄項目指標之系統、機器可讀媒體及機器實施之方法 | |
| CN106503008B (zh) | 文件存储方法和装置及文件查询方法和装置 | |
| AU2012217645B2 (en) | Managing buffer overflow conditions | |
| CN104462141B (zh) | 一种数据存储与查询的方法、系统及存储引擎装置 | |
| CN110196847A (zh) | 数据处理方法和装置、存储介质及电子装置 | |
| CN110825733A (zh) | 一种面向多采样流的时间序列数据管理方法及系统 | |
| CN115878027B (zh) | 一种存储对象的处理方法、装置、终端及存储介质 | |
| CN107133329A (zh) | 数据处理方法、数据处理装置及存储介质 | |
| CN106294546A (zh) | 一种内存存储特定设备端口状态数据的方法 | |
| CN110990394B (zh) | 分布式面向列数据库表的行数统计方法、装置和存储介质 | |
| CN118708830A (zh) | 一种业务请求性能指标聚合统计方法、装置、设备、介质 | |
| CN110321358A (zh) | 一种用户数据整编的方法及装置 | |
| CN121901049A (zh) | 轻量级采集web容器日志生成可观测数据的方法及系统 | |
| CN116578562A (zh) | Redis数据库分析方法、装置、电子设备及存储介质 | |
| CN118276782A (zh) | 计算任务的执行方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 13846463 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 13846463 Country of ref document: EP Kind code of ref document: A1 |