CN105224252A - 数据存储方法及装置 - Google Patents

数据存储方法及装置 Download PDF

Info

Publication number
CN105224252A
CN105224252A CN201510629719.6A CN201510629719A CN105224252A CN 105224252 A CN105224252 A CN 105224252A CN 201510629719 A CN201510629719 A CN 201510629719A CN 105224252 A CN105224252 A CN 105224252A
Authority
CN
China
Prior art keywords
data
stored
buffer memory
locality
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510629719.6A
Other languages
English (en)
Inventor
杨德立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qihoo Technology Co Ltd
Qizhi Software Beijing Co Ltd
Original Assignee
Beijing Qihoo Technology Co Ltd
Qizhi Software Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qihoo Technology Co Ltd, Qizhi Software Beijing Co Ltd filed Critical Beijing Qihoo Technology Co Ltd
Priority to CN201510629719.6A priority Critical patent/CN105224252A/zh
Publication of CN105224252A publication Critical patent/CN105224252A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Memory System Of A Hierarchy Structure (AREA)

Abstract

本发明公开了一种数据存储方法及装置,涉及信息处理技术领域,可以实现数据的缓存存储与本地存储同时进行,提升数据存储效率。所述方法包括:首先获取在缓存中待存储的数据;然后判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;若当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。本发明适用于对数据进行存储。

Description

数据存储方法及装置
技术领域
本发明涉及一种信息处理技术技术,特别是涉及一种数据存储方法及装置。
背景技术
随着信息处理技术的快速发展,数据存储的方式越来越多,应用场景也越来越广泛。例如,当用户在浏览各个网站时,需要对打点信息或异常信息等数据进行采集以便在特定时机进行传输。因此,在特定时机到来之前,需要对采集的数据进行存储。
目前,在对采集的数据进行存储时,通常将数据缓存到应用内存中或者将数据存储在本地。然而,当存储数据量较大时,如果将数据缓存到应用内存中,会占用应用内存较多;并且当应用运行异常时,会造成缓存在应用内存中的数据丢失。而将数据存储在本地时,由于需要频繁对数据进行I/O操作(Input/Output,即输入输出端口),从而增大内存开销。
发明内容
有鉴于此,本发明提供一种数据存储方法及装置,主要目的在于减少内存的消耗,提高数据的存储效率。
依据本发明一个方面,提供了一种数据存储方法,包括:
获取在缓存中待存储的数据;
判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;
若是,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
依据本发明一个方面,提供了一种数据存储装置,包括:
获取单元,用于获取在缓存中待存储的数据;
判断单元,用于判断所述获取单元获取的当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;
存储单元,用于若所述判断单元判断当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
借由上述技术方案,本发明实施例提供的技术方案至少具有下列优点:
本发明实施例提供的数据存储方法及装置,首先获取在缓存中待存储的数据;然后判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。与目前对采集的数据进行缓存存储或者进行本地存储相比,本发明通过将缓存存储与本地存储相结合的方式对数据进行存储,当需要存储的数据量较小时,对数据进行缓存存储,降低本地存储数据时对数据进行I/O操作的次数,从而减小内存开销,当需要存储的数据量较大时,再将缓存中的数据存储在本地,提高了数据存储的效率。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种数据存储方法流程图;
图2示出了本发明实施例提供的另一种数据存储方法流程图;
图3示出了本发明实施例提供的一种数据存储装置结构示意图;
图4示出了本发明实施例提供的另一种数据存储装置结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明实施例提供一种数据存储方法,如图1所示,所述方法包括:
101、获取在缓存中待存储的数据。
其中,所述待缓存的数据可以为各个移动终端中应用软件收集的打点数据或异常数据。打点数据可以为点击某图片的次数,也可以为用户登录某网站的次数等,本发明实施例不做限定。例如,用户在访问某应用软件时,系统每隔一段时间对用户点击图片的次数进行采集,收集的数据即为打点数据。异常数据可以为用户在访问某游戏软件时,游戏运行错误或游戏异常退出生成的数据,也可以为用户登录网站被动退出生成的数据,本发明实施例不做限定。例如,用户在访问某游戏软件时,当游戏运行错误或游戏异常退出,此类数据即为异常数据。
对于本发明实施例,所述获取待缓存的数据具体可以为:首先建立数据收集功能接口,然后通过数据收集功能接口获取待缓存的数据,其中,建立的数据收集功能接口的数量和类型可以满足对不同类型的数据进行获取。例如,当待缓存的数据为打点数据时,建立的接收打点数据的功能接口可以为为publicstaticvoiddot(DottingKeykey,inttimes),其中,timse是计数次数,key为打点ID。再例如,当待缓存的数据为异常数据时,建立的接收异常数据的功能接口为publicstaticvoiddoterror(ExceptionTypesmErrorType,StringmErrorMsg),其中,mErrorType是异常类型,mErrorMsg为异常数据。
102、判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值。
其中,所述预设阈值可以为3、4、5、20条数据等,本发明实施例不做限定。具体可以根据接收的数据在缓存中能存储的最佳值设置,也可以根据人为经验设置,具体预设阈值可以根据数据收集的需求灵活进行配置。例如,预设阈值为20,即缓存中可以存储的数据量的最大值为20条,此时,判断判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于20条。
103、若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
其中,所述当前缓存中存储的数据是对应于本次存储的上一次存储在缓存中的数据且所述数据没有达到预设阈值。
例如,预设阈值为800条,当前缓存中存储的数据为500条,待存储的数据为300条,缓存中的数据与待存储的数据之和为800条,刚好等于预设阈值,则将缓存中的500条数据和待缓存的300条数据存储在本地,并删除缓存中的500条数据。再如,缓存中的数据为500条,待存储的数据为400条,缓存中的数据与待存储的数据之和为900条,大于预设阈值800条,则进行上述相同的处理。对于本发明实施例,通过判断待存储数据的数据量是否达到缓存中预设阈值,从而确定缓存存储或本地存储,实现了将缓存存储与本地存储相结合的方式对数据进行存储。提高了数据存储的效率。
对于本发明实施例,具体的应用场景可以如下所示,但不限于此,包括:获取在缓存中待存储的打点数据为20条,当前缓存中存储的打点数据为15条,预设阈值为30条,此时判断当前缓存中存储的打点数据与所述待存储的打点数据的数据量之和为35条,大于预设阈值30条,此时,将缓存中存储的15条数据删除,并将缓存中存储的15条数据和待存储的20条数据存储在本地数据库中,从而实现了将缓存存储与本地存储相结合的方式对数据进行存储。提高了数据存储的效率。
本发明实施例提供的数据存储方法,首先获取在缓存中待存储的数据;然后判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。与目前对采集的数据进行缓存存储或者进行本地存储相比,本发明通过将缓存存储与本地存储相结合的方式对数据进行存储,当需要存储的数据量较小时,对数据进行缓存存储,降低本地存储数据时对数据进行I/O操作的次数,从而减小内存开销,当需要存储的数据量较大时,再将缓存中的数据存储在本地,提高了数据存储的效率。
进一步地,本发明实施例提供另一种数据存储方法,如图2所示,所述方法包括:
201、获取在缓存中待存储的数据。
其中,所述待缓存的数据可以为各个移动终端中应用软件收集的打点数据或异常数据。打点数据可以为点击某条新闻的次数,也可以为用户使用某浏览器的次数等,本发明实施例不做限定。例如,用户在登录某新闻网站时,系统每隔一段时间对用户点击某条新闻的次数进行采集,收集的数据即为打点数据。异常数据可以为用户在使用某应用软件时,系统提示运行错误生成的数据,也可以是用户下载文件失败生成的数据,本发明实施例不做限定。例如,用户在使用Word导出表格时,导出错误或异常所产生的数据,即为异常数据。
对于本发明实施例,所述获取待缓存的数据具体可以为:首先建立数据收集功能接口,然后通过数据收集功能接口获取待缓存的数据,其中,建立的数据收集功能接口的数量和类型可以满足对不同类型的数据进行获取。
202、判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值。
其中,所述预设阈值可以为1、2、10、15条数据等,本发明实施例不做限定。具体可以根据接收的数据在缓存中能存储的最佳值设置,也可以根据人为经验设置,具体预设阈值可以根据数据收集的需求灵活进行配置。例如预设阈值为10,即缓存中可以存储的数据量的最大值为10条,此时,判断当前缓存中存储的数据与所述待存储的数据量之和是否大于或等于10条。
对于本发明实施例,步骤202之前还可以包括识别待存储的所述数据对应的数据类别,所述数据类别可以为打点数据、异常数据等类别,本发明实施例不做限定。其中,所述识别待存储的所述数据对应的数据类别是将获取的杂乱的数据进行区分,按打点数据和异常数据类别区分后,将对应的数据传输到对应的功能接口。
对于本发明实施例,所述识别待存储的所述数据对应的数据类别具体可以为:首先,从数据集中的数据识别出打点数据或异常数据,然后根据不同的类别将数据通过对应的接口进行接收。例如,首先从数据集{点击某图片次数30次,点击某新闻次数5次,被网站异常退出的次数1次}中识别出打点数据为点击某图片次数30次或点击某新闻次数5次,异常数据为被网站异常退出的次数1次。当需要存储点击某图片次数30次或点击某新闻次数5次时,通过接收打点数据的功能接口publicstaticvoiddot(DottingKeykey,inttimes)进行数据传输,当需要存储被网站异常退出的次数1次时,通过接收异常数据的功能接口publicstaticvoiddoterror(ExceptionTypesmErrorType,StringmErrorMsg)进行数据传输。
此时,步骤202具体可以包括:若所述待存储的所述数据对应的数据类别为打点数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第一预设阈值;若所述待存储的所述数据对应的数据类别为异常数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第二预设阈值。对于本发明实施例,由于不同类别的数据单条数据量不同,因此不同类别的数据对应的预设阈值不同。通过为不同类别的数据分别配置不同的预设阈值,可以提高对于缓存中存储的数据量的判断精度,进而进一步提升数据存储的效率。
其中,所述第一预设阈值是根据打点数据存储量设置,可以为20、21条数据等,本发明实施例不做限定。例如,若待存储的数据的数据类型为打点数据,则可以通过功能函数privatestaticfinalintSAVE_COUNT=20,将第一预设阈值配置为20。所述第二预设阈值是根据异常数据存储量设置,可以为2、3、4条数据等,本发明实施例不做限定。例如,若待存储的数据的数据类型为打点数据,则可以通过功能函数privatestaticfinalintSAVE_ERROR_COUNT=3,将第二预设阈值配置为3。
203a、若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
其中,所述当前缓存中存储的数据是对应于本次存储的上一次存储在缓存中的数据且所述数据没有达到预设阈值。例如,预设阈值为15,当前待存储数据为30条,缓存中数据为10条,待存储的数据和缓存中的之和40条大于预设阈值,首先将待存储在本地的40条数据存储在本地内存中,同时将缓存中数据清空。清空后的缓存立即执行下一次的判断。对于本发明实施例,通过将待存储的数据和缓存中的所述数据存储在本地,实现缓存存储与本地存储的同时进行,避免数据丢失。
对于本发明实施例,所述将所述待存储的数据和缓存中的所述数据存储在本地具体可以为:将所述待存储的数据和缓存中的所述数据异步存储在本地。对于本发明实施例,通过将所述待存储的数据和缓存中的所述数据异步存储在本地,可以进一步提升数据的存储效率。
与步骤203a并列的步骤203b、若当前缓存中存储的数据与所述待存储的数据的数据量之和小于预设阈值,则将所述待存储的数据存储在所述缓存中。
例如,预设阈值为30,当前缓存中存储为5条,待存储的数据为10条,缓存中的数据与待存储的数据之和为15条,小于预设阈值,则待存储的的10条数据存储在缓存中。对于本发明实施例,通过将数据量之和小于预设阈值的待存储数据存储在缓存中,从而减小数据因频繁操作对I/O接口造成的负担,提高了数据存储的效率。
204、当接收到数据上传指令时,分别从所述缓存中和所述本地中获取存储的数据。
其中,所述数据上传指令用于指示将存储的数据上传到网络服务器。例如,在接收到数据上传命令之前,缓存中的数据为5条,本地中的数据为50条,当接收到上传命令时,分别获取存储在缓存中的5条数据与存储在本地的50条数据。
205、将所述数据进行上传。
对于本发明实施例,通过将缓存中和所述本地中获取存储的数据一并进行上传,可以保证进行上传的数据的完成性,避免丢失数据。
对于本发明实施例,步骤205之前还可以包括:将所述缓存中存储的数据保存在本地。例如,将数据进行上传之前,缓存存储的数据为10条,本地存储的数据为60条,首先将缓存中的10条数据存储在本地,然后将缓存中的10条数据和本地中的60条数据作为上传数据。对于本发明实施例,在上传之前,通过将缓存中的数据存储到本地,可以避免了因上传时出现异常情况而导致的缓存中的数据丢失,从而进一步保证上传数据的完整性。
对于本发明实施例,具体的应用场景可以如下所示,但不限于此,包括:从数据集中识别待存储数据为异常数据,获取待存储的5条异常数据,当前缓存中的异常数据为3条,第二预设阈值为6,此时判断当前缓存中存储的异常数据与所述待存储的异常数据之和为8条,大于第二预设阈值6条,此时,将缓存中存储的3条异常数据和待存储的5条异常数据存储在本地数据库中,并将缓存中的3条异常数据删除,进行下一次判断。重新获取3条异常数据,判断当前缓存中存储的异常数据与所述待存储的数据之和为3,小于第二预设阈值6条,将待存储的异常数据直接存储在缓存中。当接收到上传命令时,将缓存中的3条数据存储在本地数据库中,将本地数据库中的11条异常数据同时上传。从而实现将缓存存储于本地存储相结合的方法进行数据存储,提高数据存储的效率。
本发明实施例提供的数据存储方法,首先获取在缓存中待存储的数据;然后判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。与目前对采集的数据进行缓存存储或者进行本地存储相比,本发明通过将缓存存储与本地存储相结合的方式对数据进行存储,当需要存储的数据量较小时,对数据进行缓存存储,降低本地存储数据时对数据进行I/O操作的次数,从而减小内存开销,当需要存储的数据量较大时,再将缓存中的数据存储在本地,提高了数据存储的效率。
进一步地,作为图1所示方法的具体实现,本发明实施例提供一种数据存储装置,如图3所示,所述装置可以包括:获取单元31、判断单元32、存储单元33。
所述获取单元31,可以用于获取在缓存中待存储的数据。
所述判断单元32,可以用于判断所述获取单元31获取的当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值。
所述存储单元33,可以用于若所述判断单元32判断当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
需要说明的是,本发明实施例提供的一种数据存储装置所涉及各功能单元的其他相应描述,可以参考图1所示方法中的对应描述,在此不再赘述。
本发明实施例提供的一种数据存储装置,首先获取在缓存中待存储的数据;然后判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。与目前对采集的数据进行缓存存储或者进行本地存储相比,本发明通过将缓存存储与本地存储相结合的方式对数据进行存储,当需要存储的数据量较小时,对数据进行缓存存储,降低本地存储数据时对数据进行I/O操作的次数,从而减小内存开销,当需要存储的数据量较大时,再将缓存中的数据存储在本地,提高了数据存储的效率。
进一步地,作为图2所示方法的具体实现,本发明实施例提供另一种数据存储装置,如图4所示,所述装置可以包括:获取单元41、判断单元42、存储单元43。
所述获取单元41,可以用于获取在缓存中待存储的数据。
所述判断单元42,可以用于判断所述获取单元41获取的当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值。
所述存储单元43,可以用于若所述判断单元42判断当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
进一步地,所述存储单元43,还用于若当前缓存中存储的数据与所述待存储的数据的数据量之和小于预设阈值,则将所述待存储的数据存储在所述缓存中。
进一步地,所述存储单元43,具体还用于将所述待存储的数据和缓存中的所述数据异步存储在本地。
进一步地,所述装置还可以包括:
所述上传单元44,可以用于将所述数据进行上传。
进一步地,所述存储单元43,具体还用于当接收到数据上传指令时,分别从所述缓存中和所述本地中获取存储的数据。
所述识别单元45,可以用于识别待存储的所述数据对应的数据类别,所述数据类别包括打点数据和/或异常数据。
进一步地,所述判断单元42,可以用于若所述待存储的所述数据对应的数据类别为打点数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第一预设阈值;
进一步地,所述判断单元42,可以还用于若所述待存储的所述数据对应的数据类别为异常数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第二预设阈值。
需要说明的是,本发明实施例提供的一种数据存储装置所涉及各功能单元的其他相应描述,可以参考图2所示方法的对应描述,在此不再赘述。
本发明实施例提供的另一种数据存储装置,首先获取在缓存中待存储的数据;然后判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;若当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。与目前对采集的数据进行缓存存储或者进行本地存储相比,本发明通过将缓存存储与本地存储相结合的方式对数据进行存储,当需要存储的数据量较小时,对数据进行缓存存储,降低本地存储数据时对数据进行I/O操作的次数,从而减小内存开销,当需要存储的数据量较大时,再将缓存中的数据存储在本地,提高了数据存储的效率。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
可以理解的是,上述方法及装置中的相关特征可以相互参考。另外,上述实施例中的“第一”、“第二”等是用于区分各实施例,而并不代表各实施例的优劣。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一种数据存储的方法及装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本发明公开了A1、一种数据存储方法,包括:
获取在缓存中待存储的数据;
判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;
若是,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
A2、如A1所述的方法,所述判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值之后,还包括:
若否,则将所述待存储的数据存储在所述缓存中。
A3、如A1所述的方法,所述将所述待存储的数据和缓存中的所述数据存储在本地包括:
将所述待存储的数据和缓存中的所述数据异步存储在本地。
A4、如A1所述的方法,所述方法还包括:
当接收到数据上传指令时,分别从所述缓存中和所述本地中获取存储的数据;
将所述数据进行上传。
A5、如A4所述的方法,所述将所述数据进行上传之前还包括:
将所述缓存中存储的数据保存在本地。
A6、如A1-A5所述的方法,所述判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值之前,所述方法还包括:
识别待存储的所述数据对应的数据类别,所述数据类别包括打点数据和/或异常数据。
A7、如A6所述的方法,所述判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值包括:
若所述待存储的所述数据对应的数据类别为打点数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第一预设阈值;
若所述待存储的所述数据对应的数据类别为异常数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第二预设阈值。
本发明公开了B8、一种数据存储装置,包括:
获取单元,用于获取在缓存中待存储的数据;
判断单元,用于判断所述获取单元获取的当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;
存储单元,用于若所述判断单元判断当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
B9、如B8所述的装置,
所述存储单元,还用于若当前缓存中存储的数据与所述待存储的数据的数据量之和小于预设阈值,则将所述待存储的数据存储在所述缓存中。
B10、如B8所述的装置,
所述存储单元,具体用于将所述待存储的数据和缓存中的所述数据异步存储在本地。
B11、如B8所述的装置,所述装置还包括:上传单元;
所述获取单元,还用于当接收到数据上传指令时,分别从所述缓存中和所述本地中获取存储的数据;
所述上传单元,用于将所述数据进行上传。
B12、如B11所述的装置,
所述存储单元,还用于将所述缓存中存储的数据保存在本地。
B13、如B8-B12所述的装置,所述装置还包括:
识别单元,用于识别待存储的所述数据对应的数据类别,所述数据类别包括打点数据和/或异常数据。
B14、如B13所述的装置,
所述判断单元,具体用于若所述待存储的所述数据对应的数据类别为打点数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第一预设阈值;
所述判断单元,具体还用于若所述待存储的所述数据对应的数据类别为异常数据,则判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于第二预设阈值。

Claims (10)

1.一种数据存储方法,其特征在于,包括:
获取在缓存中待存储的数据;
判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;
若是,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
2.根据权利要求1所述的数据存储方法,其特征在于,所述判断当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值之后,还包括:
若否,则将所述待存储的数据存储在所述缓存中。
3.根据权利要求1所述的数据存储方法,其特征在于,所述将所述待存储的数据和缓存中的所述数据存储在本地包括:
将所述待存储的数据和缓存中的所述数据异步存储在本地。
4.根据权利要求1所述的数据存储方法,其特征在于,所述方法还包括:
当接收到数据上传指令时,分别从所述缓存中和所述本地中获取存储的数据;
将所述数据进行上传。
5.根据权利要求4所述的数据存储方法,其特征在于,所述将所述数据进行上传之前还包括:
将所述缓存中存储的数据保存在本地。
6.一种数据存储装置,其特征在于,包括:
获取单元,用于获取在缓存中待存储的数据;
判断单元,用于判断所述获取单元获取的当前缓存中存储的数据与所述待存储的数据的数据量之和是否大于或等于预设阈值;
存储单元,用于若所述判断单元判断当前缓存中存储的数据与所述待存储的数据的数据量之和大于或等于预设阈值,则将所述待存储的数据和缓存中的所述数据存储在本地并删除缓存中的所述数据。
7.根据权利要求6所述的数据存储装置,其特征在于,
所述存储单元,还用于若当前缓存中存储的数据与所述待存储的数据的数据量之和小于预设阈值,则将所述待存储的数据存储在所述缓存中。
8.根据权利要求7所述的数据存储装置,其特征在于,
所述存储单元,具体用于将所述待存储的数据和缓存中的所述数据异步存储在本地。
9.根据权利要求6所述的数据存储装置,其特征在于,所述装置还包括:上传单元;
所述获取单元,还用于当接收到数据上传指令时,分别从所述缓存中和所述本地中获取存储的数据;
所述上传单元,用于将所述数据进行上传。
10.根据权利要求9所述的数据存储装置,其特征在于,
所述存储单元,还用于将所述缓存中存储的数据保存在本地。
CN201510629719.6A 2015-09-28 2015-09-28 数据存储方法及装置 Pending CN105224252A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510629719.6A CN105224252A (zh) 2015-09-28 2015-09-28 数据存储方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510629719.6A CN105224252A (zh) 2015-09-28 2015-09-28 数据存储方法及装置

Publications (1)

Publication Number Publication Date
CN105224252A true CN105224252A (zh) 2016-01-06

Family

ID=54993258

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510629719.6A Pending CN105224252A (zh) 2015-09-28 2015-09-28 数据存储方法及装置

Country Status (1)

Country Link
CN (1) CN105224252A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106339183A (zh) * 2016-08-29 2017-01-18 东软集团股份有限公司 数据检索的方法及服务器
CN106354667A (zh) * 2016-08-30 2017-01-25 浪潮(北京)电子信息产业有限公司 一种固态硬盘的缓存控制方法及装置
CN106599235A (zh) * 2016-12-20 2017-04-26 四川长虹电器股份有限公司 车联网系统新闻获取方法
CN106598497A (zh) * 2016-12-09 2017-04-26 郑州云海信息技术有限公司 一种服务器集群数据存储方法及装置
CN109362103A (zh) * 2018-10-30 2019-02-19 维沃移动通信有限公司 一种数据缓存方法及终端设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1889063A (zh) * 2006-08-04 2007-01-03 北京中星微电子有限公司 数字信号处理器子系统及其数据处理方法
US20070232222A1 (en) * 2006-03-29 2007-10-04 De Jong Dick Method and system for managing audio data
CN102541878A (zh) * 2010-12-17 2012-07-04 新奥特(北京)视频技术有限公司 一种非线性编辑中工程文件的存储方法及装置
CN103858110A (zh) * 2011-10-07 2014-06-11 株式会社日立制作所 存储系统
CN104166567A (zh) * 2014-08-12 2014-11-26 广州金山网络科技有限公司 一种下载网络流数据的方法及装置
CN104536699A (zh) * 2014-12-11 2015-04-22 中国科学院声学研究所 一种基于嵌入式文件系统的流式数据写入方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070232222A1 (en) * 2006-03-29 2007-10-04 De Jong Dick Method and system for managing audio data
CN1889063A (zh) * 2006-08-04 2007-01-03 北京中星微电子有限公司 数字信号处理器子系统及其数据处理方法
CN102541878A (zh) * 2010-12-17 2012-07-04 新奥特(北京)视频技术有限公司 一种非线性编辑中工程文件的存储方法及装置
CN103858110A (zh) * 2011-10-07 2014-06-11 株式会社日立制作所 存储系统
CN104166567A (zh) * 2014-08-12 2014-11-26 广州金山网络科技有限公司 一种下载网络流数据的方法及装置
CN104536699A (zh) * 2014-12-11 2015-04-22 中国科学院声学研究所 一种基于嵌入式文件系统的流式数据写入方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106339183A (zh) * 2016-08-29 2017-01-18 东软集团股份有限公司 数据检索的方法及服务器
CN106339183B (zh) * 2016-08-29 2020-02-11 东软集团股份有限公司 数据检索的方法及服务器
CN106354667A (zh) * 2016-08-30 2017-01-25 浪潮(北京)电子信息产业有限公司 一种固态硬盘的缓存控制方法及装置
CN106354667B (zh) * 2016-08-30 2019-03-15 浪潮(北京)电子信息产业有限公司 一种固态硬盘的缓存控制方法及装置
CN106598497A (zh) * 2016-12-09 2017-04-26 郑州云海信息技术有限公司 一种服务器集群数据存储方法及装置
CN106598497B (zh) * 2016-12-09 2019-09-24 郑州云海信息技术有限公司 一种服务器集群数据存储方法及装置
CN106599235A (zh) * 2016-12-20 2017-04-26 四川长虹电器股份有限公司 车联网系统新闻获取方法
CN109362103A (zh) * 2018-10-30 2019-02-19 维沃移动通信有限公司 一种数据缓存方法及终端设备

Similar Documents

Publication Publication Date Title
CN105224252A (zh) 数据存储方法及装置
CN104486461B (zh) 域名分类方法和装置、域名识别方法和系统
CN102932207B (zh) 监测网站访问信息的方法及服务器
CN102932206B (zh) 监测网站访问信息的方法和系统
CN103034483A (zh) 网页脚本管理方法和系统
CN108427731A (zh) 页面代码的处理方法、装置、终端设备及介质
CN105528439A (zh) 浏览器标签内的页面切换方法及装置
CN104050292A (zh) 省流量模式搜索服务的方法、服务器、客户端和系统
CN104932980A (zh) 软件自动测试方法及装置
CN105095423A (zh) 计数数据写入方法和装置
CN105095367A (zh) 一种客户端数据的采集方法和装置
CN105447167A (zh) 分布式系统中节点缓存数据的处理方法及装置
CN105553968A (zh) 一种实现多账号登录的方法和装置
CN103617390A (zh) 一种恶意网页判断方法、装置和系统
CN105204964A (zh) 基于云盘的数据备份方法及装置
CN103944935A (zh) 一种网址信息投放方法和装置
CN109145194A (zh) 用户行为数据的采集方法及装置
CN112783749A (zh) 一种静态代码扫描优化方法、装置、电子设备和存储介质
CN103544271A (zh) 一种浏览器中加载图片处理窗口的方法和装置
CN107623627A (zh) 一种信息回复方法及装置、终端和可读存储介质
CN113626483B (zh) 一种填写表单的前端缓存方法、系统、设备及存储介质
CN103678312A (zh) 一种推荐网址的方法与客户端
CN103049313B (zh) 用于浏览器的标签关闭装置和方法
CN105204907A (zh) 浏览器启动方法和装置
CN105389401A (zh) 数据库性能测试方法与装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20160106